II.6Документация и сопровождение разработки

MDBX-7B — языковая модель, созданная слиянием leveldevai/MarcDareBeagle-7B и leveldevai/MarcBeagle-7B с помощью LazyMergekit и метода SLERP. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Максимальная длина контекста составляет 32 768 токенов. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0. Модель можно использовать для генерации продолжений текста и других задач, основанных на текстовой генерации. README описывает конфигурацию слияния, но не приводит результаты оценок качества или сведения о специальных возможностях, поэтому конкретные преимущества и качество в отдельных сценариях определить нельзя.

MegaBeam-Mistral-7B-512k-GGUF — набор GGUF-квантизаций модели MegaBeam-Mistral-7B-512k, разработанной aws-prototyping и подготовленной для llama.cpp пользователем bartowski. Модель предназначена для генерации текста и локального запуска, в частности через llama.cpp и LM Studio. Она относится к семейству Mistral и имеет размер 7B параметров; поддерживает контекст до 512 тысяч токенов. Данные о языках и мультимодальности не указаны, поэтому модель следует рассматривать как текстовую. Доступны варианты от F16 до низкобитных Q2 и IQ-квантизаций, размером примерно от 2,50 до 14,48 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а низкие снижают требования к памяти ценой качества; в README рекомендуются, среди прочих, варианты Q4_K_M, Q5 и Q6. Квантизации созданы с использованием imatrix и llama.cpp b3600. Модель не поддерживает системный промпт и требует формата приглашения «<s> [INST] {prompt} [/INST]». В обновлённой версии заявлены улучшения пользовательского опыта и исправление проблем с повторениями. Распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков или подробного описания качества, поэтому фактические возможности модели в конкретных задачах требуют самостоятельной проверки.

Mercury 2.5 — языковая модель на основе диффузии (dLLM), разработанная Inception. Она предназначена для генерации текста и рассуждений; вместо последовательной выдачи токенов модель генерирует и уточняет несколько токенов параллельно. В доступной части карточки Mercury 2.5 названа самой быстрой reasoning LLM компании и её новейшей диффузионной языковой моделью. Данных о размере, контексте, языках, лицензии и ограничениях в предоставленных материалах нет.

Merged AGI 7B — языковая модель для генерации текста, разработанная Talha Rüzgar Akkuş на базе архитектуры Mistral. Репозиторий TheBloke содержит её квантизированные версии в формате GGUF, предназначенные для запуска через llama.cpp и совместимые сторонние интерфейсы и библиотеки. В карточке также указано обучение или дообучение с использованием набора данных MetaMathQA, а среди основных сценариев отмечены текстовая генерация и математические задачи. Модель имеет размер 7B параметров, поддерживает английский язык и использует шаблон запросов ChatML с системными и пользовательскими сообщениями. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством; возможен инференс на CPU и GPU. Ограничения включают заявленную ориентацию на английский язык и потенциальные потери качества, связанные с квантизацией. Лицензия модели — CC BY-NC 4.0, предусматривающая некоммерческое использование с соблюдением условий лицензии.

mergekit-community/mergekit-dare_ties-ajgjgea — объединённая языковая модель семейства Llama, созданная сообществом с помощью метода DARE TIES в mergekit. В качестве базовой использована KidIkaros/Llama-3.2-1B-Instruct-abliterated; в объединение также вошли DeepAutoAI/Explore_Llama-3.2-1B-Inst_v1.1 и passing2961/Thanos-1B. Модель содержит 1,2 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors; нативная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалогового использования. Она принимает текстовые запросы и выдаёт текст; метаданные отмечают интерфейс вызова инструментов. Карточка не уточняет отдельные языковые или предметные специализации. Лицензия в предоставленных сведениях не указана.

Это объединённая методом TIES модель семейства Llama 3.2, созданная с помощью mergekit на базе meta-llama/Llama-3.2-1B. В объединение вошли инструкция-настроенные и специализированные варианты Llama 3.2 1B, в том числе модели для медицинских вопросов, математики, программирования, SQL, commonsense QA и китайского языка. Модель содержит 1,2 млрд параметров и предназначена для генерации текста; заявленная длина контекста — 131 072 токена. Модель может быть полезна для диалогов и ответов на вопросы, включая медицинские, математические и общеобразовательные запросы, а также для генерации SQL и кода. Состав объединения предполагает широкий набор навыков, но карточка не приводит оценок качества или сравнительных тестов. Модель распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

duyntnet/Meta-Llama-3.1-8B-Instruct-imatrix-GGUF — набор квантизированных версий Meta-Llama-3.1-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и интерфейсы: JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Указанный язык — английский. Модель основана на архитектуре Meta-Llama 3.1 с размером 8 миллиардов параметров и поставляется в формате GGUF с imatrix-квантизацией. Это позволяет снизить требования к памяти и запускать модель локально, однако квантизация может уменьшать точность по сравнению с исходной полноразмерной версией. Для использования рекомендуется актуальная версия llama.cpp; README уточняет, что квантизация выполнена с помощью версии b3482 для устранения проблемы с rope scaling. Максимальный размер контекста и конкретные варианты квантизации в README не указаны. Лицензия обозначена как other, без дополнительных условий в представленном README. Модель предназначена для text-generation и conversational inference, но README не содержит самостоятельных результатов оценки качества или подробного описания ограничений исходной модели.

duyntnet/Meta-Llama-3-8B-Instruct-imatrix-GGUF — набор квантизированных версий Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в формате чат-бота, через llama.cpp, Transformers и совместимые инструменты. Она поддерживает английский язык; заявленный тип задачи — text-generation. В основе лежит instruct-модель семейства Llama 3 с размером 8B параметров. Репозиторий содержит варианты в формате GGUF с imatrix-квантизацией, ориентированные на более эффективное локальное выполнение при сниженных требованиях к памяти. README не указывает точное значение размера контекста, перечень доступных уровней квантизации, аппаратные требования или поддержку мультимодальных входов, поэтому модель следует считать текстовой. Сильными сторонами являются возможность локального запуска и совместимость с экосистемой llama.cpp и Transformers. Ограничения включают специализацию на английском языке и потенциальное снижение точности из-за квантизации по сравнению с исходной версией. В карточке указана лицензия other; дополнительные условия использования в README не раскрыты.

Mew1-2.6B — текстовая генеративная модель семейства LFM2, выпущенная разработчиком Unmid. Она предназначена для локального диалогового взаимодействия, творческого письма, ролевых сценариев, выполнения инструкций и экспериментов на оборудовании с ограниченными ресурсами. Модель ориентирована прежде всего на английский язык и поддерживает формат чата, близкий к ChatML, включая использование инструментов. Архитектура модели — гибридная LFM2 с классом Lfm2ForCausalLM; она содержит около 2,69 млрд параметров, 30 слоёв и словарь из 128 000 токенов. Данный checkpoint настроен на контекст до 128 000 токенов и распространяется в формате BF16 Safetensors, разделённом на четыре файла. Для локального запуска также доступны варианты GGUF с различными уровнями квантования; независимые GGUF-сборки и репозиторий с ними публикуются отдельно. К сильным сторонам относятся небольшой по современным меркам размер, большой контекст, поддержка Transformers без пользовательского кода и возможность запуска на ограниченных ресурсах. При этом опубликованные материалы не содержат полного отчёта о воспроизводимости и независимого набора бенчмарков для модификации Mew1, поэтому качество следует проверять на собственных задачах. Модель может генерировать ошибочные, предвзятые, небезопасные или вымышленные ответы; сниженное количество отказов не означает надёжность или пригодность для ответственных решений. Модель распространяется по лицензии LFM Open License v1.0 с указанными в ней условиями атрибуции и коммерческого использования.

QuantTrio/MiniMax-M2.7-AWQ — AWQ-квантизированная версия языковой модели MiniMax-M2.7, разработанной MiniMax AI. Модель предназначена для генерации текста и может использоваться в задачах диалогового взаимодействия, обработки запросов и других сценариях, поддерживаемых базовой text-generation-моделью. Данные о точной архитектуре, числе параметров, поддерживаемых языках и исходной длине контекста в README не приведены. Квантизация выполнена без калибровочного набора данных с использованием data-free quantization tool. Модель ориентирована на запуск через vLLM и Transformers; в конфигурации сервера указан максимальный контекст 32 768 токенов, а также поддержка tool calling и reasoning parser для MiniMax M2.7. Размер файлов модели составляет около 122 GiB. Для распределённого запуска рекомендуется конфигурация с tensor parallelism на восемь GPU и expert parallelism. Основные преимущества — уменьшенный по сравнению с исходной моделью объём хранения и возможность производительного инференса через vLLM. Ограничения включают потенциальное снижение качества из-за квантизации, отсутствие опубликованных количественных оценок качества и высокие требования к аппаратному обеспечению и версиям программных компонентов: vLLM 0.19.0 или новее, Transformers 5.5.4 или новее и CUDA 12.8 или 13.0. Лицензия указана как modified-MIT; применимые условия следует уточнять по файлу лицензии исходного проекта.

MiniMax-M2-MLX-6bit — это 6-битно квантованная версия языковой модели MiniMax-M2 для генерации текста. Исходную модель разработала MiniMaxAI, а квантование в формате MLX выполнила команда LM Studio с использованием mlx_lm. Модель предназначена для запуска в LM Studio и оптимизирована для устройств Apple Silicon. В README указано, что модель относится к задачам text-generation и распространяется по лицензии MIT. Известна её MLX-архитектура представления и 6-битная квантизация, однако сведения о размере модели, поддерживаемых языках, длине контекста, точных характеристиках архитектуры и мультимодальности не приведены. Квантизация ориентирована на более эффективный локальный запуск, но может влиять на качество по сравнению с исходной моделью. Как и другие языковые модели, она способна генерировать неточные, нежелательные или вводящие в заблуждение ответы.

HifiHu/Ministral-3-14B-abliterated — модифицированная версия Ministral-3-14B-Instruct-2512 от Mistral, созданная с помощью abliteration: методом, который изменяет внутренние представления модели, чтобы ослабить поведение отказа. Это плотная модель семейства Mistral 3 примерно на 14 млрд параметров, распространяемая в формате SafeTensors с BF16 и рассчитанная на диалоговую генерацию текста. Метаданные также указывают интерфейс вызова инструментов; базовая модель мультимодальна, но карточка этой версии не подтверждает обработку изображений. Модель подходит для диалогов и ответов на широкий круг запросов, включая темы, на которые исходная instruct-модель могла бы отказать. Abliteration не гарантирует точность ответов и может снизить эффективность защитных ограничений. В карточке указан английский язык. Лицензия — Apache 2.0; автор позиционирует модель для исследований и обучения.

EnlistedGhost/Ministral-3-3B-Instruct-2512-GGUF — это квантованная версия инструкционной мультимодальной модели Ministral-3-3B-Instruct-2512-BF16, разработанной Mistral AI и преобразованной в формат GGUF пользователем EnlistedGhost с помощью llama.cpp. Модель предназначена для диалогов, выполнения инструкций и задач image-text-to-text с использованием текста и изображений. Она совместима с llama.cpp, Ollama и Yollama и подходит для локального запуска на различных устройствах. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. В репозитории представлены варианты квантования от IQ2_M и Q2_K_L до Q8_0_L и F16, а также мультимодальные vision-проекторы F16 и F32. В комплекте используется собственный шаблон чата Jinja со скользящим окном до 29 сообщений, которое можно изменить вручную. Основные преимущества модели — компактный размер 3B, локальная работа, поддержка изображений и широкий выбор уровней квантования, позволяющих выбирать баланс между качеством и требованиями к памяти. Ограничения включают возможное снижение качества по сравнению с исходной BF16-версией при агрессивном квантовании, а также зависимость корректной работы мультимодальных функций от совместимого vision-проектора и программного окружения. Модель распространяется по лицензии Apache-2.0.

Ministral-3-8B-Reasoning-2512-Uncensored-i1-GGUF — квантованная версия модели Ministral-3-8B-Reasoning-2512-Uncensored, разработанной ccharnkij и подготовленной в формате GGUF пользователем mradermacher. Модель относится к семейству Mistral/Ministral и ориентирована на генерацию текста и задачи, требующие рассуждений. В README также указана поддержка сценариев image-text-to-text, то есть работы с изображениями и текстом; для этого могут потребоваться отдельные mmproj-файлы. Модель имеет размер 8B параметров согласно идентификатору и предназначена для локального запуска через совместимые инструменты, поддерживающие GGUF. Доступны варианты квантования от крайне компактных IQ1 до более качественных Q6 и других форматов, что позволяет выбирать компромисс между размером файла, скоростью и качеством. Заявлен английский язык. Размер контекста, точная архитектура, перечень поддерживаемых языков помимо английского и результаты сравнительных тестов в README не указаны. Сильными сторонами являются наличие reasoning-настройки, мультимодальная поддержка и широкий выбор квантованных вариантов, включая версии с imatrix. Ограничения связаны с потерями качества при агрессивном квантовании, а также с отсутствием подробных данных о производительности, контекстном окне и фактических возможностях работы с изображениями. В метаданных указана лицензия Apache-2.0.

QuantFactory/Ministral-3b-instruct-GGUF — квантованная версия языковой модели ministral/Ministral-3b-instruct, созданная QuantFactory с использованием llama.cpp. В основе лежит GPT-подобная архитектура семейства Mistral с примерно 3 млрд параметров; модель дообучена на смеси общедоступных и синтетических наборов данных и основана на Mistral-7B-v0.1. Модель предназначена для генерации текста и инструкционного взаимодействия, включая запуск локальных сценариев благодаря квантованному формату GGUF. Она ориентирована прежде всего на английский язык и относится к моделям текстовой генерации. Ключевое преимущество — меньшее количество параметров по сравнению с крупными моделями Mistral, что потенциально упрощает локальное развертывание, однако README не указывает конкретные требования к памяти, варианты квантования, размер контекста, точные показатели качества или поддерживаемые модальности. Лицензия — Apache 2.0.

Карточка модели NostraEmpire/mirror-deepseek-r1-distill-qwen-32b на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

mirrorqwen2.5-0.5b-ORPO-2 — дообученная компанией rawsh языковая модель для генерации текста. Она основана на rawsh/mirrorqwen2.5-0.5b-ORPO-1 и обучена с использованием TRL. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 494 млн параметров и рассчитана на контекст до 32 768 токенов. Модель подходит для генерации ответов на вопросы и диалоговых сценариев через Transformers. В карточке указаны формат safetensors и библиотека Transformers. Лицензия в предоставленных данных не указана.

mirrorqwen2.5-0.5b-SimPO-2 — дообученная модель семейства Qwen2, созданная на основе rawsh/mirrorqwen2.5-0.5b-SimPO-1. Согласно карточке, обучение выполнено с использованием TRL; модель предназначена для генерации текста и показана в примере диалогового ответа на вопрос пользователя. Модель имеет плотную архитектуру Qwen2ForCausalLM и около 494 млн параметров. Метаданные указывают контекст до 32 768 токенов и формат весов safetensors. Лицензия и конкретные поддерживаемые естественные языки в предоставленных сведениях не обозначены.

mrm8488/mistral-7b-ft-h4-no_robots_instructions — дообученная модель на основе Mistral-7B-v0.1, созданная автором репозитория на датасете HuggingFaceH4/no_robots для следования инструкциям. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации ответов на текстовые запросы и выполнения инструкций на английском языке. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает её назначение как модель для instruction following, однако не приводит оценок качества, деталей обучения или результатов сравнительных тестов. Возможности могут отличаться от современных чат-моделей; сведения о дополнительной настройке диалогового поведения не приведены.

MaziyarPanahi/Mistral-7B-Instruct-v0.2-GGUF — это набор файлов модели в формате GGUF для Mistral-7B-Instruct-v0.2, разработанной Mistral AI (mistralai) и преобразованной в квантизированный формат MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Базовая модель имеет 7 миллиардов параметров и относится к семейству Mistral Instruct. В репозитории доступны варианты квантизации с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством. Формат GGUF поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. README не содержит сведений о языках, размере контекста, точной архитектуре или результатах оценки качества. Основные преимущества — возможность локального запуска, широкий выбор уровней квантизации и поддержка GPU-ускорения в совместимых приложениях. Ограничения связаны с потерей части качества при более агрессивной квантизации, а также с необходимостью выбирать подходящий GGUF-файл и программную среду. Модель распространяется по лицензии Apache-2.0.

duyntnet/Mistral-7B-Instruct-v0.3-imatrix-GGUF — набор квантизированных вариантов модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI и представленной в формате GGUF с использованием imatrix-квантизации. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке, включая выполнение инструкций, ответы на вопросы и сценарии с вызовом функций или инструментов. Модель относится к семейству Mistral и имеет размер 7B параметров согласно идентификатору. Это текстовая instruct-модель с поддержкой форматов и библиотек, совместимых с GGUF; README также показывает использование через mistral-inference и Hugging Face Transformers. Длина контекста, точные варианты квантизации, аппаратные требования и дополнительные модальности не указаны. К сильным сторонам относятся компактный размер по сравнению с более крупными языковыми моделями, возможность локального запуска в квантизированном виде и поддержка инструкций и function calling. Ограничения включают заявленную языковую поддержку только для английского, отсутствие данных о качестве, бенчмарках и контекстном окне, а также возможные потери качества, зависящие от выбранного уровня квантизации. В карточке указана лицензия «other», но её конкретные условия не раскрыты.

yethdev/mistral-7b-manumit-v1 — диалоговая языковая модель на основе Mistral-7B-Instruct-v0.3, доработанная методом abliteration с помощью инструмента manumit v1. Она предназначена для генерации текста и ответов в чате; README описывает снижение частоты отказов на запросы. По метаданным, модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В сравнении из README частота отказов указана как 2,1% против 16,7% у базовой модели, а результат MMLU — 61,2 против 61,8. Модель подходит для диалоговых сценариев и генерации ответов с менее строгими ограничениями на отказы. Abliteration-инструмент manumit в README назван находящимся в разработке; приведённые показатели ограничены указанным сравнением и сами по себе не характеризуют качество на других задачах. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

EmbeddedLLM/Mistral-7B-Merge-14-v0.1 — экспериментальная плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная EmbeddedLLM. Она объединяет несколько моделей Mistral-7B методом DARE TIES, а затем объединяется с janai-hq/trinity-v1 методом Gradient SLERP; среди исходных моделей указана mistralai/Mistral-7B-v0.1. Модель предназначена для генерации текста и диалогов, а её базовая версия, согласно карточке, хорошо работает, но требует дополнительного дообучения на инструкциях. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. В репозитории представлены веса safetensors; метаданные также указывают возможность чата. Использование регулируется лицензией CC BY-NC 4.0, которая запрещает коммерческое применение. Карточка сообщает о проблемах загрязнения обучающих данных в некоторых моделях, участвовавших в первоначальном объединении, и описывает последующую пересборку без названных моделей.

duyntnet/Mistral-7B-OpenOrca-imatrix-GGUF — набор квантизированных версий языковой модели Mistral-7B-OpenOrca, опубликованный пользователем duyntnet. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции и вопросы на английском языке. В карточке указано, что она доступна в формате GGUF с использованием imatrix-квантизации и предназначена для запуска средствами, поддерживающими этот формат. Исходная модель использует архитектуру Mistral с 7 млрд параметров и обучена или дообучена организацией Alignment Lab AI на базе Open-Orca; точные сведения о процедуре обучения в карточке не приведены. Поддерживается формат ChatML с токенами <|im_start|> и <|im_end|>, а также шаблон чата Transformers. Это упрощает использование модели в совместимых интерфейсах и библиотеках, но для инференса может потребоваться версия Transformers из репозитория разработки. Основные ограничения — заявлен только английский язык, отсутствуют данные о точном размере контекста, производительности, качестве на тестах и рекомендуемых параметрах запуска. Лицензия обозначена как other, без дополнительных условий в предоставленной карточке, поэтому конкретные права и ограничения использования требуют проверки по исходной лицензии модели.

Chat-Error/Mistral-Claude-merged — объединённая модель для генерации текста, созданная методом slerp с помощью LazyMergekit на основе fblgit/UNA-TheBeagle-7b-v1 и Chat-Error/Kimiko-Claude-FP16. В карточке README эта сборка названа NeuralPipe-7B-slerp; метаданные указывают архитектуру MistralForCausalLM, плотную архитектуру и размер 7,1 млрд параметров. Модель распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Сведения о конкретных специализациях, поддерживаемых языках, лицензии и результатах оценки качества в предоставленных материалах отсутствуют.

Dory 12b — дообученная BeaverAI версия Mistral Nemo Base 2407 с 12,1 млрд параметров. Модель предназначена для генерации текста в формате инструкций и диалога; для запросов используется шаблон с секциями System, Instruction и Response, похожий на Alpaca. Модель не ориентирована специально на эротический или ролевой контент. Она построена на плотной архитектуре Mistral и распространяется в формате safetensors через библиотеку Transformers. В метаданных указан контекст до 1 024 000 токенов и поддержка английского языка. Модель выпущена под лицензией Apache-2.0. README не приводит результатов оценки качества или подробностей о данных дообучения, кроме указания датасета BeaverAI/Nemo-Inst-Tune-ds в метаданных.

Это диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная дообучением Mistral-7B-Instruct-v0.2 методом SFT. Модель предназначена для генерации текста и ответов в диалоговом формате; базовая модель поддерживает контекст до 32 768 токенов. Карточка сообщает значение loss 0,2876 на оценочном наборе, но не описывает сам набор данных, методику оценки или специализированные сценарии применения. Модель опубликована в формате Safetensors под лицензией Apache-2.0. Возможности и качество за пределами общей генерации текста по доступным сведениям оценить нельзя.

ESarp/Mistral-Nemo-12B-AttackTree-DPO — дообученная ESarp языковая модель для генерации текста и диалогов. Она основана на unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Архитектура — плотная MistralForCausalLM, размер — 12,1 млрд параметров, длина контекста — до 131 072 токенов. Карточка указывает английский язык и формат safetensors. Модель предназначена для генерации ответов в текстовом чате; метаданные также отмечают интерфейс вызова инструментов. Название указывает на DPO и деревья атак, однако карточка не описывает соответствующее обучение или специализированные сценарии, поэтому эти свойства нельзя считать подтверждёнными. Лицензия — Apache-2.0.

Mistral-Nemo-Prism-12B-GGUF — это набор квантизированных версий текстовой генеративной модели Mistral-Nemo-Prism-12B, опубликованный пользователем bartowski. Базовая модель разработана nbeerbower и дополнительно обучалась с использованием наборов данных Arkhaios-DPO и Purpura-DPO. Файлы представлены в формате GGUF для запуска через llama.cpp и совместимых приложений, включая LM Studio. Модель предназначена для генерации текста и диалоговых сценариев; в README указан шаблон промпта с ролями system, user и assistant. Доступны варианты от полного F16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Размер базовой модели составляет 12B параметров, однако сведения о поддерживаемых языках, длине контекста и мультимодальности не приведены. Сильной стороной является широкий выбор квантизаций: варианты Q6 и Q5 заявлены как близкие к исходному качеству, а Q4 — как подходящие для большинства сценариев. Некоторые варианты оптимизированы для ARM, но требуют соответствующей аппаратной поддержки и не рекомендуются для Mac или Windows. К ограничениям относятся снижение качества у компактных вариантов и отсутствие подробных данных о качестве, языках и контекстном окне. Модель распространяется по лицензии Apache-2.0.

Novocoders/Mistral-NeuralDPO-v0.6 — дообученная компанией Novocoders языковая модель Mistral для генерации текста. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста на основе текстового запроса. README не описывает специализированные сценарии или результаты оценки. Она дообучена на неизвестном наборе данных, поэтому её сильные стороны и ограничения для конкретных задач по имеющимся сведениям оценить нельзя. Доступна по лицензии Apache-2.0.