I.5Создание и редактирование текста

MarsupialAI/MG-FinalMix-72B_iMatrix_GGUF — GGUF-сборка объединённой чат-модели на основе Alpindale/Magnum-72B-v1 и Qwen/Qwen2-72B-Instruct. Репозиторий содержит iMatrix GGUF-файлы; модель предназначена для генерации текста в диалоговом формате. Метаданные указывают поддержку английского и китайского языков и размер базовой модели 72 млрд параметров. Описание не содержит подробностей о контекстном окне, вариантах квантования или дополнительных характеристиках генерации. Лицензия указана как other, поэтому условия использования следует сверять с лицензиями исходных моделей и файлами репозитория.

DevQuasar-9/microsoft.Phi-4-mini-instruct-GGUF — это квантизированная версия модели Phi-4-mini-instruct, разработанной Microsoft. Модель предназначена для генерации текста и использования в сценариях, где требуется работа с инструкциями и текстовыми запросами. В карточке указано, что модель относится к классу text-generation и распространяется в формате GGUF, подходящем для совместимого локального запуска. Сведения о точном размере, варианте квантизации, архитектуре, длине контекста, поддерживаемых языках и дополнительных модальностях не приведены. К сильным сторонам относятся уменьшенные требования к хранению и вычислительным ресурсам по сравнению с полной версией, однако квантизация может влиять на качество ответов. Лицензия и условия использования в README не указаны.

Midnight-Miqu-103B-v1.0 — языковая модель, созданная sophosympatheia методом passthrough-слияния слоёв Midnight-Miqu-70B-v1.0 с самой собой. Это плотная авторегрессионная модель семейства Llama на 102,9 млрд параметров, распространяемая в формате safetensors для Transformers; карточка заявляет контекст до 32 тыс. токенов и возможность диалогового использования. Модель предназначена для генерации текста и ответов в чате с длинным контекстом. В карточке приведены ссылки на отдельные сторонние квантованные сборки GGUF и EXL2; сам репозиторий содержит safetensors. Лицензия указана как other, поэтому условия использования следует сверить с файлами и сведениями лицензии репозитория. README отсылает к карточке базовой Midnight-Miqu-70B-v1.0 за подробностями применения, поэтому конкретные языки, качество и ограничения здесь не уточнены.

Midnight-Miqu-103B-v1.5 — языковая модель с архитектурой Llama, созданная FluffyKaeloky методом passthrough-слияния слоёв модели sophosympatheia/Midnight-Miqu-70B-v1.5. Она содержит 102,9 млрд параметров и рассчитана на генерацию текста в диалоговом формате, включая сценарии, где нужен длинный контекст до 32 764 токенов. Модель подходит для ведения диалогов и генерации продолжений текста. В README также перечислены сторонние квантизованные сборки GGUF и EXL2; репозиторий модели содержит веса в safetensors. Языковая специализация модели в доступных данных не указана. Сборка основана на Miqu и использует слои исходной модели, повторённые в трёх диапазонах. Лицензия в предоставленных данных не указана.

MiMo-V2-Flash — большая языковая модель Xiaomi для генерации текста, диалогов, рассуждений и агентных сценариев, включая работу с инструментами. В README она описана как MoE-модель с гибридным вниманием, многотокенным предсказанием и 309 млрд параметров, из которых активно используются 15 млрд. Метаданные Hugging Face указывают архитектуру MiMoV2FlashForCausalLM, 12 млрд параметров и файлы Safetensors в формате FP8; это расходится с характеристиками размера в README. Модель принимает текст и рассчитана на контекст до 262 144 токенов. Модель предназначена для быстрых ответов, сложных рассуждений и агентных рабочих процессов; карточка также сообщает о результатах на SWE-Bench и других тестах. Для развёртывания README рекомендует SGLang и описывает вариант запуска с выгрузкой MoE-экспертов на CPU через KTransformers. Языки в предоставленных данных не перечислены. Лицензия — MIT. Реальное качество зависит от задачи и конфигурации развёртывания; заявленные в README результаты бенчмарков являются оценками разработчика.

MiniCPM4.1-8B — языковая модель OpenBMB для диалогов, рассуждений и генерации текста. Это плотная причинная модель семейства MiniCPM с 7,9 млрд параметров; карточка сообщает о гибридном режиме рассуждений с обучаемым разреженным вниманием и ускорении декодирования с помощью speculative decoding. Модель поддерживает контекст до 65 536 токенов и рассчитана на китайский и английский языки. Модель подходит для диалоговых ассистентов, пошагового решения задач и генерации длинных ответов. Её можно запускать через Transformers, SGLang, vLLM, CPM.cu, llama.cpp и Ollama; для Transformers требуется версия 4.56 или новее. В README заявлены сильные результаты на задачах рассуждения и ускорение генерации, но конкретные оценки в предоставленной карточке не приведены. Модель распространяется по лицензии Apache-2.0. Для работы с полной точностью требуется достаточно памяти для модели такого размера; фактическая скорость и доступная длина генерации зависят от оборудования и конфигурации. В предоставленных данных не описаны специальные механизмы снижения риска ошибочных ответов.

MiniCPM4.1-8B-Russian-CPT-i1-GGUF — это квантизированная версия русскоязычной текстовой модели ALEKAS/MiniCPM4.1-8B-Russian-CPT, подготовленная mradermacher в формате GGUF. Модель основана на архитектуре MiniCPM и содержит около 8 миллиардов параметров. В качестве обучающего набора указан its5Q/biggest-ru-book; базовая библиотека — Transformers. Модель предназначена для генерации и обработки текста, прежде всего на русском языке, а также на английском. Она может использоваться локально в сценариях текстовой генерации и других задачах, поддерживаемых causal language models. Доступны многочисленные варианты квантизации i1, различающиеся размером, скоростью и качеством: от примерно 2 до 6,8 ГБ. В README не указаны размер контекста, поддерживаемые модальности, результаты тестирования или точные прикладные возможности. К преимуществам относятся специализация на русском языке, выбор компактных квантизированных вариантов и возможность локального запуска при ограниченных ресурсах. Ограничения зависят от выбранного типа квантизации: наиболее компактные варианты могут заметно уступать по качеству, тогда как более качественные требуют больше памяти. Модель распространяется по лицензии Apache-2.0.

MiniCPM5-1B-CoreAI — это версия языковой модели MiniCPM5-1B, разработанной OpenBMB и экспортированной в формат Apple Core AI. Модель предназначена для генерации текста и диалоговых сценариев с полностью локальным выполнением на iPhone и компьютерах Apple Silicon, включая офлайн-ассистентов, суммаризацию и многотуровые чаты. В каталоге Core AI она запускается через CoreAIKit или напрямую средствами Core AI. Модель содержит около 1,08 млрд параметров, поддерживает гибридный режим рассуждений Think/No-Think и контекст до 128K токенов. Представленная версия использует квантизацию int8 с блоками размера 32; для Neural Engine также доступна 8-битная палетизированная сборка с группами по 32. Размер загружаемого пакета составляет около 1,1 ГБ, а сборка для iPhone 17-класса занимает около 1,3 ГБ. Указаны измерения производительности на iPhone 17 Pro: до 76,8 токена в секунду при декодировании в отдельных тестах Neural Engine. Сильные стороны модели — небольшой размер, работа без отправки данных в облако, поддержка длинного контекста и эффективное выполнение на GPU или Neural Engine. Ограничения связаны с привязкой к экосистеме Apple и Core AI, а также с тем, что характеристики зависят от устройства, режима запуска и конкретной сборки. Языки и полный перечень поддерживаемых возможностей в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

MiniCPM-S-1B-sft-llama-format — языковая модель, преобразованная ModelBest, OpenBMB и THUNLP из MiniCPM-S-1B-sft в формат LLaMA для удобства использования. Это плотная авторегрессионная модель семейства LLaMA с 1,4 млрд параметров и контекстом до 4096 токенов; она принимает текст и генерирует текст, в том числе в диалоговом режиме. Модель предназначена для генерации ответов и текста, а её особенность — метод ProSparse: ReLU и FATReLU сдвигают активации к высокой разреженности, что может ускорять инференс в совместимых системах. Модель обучена на английских и китайских данных; README указывает на обучение примерно на 473 млрд токенов и 6 тыс. шагов SFT. Для корректной работы авторы рекомендуют начинать вход с BOS-токена и использовать формат чат-запроса. Веса распространяются по лицензии Apache-2.0. Производительность на конкретных задачах может зависеть от настройки промпта и среды инференса; ускорение требует поддержки разреженных вычислений.

unsloth/MiniMax-M2.5-GGUF — это GGUF-версия языковой модели MiniMax-M2.5, подготовленная Unsloth на основе модели MiniMaxAI/MiniMax-M2.5. Она предназначена для локального запуска и генерации текста, включая использование через совместимые инструменты и библиотеки экосистемы Transformers. В README указано, что модель относится к классу text-generation и распространяется в формате GGUF с применением метода квантования Unsloth Dynamic 2.0. Заявляется, что этот метод обеспечивает высокую точность по сравнению с другими вариантами квантования. Архитектура, количество параметров, поддерживаемые языки, размер контекста и дополнительные модальности в предоставленных данных не указаны; по доступной информации модель является текстовой и не описана как мультимодальная. Основные преимущества — возможность локального запуска и наличие оптимизированных квантованных вариантов, потенциально снижающих требования к ресурсам по сравнению с полноразмерной моделью. Ограничения, результаты тестирования и рекомендуемые аппаратные требования в README не приведены. Лицензия обозначена как modified-MIT; подробные условия следует проверять в файле лицензии MiniMax-AI по указанной в карточке ссылке.

amd/MiniMax-M2.7-MXFP4 — текстовая языковая модель MiniMax M2.7, разработанная MiniMax и оптимизированная AMD. Модель принимает текст и генерирует текст, предназначена для задач генерации и обработки естественного языка, включая сценарии с рассуждениями и вызовом инструментов. Указан английский язык; дополнительные языки в карточке не заявлены. Модель реализована на архитектуре MiniMaxM2ForCausalLM и представляет собой статически квантизованную версию amd/MiniMax-M2.7-BF16. Веса и активации квантизованы в формате OCP MXFP4 с использованием AMD-Quark: для весов применяется статическая, а для активаций — динамическая квантизация. Поддерживаются аппаратные платформы AMD MI350 и MI355, ROCm 7.2.1, PyTorch 2.10.0 и Linux. Для инференса указаны SGLang и vLLM; конфигурация также поддерживает tensor parallelism, выбор инструментов и парсеры MiniMax для вызова инструментов и рассуждений. Размер модели и длина контекста не указаны. Сильной стороной является существенное снижение точности представления при сохранении качества: на GSM8K модель получила 91,89 против 91,81 у исходной MiniMaxAI/MiniMax-M2.7, что соответствует восстановлению 100,09% результата. Ограничения включают зависимость от совместимого оборудования AMD и программного стека, а также отсутствие данных о качестве на других задачах, полном наборе языков и контекстном окне. Лицензия модифицированная MIT с некоммерческим использованием; коммерческое использование требует предварительного письменного разрешения MiniMax и соблюдения дополнительных условий.

EnlistedGhost/Ministral-3-14B-Instruct-2512-GGUF — это конвертированная и квантованная версия Ministral-3-14B-Instruct-2512 от Mistral AI, опубликованная EnlistedGhost. Модель распространяется в формате GGUF и совместима с Ollama и Llama.cpp. Она предназначена для диалоговых текстовых задач и мультимодального анализа изображений, включая обработку запросов по тексту и изображениям; создавать изображения и обрабатывать аудио или видео она не умеет. Модель имеет 14 млрд параметров, поддерживает мультимодальный режим благодаря vision-проекторам и поставляется с несколькими файлами mmproj. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. В релиз включены варианты F16 и K-квантования с разным соотношением размера и качества. Автор также добавил собственный шаблон чата и скользящее окно контекста для последних восьми взаимодействий, однако фактический доступный размер контекста в README не указан. К сильным сторонам относятся локальный запуск через Ollama или Llama.cpp, поддержка изображений и выбор вариантов квантования. Ограничения включают отсутствие генерации изображений и поддержки аудио или видео, а также возможную потерю качества при квантовании. Модель распространяется по лицензии Apache-2.0.

Ministral-3-14B-Instruct-2512-textonly-NVFP4 — текстовая производная модели Ministral-3-14B-Instruct-2512-BF16 от Mistral, подготовленная сообществом ppetermann. Модель предназначена для генерации текста и использования в формате instruct, включая развёртывание сервиса вывода через vLLM и OpenAI-совместимый API. Модель содержит только языковую часть исходного мультимодального чекпойнта: поддержка изображений и другие функции компьютерного зрения удалены. Она основана на архитектуре MistralForCausalLM и имеет заявленный размер исходной модели 14B параметров. Веса полностью квантизованы в формате NVFP4 и сохранены в формате compressed-tensors, что ориентировано на эффективное выполнение при поддержке соответствующего аппаратного и программного стека. README не указывает языки, размер контекста и точные характеристики качества. Сильными сторонами являются уменьшенный формат хранения и ориентация на производительное серверное инференс-развёртывание; автор сообщает около 21 токена в секунду на запрос при работе через vLLM на машине с GB10. Ограничения включают отсутствие мультимодальности и зависимость от совместимости с vLLM и NVFP4. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Ministral-3-14B-Reasoning-2512-GGUF — это набор файлов модели в формате GGUF для исходной модели Ministral-3-14B-Reasoning-2512, разработанной компанией Mistral AI. Квантизацию и публикацию этой версии выполнил MaziyarPanahi. Модель относится к классу генеративных текстовых моделей и предназначена для задач text-generation, включая локальный запуск через совместимые приложения и библиотеки. Формат GGUF ориентирован на эффективный запуск моделей, в том числе с использованием llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и других поддерживающих его инструментов. В репозитории представлены варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Заявленный размер исходной модели — 14B параметров. README не содержит сведений об архитектуре, поддерживаемых языках и модальностях, размере контекстного окна, результатах тестирования или конкретных ограничениях качества. Лицензия в предоставленных данных также не указана, поэтому условия использования необходимо уточнять в карточке исходной модели и репозитории. Для работы требуется совместимое программное обеспечение с поддержкой GGUF; конкретные требования к оборудованию зависят от выбранной разрядности и режима запуска.

Ministral-8B-Instruct-2410-4bit — 4-битная квантованная версия инструкционной языковой модели Ministral-8B-Instruct-2410-HF, разработанной Mistral AI и опубликованной сообществом mlx-community. Модель предназначена для генерации и обработки текста по инструкциям, включая диалоговые сценарии, ответы на вопросы, написание и преобразование текста, а также другие задачи, где требуется компактная локально запускаемая LLM. Модель имеет размер 8B параметров и использует 4-битное представление весов, что снижает требования к памяти по сравнению с полноразмерной версией. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Формат или параметры контекстного окна, точная архитектура, показатели качества и перечень поддерживаемых модальностей в предоставленных данных не указаны; по имеющейся информации это текстовая модель. К сильным сторонам относятся инструкционная настройка, многоязычность и уменьшенный объём памяти благодаря 4-битной квантизации. К ограничениям относятся возможная потеря качества по сравнению с исходной версией из-за квантизации, а также отсутствие в README подробных результатов тестирования и характеристик производительности. Модель распространяется по Mistral AI Research License (MRL-0.1): использование модели, производных версий и результатов ограничено исследовательскими целями, а распространение требует соблюдения условий лицензии и указания атрибуции Mistral AI.

Minitron-4B-Base — базовая большая языковая модель NVIDIA для генерации текста. Она создана из Nemotron-4 15B: разработчики сократили размер эмбеддингов, число голов внимания и промежуточный размер MLP, а затем продолжили обучение с дистилляцией на 94 млрд токенов. Модель насчитывает 4,3 млрд параметров; её архитектура — авторегрессионный Transformer-декодер Nemotron с Grouped-Query Attention и Rotary Position Embeddings. Контекст составляет 4096 токенов. Модель принимает текст и генерирует текст. Она предназначена для исследований и разработки, включая генерацию и продолжение текста, ответы на вопросы, математические задачи и генерацию кода. В обучающих данных были английский и мультиязычный текст, а также код; корпус включал материалы из разных областей, в том числе право, математику, науку и финансы. Карточка приводит результаты оценок на MMLU, HellaSwag, Winogrande, GSM8K, ARC-C, XLSum и HumanEval. Модель может выдавать неточные, неполные или избыточные ответы, а также воспроизводить токсичный язык и предубеждения из обучающих данных. Данные предварительного обучения имеют срез по июнь 2023 года. Лицензия указана как other; перед использованием следует ознакомиться с условиями NVIDIA. Модель отмечена разработчиком как предназначенная для исследований и разработки.

miqu-120b — плотная языковая модель семейства Llama, опубликованная dataautogpt3. Она создана с помощью mergekit методом passthrough из двух последовательных копий диапазона слоёв модели 152334H/miqu-1-70b-sf; README указывает формат float16, а метаданные — 137,2 млрд параметров и архитектуру LlamaForCausalLM. Модель предназначена для генерации текста и диалогов. Базовая модель описана в каталоге как модель для генерации текста и диалогов на английском языке; заявленная длина контекста — 32 764 токена. В репозитории указаны веса safetensors. README не приводит оценок качества или ограничений применения. Лицензия в предоставленных данных не указана.

Mira 70B v0.8 — русскоязычная модель генерации текста на архитектуре LLaMA 70B v2, представленная автором как крупная русская модель. По карточке, модель обучалась методом TRINITY в течение 60 часов на Nvidia H100. Для запросов используется формат с ролями Human и Assistant и специальными разделителями. Модель предназначена для генерации ответов на русском языке в диалоговом формате и других задач создания текста. Она содержит 68,7 млрд параметров, имеет плотную архитектуру LlamaForCausalLM и нативный контекст 4096 токенов. Файлы представлены в формате PyTorch. Модель выпущена под лицензией Apache-2.0. Версия обозначена как 0.8; карточка не приводит оценок качества и подробностей обучения, поэтому пригодность для конкретных сценариев следует проверять отдельно.

MiroThinker-v1.0-8B-GGUF — квантованная версия языковой модели MiroThinker-v1.0-8B, разработанной miromind-ai и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, агентских сценариев и задач deep research, включая работу в приложениях на базе llama.cpp и LM Studio. Указан английский язык. Модель содержит 8 миллиардов параметров и распространяется в нескольких вариантах точности: от BF16 до квантований Q2–Q8 и IQ. Для квантования использовался llama.cpp с методом imatrix, что позволяет уменьшить размер файлов и требования к памяти при сохранении качества; рекомендуемыми названы варианты Q4–Q6. Размер файлов составляет примерно от 3,9 до 16,39 ГБ в зависимости от формата. В README не указаны точная архитектура, максимальная длина контекста, результаты бенчмарков и дополнительные модальности, поэтому возможности модели в этих аспектах оценить нельзя. Более сильные квантования обеспечивают лучшее качество, а компактные варианты подходят для систем с ограниченной оперативной памятью, но могут заметнее терять качество. Для работы следует использовать совместимое ПО llama.cpp или LM Studio и формат промпта с маркерами ChatML. Лицензия — MIT.

MISCHIEVOUS-12B-Mix_0.6v — языковая модель для генерации текста, созданная bamec66557 с помощью слияния предварительно обученных моделей через mergekit методом SLERP. В состав слияния вошли bamec66557/MISCHIEVOUS-12B-Mix_III_IV_V и bamec66557/MISCHIEVOUS-12B-Mix_0.4v. Модель построена на архитектуре Mistral с плотной декодерной трансформерной сетью MistralForCausalLM и содержит 12,1 млрд параметров. Модель предназначена для генерации текста и диалогового использования на английском языке. Метаданные указывают интерфейс вызова инструментов. Заявленная длина контекста составляет 1 024 000 токенов. Файлы представлены в формате safetensors. В карточке приведены результаты Open LLM Leaderboard, включая среднее значение 23,84 и оценку IFEval 43,66. Модель распространяется по лицензии Apache-2.0. Результаты бенчмарков сами по себе не гарантируют качество для конкретных задач; из-за слияния характеристики могут отличаться от исходных моделей.

win10/miscii-14b-1M-0128 — созданная с помощью mergekit и метода SCE объединённая языковая модель на архитектуре Qwen2, разработчик — win10. В качестве основы использована sthenno-com/miscii-14b-1225; в объединение также вошли несколько моделей Qwen2.5 и производные от DeepSeek-R1-Distill-Qwen-14B. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоги. Заявленный контекст — до 131 072 токенов; в карточке указаны английский и китайский языки. Модель распространяется в формате safetensors через библиотеку Transformers по лицензии Apache-2.0. README приводит результаты оценок IFEval и BBH, но не описывает методику проверки или практические ограничения качества; фактическая производительность может зависеть от запроса и настроек генерации.

Misted-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая модель на 7,1 млрд параметров, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.2 и Walmart-the-bag/Misted-7B методом SLERP. Она предназначена для генерации текста в диалогах и ответов на инструкции. Модель использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. В карточке указаны формат Safetensors и лицензия Apache-2.0. Сведения о языках и специализированных областях применения отсутствуют; поэтому модель можно описать как модель общего назначения, не приписывая ей отдельную специализацию. Качество и ограничения конкретного слияния в карточке не оценены.

Mistral-22B-v0.2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Mistral-22B-v0.2, опубликованный и квантизированный bartowski на основе исходной модели Vezora/Mistral-22B-v0.2. Файлы предназначены для запуска через llama.cpp и совместимые инструменты, включая локальный запуск с использованием CPU, GPU или их комбинации. Модель рассчитана на задачи генерации текста и диалогового взаимодействия. В README указаны шаблон запроса с ролями System, Human и Assistant, а также множество вариантов квантизации от Q8_0 до IQ1_S. Размер файлов составляет примерно от 4,82 до 23,63 ГБ; варианты с более высокой точностью обычно обеспечивают лучшее качество, но требуют больше памяти. Рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS. К ключевым ограничениям относятся потери качества при использовании низкобитных вариантов, причём IQ1_M и IQ1_S прямо не рекомендуются. README не содержит сведений об архитектуре слоёв, размере контекста, поддерживаемых языках, модальностях помимо текста или результатах бенчмарков. Квантизации выполнены с использованием imatrix и датасета Kalomaze. Указана лицензия Apache-2.0.

ghimiresunil/mistral-7b-bfloat16-sft-full — дообученная модель генерации текста на базе Mistral-7B-v0.1. Она содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Веса представлены в формате safetensors. Модель предназначена для генерации текста. README сообщает о дообучении на датасете, обозначенном как None, и приводит значение loss 0,5747 на оценочной выборке, но не описывает конкретную специализацию, языки или сценарии применения. Указана лицензия Apache-2.0.

unsloth/mistral-7b-bnb-4bit — это напрямую квантизированная 4-битная версия Mistral 7B, подготовленная командой Unsloth с использованием bitsandbytes. Модель предназначена для запуска и дообучения в экосистеме Transformers, в том числе в доступных GPU-средах вроде Google Colab и Kaggle. Основные сценарии использования — генерация и продолжение текста, диалоговые приложения, а также fine-tuning на собственных наборах данных. README указывает поддержку английского языка, библиотекой интеграции является Transformers. Архитектура основана на Mistral 7B, однако точные параметры контекста и другие архитектурные характеристики в карточке не приведены. Формат 4-bit уменьшает требования к памяти; для Mistral 7B заявлено снижение использования памяти примерно на 62% при дообучении с инструментами Unsloth. Сильные стороны модели — компактное 4-битное представление и ориентированность на эффективное дообучение, включая последующий экспорт в GGUF или использование с vLLM. Ограничения включают возможное снижение точности из-за квантизации, зависимость от совместимого программного окружения и отсутствие в README подробных результатов оценки качества. Модель распространяется по лицензии Apache-2.0.

Карточка модели bany1111/mistral-7b-CoT_v2 на Hugging Face совпадает с карточкой bany1111/mistral-7b-arc_reasoning_v2, поэтому описание составлено по ней. bany1111/mistral-7b-arc_reasoning_v2 — дообученная языковая модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она создана bany1111 на основе unsloth/mistral-7b-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для генерации текста; контекст составляет до 32 768 токенов. Карточка не описывает специализацию на конкретных сценариях рассуждения или отдельных областях, поэтому её можно рассматривать как модель общего назначения для текстовых запросов и ответов. Указана поддержка английского языка. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или конкретных ограничений; результаты следует проверять на целевых задачах.

mistral-7b-distilabel-truthy-dpo — языковая модель на архитектуре Mistral, созданная дообучением mistralai/Mistral-7B-v0.1 методом DPO на датасете mlabonne/distilabel-truthy-dpo-v0.1. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации ответов и текстовых продолжений с настройкой предпочтений через DPO. В README указаны параметры LoRA: r=16, alpha=16 и dropout=0,05. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

CorticalStack выпустила mistral-7b-dolphin-sft — модель для генерации текста на базе Mistral с 7,1 млрд параметров. Это SFT-дообучение модели unsloth/mistral-7b-bnb-4bit на датасете cognitivecomputations/dolphin; в README также указаны параметры LoRA: r=256, alpha=128 и dropout=0. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0. Модель подходит для диалоговой генерации и других сценариев, где требуется продолжать или создавать текст; конкретный набор навыков и языковой охват датасета в карточке не раскрыты. Данных о специализированных областях применения и известных ограничениях качества нет.

Minbyul/mistral-7b-dpo-full-sft-wo-kqa_golden — дообученная модель генерации текста на архитектуре Mistral с 7,1 млрд параметров. Она основана на Minbyul/mistral-7b-wo-kqa_golden-sft и прошла DPO-дообучение на датасете HuggingFaceH4/ultrafeedback_binarized, чтобы улучшить предпочтительность генерируемых ответов. Модель предназначена для генерации текста и диалоговых сценариев на основе текстового запроса; заявленное окно контекста составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors. Карточка приводит метрики оценки DPO, включая точность предпочтений 1,0 и разницу наград 9,6641, но не раскрывает подробности методики оценки или конкретные языки и специализированные области применения. Модель распространяется по лицензии Apache-2.0. Она может выдавать неточные или нежелательные ответы; назначение исходной SFT-модели в карточке не описано.

mncai/mistral-7b-dpo-merge-v1.1 — объединённая инструкционная языковая модель от MindsAndCompany на базе Mistral. В карточке указано, что при создании объединены mncai/mistral-7b-dpo-v6, rwitz2/go-bruins-v2.1.1, ignos/LeoScorpius-GreenNode-Alpaca-7B-v1 и janai-hq/trinity-v1 с помощью TIES; базовая модель прошла instruction tuning и DPO. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors, а длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста по инструкциям: например, для ответов на вопросы и диалоговых сценариев. Пример в карточке содержит запрос на корейском языке, но метаданные указывают английский как язык модели. Лицензия — Apache 2.0. Авторы предупреждают, что результаты на открытых лидербордах могут быть переобучены и не отражать качество на реальных задачах; они рекомендуют оценивать модель на собственных данных. В карточке также отмечено, что mncai/mistral-7b-dpo-v6 показала более слабые результаты во внутренних оценках, чем некоторые другие модели автора.