I.5Создание и редактирование текста

Meta-Llama-3.1-8B-Instruct — инструктивно дообученная языковая модель семейства Llama 3.1, разработанная Meta. Это плотная авторегрессионная модель на архитектуре Transformer с 7,5 млрд параметров; версия Instruct прошла supervised fine-tuning и обучение с обратной связью от людей. Репозиторий содержит веса в формате safetensors, модель предназначена для генерации текста и диалогов с помощником. Окно контекста — 131 072 токена. Модель рассчитана на многоязычный диалог, ответы на вопросы, написание и преобразование текста, а также может использоваться в приложениях и для создания синтетических данных. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель принимает и выдаёт текст; поддержка инструментов зависит от интеграции разработчиком. Модель выпущена Meta 23 июля 2024 года. Лицензия — Llama 3.1 Community License с условиями использования и Acceptable Use Policy; перед коммерческим применением необходимо ознакомиться с её условиями. Это статический чекпойнт, обученный на офлайн-данных. Качество и безопасность ответов могут различаться между языками, а карточка не заявляет поддержку русского языка.

NaniDAO выпустила экспериментальную абляционную версию Meta-Llama-3.1-8B-Instruct с контекстом до 128K токенов. Модель предназначена для диалогов и генерации текста; по заявлению разработчика, она реже отказывает в допустимых запросах, чем предыдущая версия v0. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и распространяется в формате safetensors через библиотеку Transformers. Метаданные указывают интерфейс для чата и вызова инструментов. Карточка не сообщает о специальной предметной области или поддерживаемых языках. Лицензия в предоставленных данных не указана. Разработчик рекомендует использовать модель ответственно; заявленное снижение отказов само по себе не подтверждает качество или безопасность ответов.

duyntnet/Meta-Llama-3.1-8B-Instruct-imatrix-GGUF — набор квантизированных версий Meta-Llama-3.1-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и интерфейсы: JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Указанный язык — английский. Модель основана на архитектуре Meta-Llama 3.1 с размером 8 миллиардов параметров и поставляется в формате GGUF с imatrix-квантизацией. Это позволяет снизить требования к памяти и запускать модель локально, однако квантизация может уменьшать точность по сравнению с исходной полноразмерной версией. Для использования рекомендуется актуальная версия llama.cpp; README уточняет, что квантизация выполнена с помощью версии b3482 для устранения проблемы с rope scaling. Максимальный размер контекста и конкретные варианты квантизации в README не указаны. Лицензия обозначена как other, без дополнительных условий в представленном README. Модель предназначена для text-generation и conversational inference, но README не содержит самостоятельных результатов оценки качества или подробного описания ограничений исходной модели.

RedHatAI/Meta-Llama-3-8B-Instruct-FP8-KV — это квантованный вариант Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев с использованием vLLM; чекпойнт подготовлен с помощью AutoFP8 и калибровочных примеров из ultrachat. Модель содержит 8B параметров и использует FP8-квантизацию весов и активаций с покомпонентным масштабированием на уровне тензоров. Дополнительно в чекпойнт включены масштабы для FP8-квантизации KV-кэша, что позволяет включать этот режим через параметр kv_cache_dtype="fp8" в vLLM. Для работы требуется vLLM версии 0.5.0 или новее. Данные о поддерживаемых языках, размере контекста и мультимодальности не указаны. К преимуществам относятся снижение требований к памяти и возможность эффективного инференса с FP8 KV-кэшем. По результатам Open LLM Leaderboard показатель gsm8k в режиме 5-shot составляет 74,98 против 75,44 у исходной модели и 74,37 у варианта FP8 без квантованного KV-кэша, что указывает на близкое качество в этом тесте. Ограничения включают возможную потерю точности из-за квантизации и зависимость от совместимой версии vLLM. Лицензия в README не указана.

Meta-Llama-3-8B-Instruct-GGUF-old — это языковая модель для генерации текста и выполнения инструкций, представленная в формате GGUF. Модель основана на Meta Llama 3, разработанной Meta, а репозиторий и сборку данной версии связывает с идентификатором bartowski. По названию модели известно, что она содержит около 8 миллиардов параметров и настроена для диалогового взаимодействия и следования инструкциям. Модель предназначена для англоязычной генерации текста, ответов на запросы и других задач, поддерживаемых конвейером text-generation. Формат GGUF ориентирован на локальный запуск средствами, совместимыми с этим форматом, однако конкретные требования к памяти, варианты квантования и максимальный размер контекста в предоставленных данных не указаны. Модель является текстовой и не поддерживает мультимодальные входы по имеющейся информации. К сильным сторонам относятся компактный по современным меркам размер, специализация на инструкциях и возможность использования в локальных сценариях. Ограничениями являются заявленная языковая поддержка только английского, отсутствие сведений о конкретной версии квантования, контекстном окне, производительности и результатах оценки. Использование регулируется Meta Llama 3 Community License: лицензия требует соблюдения условий распространения, указания атрибуции, отображения фразы «Built with Meta Llama 3» при соответствующих сценариях и соблюдения Acceptable Use Policy.

Модель gpjt/Meta-Llama-3-8B-openassistant-guanaco-llama2-format — дообученная автором gpjt версия Meta-Llama-3-8B на наборе gpjt/openassistant-guanaco-llama2-format. Датасет основан на OpenAssistant Guanaco и адаптирован под предполагаемый формат запросов Llama 2. Модель построена на архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и работает с контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоговом формате и ответов на пользовательские запросы. Базовая модель рассчитана на английский текст и код; карточка не уточняет языковой охват самой дообученной версии. Веса опубликованы в формате safetensors и доступны по лицензии Llama 3.

gbueno86/Meta-LLama-3-Cat-A-LLama-70b — объединённая диалоговая языковая модель на архитектуре Llama 3, созданная автором репозитория с помощью mergekit. В карточке описано слияние Undi95/Meta-Llama-3-70B-Instruct-hf и turboderp/Cat-Llama-3-70B-instruct методом slerp; метаданные также указывают эти базовые модели и связь merge. Модель содержит 69,5 млрд параметров, работает с текстом и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации диалоговых ответов, следования инструкциям и ролевых сценариев. Автор описывает её как свой основной помощник, однако карточка не приводит формальных оценок качества или подробного набора тестов. В метаданных указан английский язык, библиотека Transformers и формат safetensors. Лицензия — Llama 3; применяйте модель с учётом условий этой лицензии.

DevQuasar-12/meta-llama.Llama-4-Scout-17B-16E-Instruct-GGUF — это квантованная версия языковой модели meta-llama/Llama-4-Scout-17B-16E-Instruct, опубликованная DevQuasar. Модель предназначена для генерации текста и работы в сценариях инструкционного взаимодействия, включая ответы на запросы пользователя и выполнение текстовых задач. Модель относится к семейству Llama 4 Scout; в её обозначении указаны конфигурация 17B и 16E. Формат GGUF предназначен для использования в совместимых инструментах локального запуска квантованных моделей. Согласно README, модель работает только с текстом; сведения о поддерживаемых языках, размере контекста и конкретном варианте квантования не приведены. К сильным сторонам относятся инструкцийная настройка исходной модели и возможность локального использования квантованной версии, что может снизить требования к ресурсам по сравнению с полноразмерной моделью. Ограничения связаны с отсутствием мультимодальных возможностей и недостатком данных о качестве, точности, требованиях к оборудованию и параметрах квантования. Лицензия в README не указана; условия использования следует уточнять для исходной модели и данной публикации отдельно.

MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp-GGUF — набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Модель предназначена для генерации текста и может использоваться в локальных приложениях, чат-интерфейсах и системах, поддерживающих GGUF, включая llama.cpp, text-generation-webui, LM Studio, GPT4All, KoboldCpp и llama-cpp-python. В репозитории представлены варианты квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Точные размер модели, архитектура исходной модели, максимальная длина контекста и поддерживаемые языки в README не указаны. Формат ориентирован на эффективный запуск, в том числе с GPU-ускорением, однако квантование может влиять на качество по сравнению с полноразмерной версией. Модель распространяется по лицензии Apache-2.0.

MetaModelv2 — гибридная разговорная модель, созданная на основе VAGOsolutions/SauerkrautLM-SOLAR-Instruct и kyujinpy/Sakura-SOLAR-Instruct. Она предназначена для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру LlamaForCausalLM, содержит 10,6 млрд параметров и рассчитана на контекст до 8192 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README приводит результаты оценки на бенчмарках ARC и HellaSwag; они не гарантируют качество в конкретных прикладных задачах. Данные не уточняют, какие языки поддерживаются и насколько модель подходит для специализированных областей.

MFANN-Llama3.1-Abliterated-SLERP-TIES-V2 — объединённая текстовая модель семейства Llama 3.1 от netcat420, созданная с помощью mergekit методом TIES на основе Meta Llama 3.1 8B Instruct Abliterated и двух моделей MFANN. Модель предназначена для диалогов и генерации ответов; в карточке описаны обычный режим помощника и экспериментальный режим SATANN для задач кибербезопасности. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат весов — safetensors, заявленный контекст — 131 072 токена. README приводит настройки генерации и контекст 8 192 токена для конкретной конфигурации GPT4All. Модель рассчитана на текстовый ввод и вывод. Лицензия — Apache-2.0. Поскольку это объединение abliterated-моделей, ответы могут иметь ослабленные ограничения; для сценариев кибербезопасности качество и поведение следует оценивать отдельно.

netcat420/MFANN-SFT-precursor-2 — объединённая текстовая модель автора netcat420, созданная методом SLERP с помощью mergekit. В объединение вошли mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated и netcat420/MFANN-SFT-precursor-1; базовой указана первая модель. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат весов — safetensors, библиотека — Transformers. Модель предназначена для диалогов и генерации текста. Она поддерживает контекст до 131 072 токенов и рассчитана на чат-сценарии, однако README не описывает её отдельные навыки или языковое покрытие. Лицензия в предоставленных данных не приведена.

MFANNv0.17.10 — диалоговая языковая модель для генерации текста, созданная netcat420 с помощью слияния моделей через mergekit. В основе объединения лежит MaziyarPanahi/Llama-3-8B-Instruct-v0.4, также в него вошли MFANNv0.16 и MFANNv0.17. Использован метод DARE TIES; модель имеет плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для диалогов и генерации ответов ассистента. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Репозиторий использует Transformers и формат Safetensors. В карточке не приведены сведения о специализации по языкам или конкретных областях применения. Лицензия в предоставленных данных не указана. Возможности и качество ответов зависят от объединённых моделей; в README нет результатов оценки или подробного описания ограничений.

microsoft_Phi-4-reasoning-GGUF — это набор GGUF-квантизированных вариантов языковой модели Phi-4-reasoning, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалогов, решения математических задач, работы с кодом и задач, требующих рассуждений. Модель поддерживает текстовый ввод и вывод; в метаданных указан английский язык. Доступны варианты от BF16 до низкобитных квантов Q8_0, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, требованиями к памяти и скоростью локального запуска. Размер файлов варьируется примерно от 8,4 до 29,3 ГБ. Архитектура, число параметров, максимальный контекст и дополнительные модальности в README не указаны. Сильными сторонами являются наличие вариантов с разным уровнем сжатия, высокая заявленная точность старших квантов и совместимость с llama.cpp, LM Studio и другими проектами на его основе. Ограничения включают возможное снижение качества у низкобитных вариантов, необходимость значительного объёма памяти и отсутствие подробных данных о производительности, контекстном окне и поддерживаемых языках помимо английского. Распространение указано по лицензии MIT.

MiMo-V2.5 — нативная омнимодальная модель, разработанная Xiaomi MiMo. Она объединяет обработку текста, изображений, видео и аудио в единой архитектуре и предназначена для мультимодального понимания, рассуждений в длинном контексте, программирования и агентских сценариев, включая взаимодействие с инструментами и выполнение многошаговых задач. Модель построена на разреженной архитектуре Mixture of Experts: всего 310 млрд параметров, из которых активируется 15 млрд. Она использует гибридное внимание с чередованием Sliding Window Attention и Global Attention, 729-миллионный Vision Transformer для изображений и видео и аудиоэнкодер на 261 млн параметров. Поддерживается контекст до 1 млн токенов, а Multi-Token Prediction ускоряет инференс посредством speculative decoding. В заявленных языках указаны английский и китайский. К сильным сторонам относятся широкий набор модальностей, большой контекст, эффективная работа с длинными последовательностями и развитые агентские возможности. Модель крупная и, вероятно, требует значительных вычислительных ресурсов для развёртывания; README не приводит точных требований к оборудованию и количественных результатов benchmark-тестов. Модель распространяется по лицензии MIT.

bartowski/MiMo-V2.5-Pro-GGUF — это набор GGUF-квантизаций языковой модели MiMo-V2.5-Pro, разработанной XiaomiMiMo. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как XiaomiMiMo/MiMo-V2.5-Pro. Модель предназначена для генерации текста, работы с агентскими сценариями, задачами программирования и применений с длинным контекстом. В карточке указаны английский и китайский языки, текстовая модальность и формат GGUF для запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Длина контекста, точная архитектура и число параметров не указаны. Доступно множество вариантов квантования от IQ1 до Q4, с размерами файлов примерно от 212 до 640 ГБ; Q4_K_M отмечен как рекомендуемый вариант с хорошим качеством, а более компактные варианты экономят память ценой снижения качества. К сильным сторонам относятся поддержка разных уровней компромисса между качеством и требованиями к памяти, совместимость с экосистемой llama.cpp и возможность локального запуска. Ограничения — очень большой размер файлов, зависимость от поддержки модели конкретным инструментом и ухудшение качества у низкобитных квантов, особенно IQ1 и некоторых Q2–Q3 вариантов. В карточке указана лицензия MIT.

Mindy-7b-v2 — языковая модель Mindy Group, Inc., полученная слиянием AIDC-ai-business/Marcoroni-7B-v3 и Weyaxi/Seraph-7B. Это плотная Transformer-модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста. Репозиторий содержит веса в формате safetensors; заявленная длина контекста — 32 768 токенов. Модель рассчитана на англоязычные сценарии генерации текста. Лицензия — Apache-2.0. В карточке нет подробных сведений о качестве, обучающих данных или специализированных возможностях; применимость к конкретной задаче следует проверять отдельно.

Minerva-7B-instruct-v1.0 — диалоговая языковая модель Sapienza NLP, созданная в рамках проекта FAIR при сотрудничестве с CINECA и участии Babelscape и проекта CREATIVE PRIN. Это дообученная версия Minerva-7B-base-v1.0 на архитектуре Mistral с 7,2 млрд параметров и контекстом до 4096 токенов. Семейство Minerva предварительно обучалось с нуля на итальянских и английских текстах; в составе данных также был код. Версия instruct прошла настройку инструкциями и оптимизацию предпочтений DPO. Модель предназначена для диалога и генерации текста: она может отвечать на вопросы, объяснять темы, помогать с рассуждениями и решать задачи по коду. В первую очередь она рассчитана на итальянский и английский языки. Разработчики предупреждают, что ответы могут содержать фактические ошибки, стереотипы, оскорбительный или иной нежелательный контент, а также быть нерелевантными или повторяющимися. Лицензия — Apache-2.0.

MiniCPM5-2B-RotSVDMix — это сжатая и квантизованная версия языковой модели openbmb/MiniCPM5-2B, опубликованная ewin-reg. Модель предназначена для генерации текста, диалоговых сценариев, написания и анализа кода, суммаризации и запуска на устройствах с ограниченными ресурсами, включая мобильные и периферийные устройства. Поддерживаются английский и китайский языки; модель относится к текстовым causal language models и поставляется в формате SafeTensors. Модель содержит около 2 миллиардов параметров и основана на 42 слоях трансформера. Благодаря сочетанию ортогонального вращения, низкорангового SVD и квантизации ExTernD она занимает 1 985 213 632 байта, то есть менее 2 ГБ. Заявлена совместимость с PyTorch, Hugging Face Transformers, vLLM и TGI без необходимости компиляции специализированного C++-рантайма. Длина контекста в README не указана. На тестовой выборке WikiText-2 модель показала perplexity 20,92 против 20,46 у базовой FP16-версии, что соответствует ухудшению примерно на 2,25%. Косинусное сходство логитов с базовой моделью составило 98,70%, совпадение наиболее вероятного токена — 96%, а пересечение пяти наиболее вероятных токенов — 100% на ограниченном наборе из 25 промптов. Эти результаты указывают на хорошее сохранение поведения исходной модели при существенном уменьшении размера, однако качество может зависеть от задачи, языка и входных данных; заявленные измерения не заменяют полноценную оценку прикладных сценариев. Модель распространяется по лицензии Apache 2.0.

aemmeath/MiniCPM5-Aether — дообученная языковая модель на архитектуре Llama, созданная разработчиком aemmeath на основе openbmb/MiniCPM5-2B. Модель содержит 2,2 млрд параметров, принимает текст и предназначена для генерации текста и диалогового использования; метаданные также отмечают интерфейс вызова инструментов. Нативная длина контекста составляет 131 072 токена, язык карточки — английский. Модель подойдёт для создания диалоговых ассистентов и генерации ответов с использованием длинного контекста. README сообщает о дообучении с помощью Unsloth и библиотеки TRL, но не приводит результаты оценки качества или специализированные области применения. Лицензия — Apache-2.0.

cyankiwi/MiniCPM-SALA-AWQ-8bit — 8-битная AWQ-квантизованная версия модели MiniCPM-SALA, разработанной OpenBMB. Модель предназначена для генерации текста, включая работу с длинными документами, анализом контекста, математическими и программными задачами. Заявлена поддержка китайского и английского языков и совместимость с Transformers. Архитектура MiniCPM-SALA сочетает 25% слоёв со sparse attention InfLLM-v2 и 75% слоёв с linear attention Lightning Attention. Гибридный подход рассчитан на эффективную работу с последовательностями длиной до 1 млн токенов и снижает требования к вычислениям и KV-кэшу; разработчики заявляют ускорение до 3,5 раза по сравнению с плотной моделью Qwen3-8B на последовательностях длиной 256 тысяч токенов. Для сохранения качества на коротком и длинном контексте используются HyPE и метод адаптации HALO. Точный размер модели в README не указан, однако упоминается класс моделей масштаба около 9B. К сильным сторонам относятся большой контекст, высокая эффективность инференса и возможность запуска на потребительских GPU, включая NVIDIA RTX 5090. Ограничения включают зависимость от специализированного программного окружения для оптимального инференса, включая CUDA 12.x или новее и компоненты SGLang; характеристики и качество именно данной AWQ-версии отдельно не приведены. Лицензия — Apache 2.0.

MiniLoong-3B — языковая модель с архитектурой Llama, разработанная командой GeneZC. Она предназначена для генерации текста и может использоваться для продолжения запросов и создания текстовых ответов. Модель содержит 2,9 млрд параметров, принимает текст и поддерживает контекст длиной до 32 000 токенов. В метаданных указаны английский и китайский языки, а также обучающие наборы Pile, RedPajama-Data-1T и WuDao. Модель основана на LLaMA-2 и распространяется в форматах PyTorch и safetensors. Указанная в метаданных лицензия — Apache-2.0, однако README отдельно требует соблюдать лицензию LLaMA-2, поскольку модель от неё производна.

MiniMA-2-3B — плотная языковая модель семейства LLaMA, разработанная авторами MiniMA как продолжение обучения MiniMA-3B. В README отмечены улучшенная смесь данных и увеличение числа обучающих токенов; дистилляция не применялась. Модель содержит 2,9 млрд параметров и поддерживает контекст до 4096 токенов. Модель предназначена для генерации текста и общих языковых задач. В карточке указаны английский и китайский языки, а среди обучающих наборов — Pile, RedPajama-Data-1T и WuDao. README приводит результаты на нескольких бенчмарках, включая MMLU, CEval, DROP и GSM8K. Модель опубликована в форматах PyTorch и Safetensors. В метаданных указана лицензия Apache-2.0, однако README отдельно требует соблюдать лицензию LLaMA 2, поскольку модель от неё производна; перед использованием следует проверить применимые условия обеих лицензий.

mini-magnum-12b-v1.1 — диалоговая instruct-модель на архитектуре Mistral, обученная alpindale при участии команды, указанной в карточке. Она предназначена для генерации текста в формате беседы и использует шаблон запросов Mistral с маркерами [INST] и [/INST]. Модель содержит 12,1 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 1 024 000 токенов. В метаданных перечислены английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Лицензия — Apache-2.0. Карточка описывает формат промптинга и участников обучения, но не приводит подробностей об оценке качества или конкретных специализациях. Поэтому модель уместно рассматривать как универсальную разговорную модель; качество на отдельных языках и задачах следует проверять самостоятельно.

MiniMax-M2-MLX-4bit — 4-битно квантованная версия языковой модели MiniMax-M2, разработанной MiniMaxAI. Квантование выполнено командой LM Studio с использованием mlx_lm и формата MLX; модель оптимизирована для запуска на устройствах Apple Silicon. Она предназначена для генерации текста и локального использования через LM Studio. Модель подходит для сценариев, требующих локального текстового вывода при сниженных требованиях к памяти по сравнению с полной версией модели. README не содержит сведений о точном размере модели, поддерживаемых языках, максимальной длине контекста, архитектуре или дополнительных модальностях, поэтому эти характеристики нельзя достоверно указать. Квантование в 4 бита может уменьшать потребление ресурсов, но потенциально снижать точность по сравнению с исходной моделью. Модель распространяется по лицензии MIT.

MiniMax-M3-FP8-dynamic — это динамически квантизированная в формате FP8 версия мультимодальной модели MiniMax-M3, разработанной MiniMaxAI. Модель является производным checkpoint от MiniMaxAI/MiniMax-M3 и распространяется в форматах safetensors и compressed-tensors. Она предназначена для диалоговых и мультимодальных задач, включая работу с текстом и изображениями, рассуждения, математику, ответы на вопросы, следование инструкциям и генерацию кода. Базовая MiniMax-M3 описывается как нативная мультимодальная MoE-модель примерно на 428 млрд параметров, из которых около 23 млрд активируются при обработке запроса. Заявлена поддержка контекста до 1 млн токенов. FP8 dynamic quantization уменьшает требования к памяти и дисковому пространству; согласно приведённой оценке, качество в большинстве тестов близко к BF16-версии, хотя на отдельных задачах наблюдается снижение результатов. Модель проверялась в vLLM через OpenAI-compatible server и на оборудовании AMD MI350 с tensor parallel size 8. Основные ограничения связаны с высокими аппаратными требованиями, обусловленными размером исходной MoE-модели и мультимодальной архитектурой. В README не указаны точный набор поддерживаемых языков, подробности входных и выходных модальностей, минимальная конфигурация для запуска и дополнительные ограничения применения. Квантизированный checkpoint следует условиям лицензии базовой MiniMax-M3; конкретный текст лицензии в карточке не приведён, а в метаданных указано license: other.

Mini-Mixtral-v0.2 — экспериментальная языковая модель NeuralNovel, собранная методом LazyMergekit из unsloth/mistral-7b-v0.2 и mistralai/Mistral-7B-Instruct-v0.2. Это разреженная модель архитектуры Mixture of Experts для генерации текста и ответов на инструкции. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Маршрутизатор MoE направляет токены к экспертам, но, как отмечено в README, в этой сборке он не обучался совместно с ними. Это может влиять на качество и обобщение. Разреженные вычисления не отменяют необходимости загрузить веса модели в память. Модель опубликована в формате safetensors под лицензией Apache-2.0.

EnlistedGhost/Ministral-3-8B-Instruct-2512-GGUF — это квантизированная версия мультимодальной модели Ministral 3 8B Instruct 2512 BF16, разработанной Mistral AI и преобразованной в формат GGUF пользователем EnlistedGhost с помощью llama.cpp. Модель предназначена для диалогов, выполнения инструкций и задач image-text-to-text с поддержкой текста и изображений. Указаны языки: английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский. Доступны варианты квантования от Q2_K_L до Q8_0_L, а также F16 и мультимодальные vision-проекторы в форматах F16 и F32. Модель ориентирована на локальный запуск и совместима с llama.cpp, Ollama и Yollama. Семейство Ministral 3 разработано для edge-развёртывания; исходная версия 8B, по данным README, может работать примерно в пределах 32 ГБ VRAM в BF16 и менее 24 ГБ RAM или VRAM в квантизированном виде. К сильным сторонам относятся компактный размер, поддержка мультимодального ввода и широкий выбор квантованных вариантов, однако качество и требования к ресурсам зависят от выбранного варианта. Лицензия — Apache-2.0.

MaziyarPanahi/miqu-1-70b-sf-GPTQ — 4-битная GPTQ-квантизация дообученной модели 152334H/miqu-1-70b-sf. Она построена на плотной архитектуре LlamaForCausalLM и предназначена для генерации текста и диалогов на английском языке. Размер модели — 68,7 млрд параметров, длина контекста — 32 764 токена. Квантизация GPTQ снижает требования к памяти по сравнению с полноточными весами. Модель подходит для генерации продолжений текста и ведения диалогов. Репозиторий распространяет веса в формате safetensors; лицензия — Apache-2.0. README подтверждает квантизацию, а сведения о базовой модели, размере, контексте, языке и лицензии взяты из метаданных.

miquliz-120b-v2.0 — крупная языковая модель на архитектуре Llama, созданная wolfram как линейное слияние слоёв miqu-1-70b-sf и lzlv_70b_fp16_hf с помощью mergekit. В README указано 120 млрд параметров, 140 слоёв и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов; в карточке приведён шаблон запросов Mistral [INST]...[/INST]. Модель рассчитана на английский, немецкий, французский, испанский и итальянский языки. Репозиторий содержит веса Safetensors; для модели также опубликованы сторонние квантизованные сборки GGUF и EXL2. README сообщает о высоких результатах во внутренних сравнениях автора, но не приводит методику или независимые оценки. Лицензия в метаданных обозначена как other; автор также упоминает происхождение части весов из утёкшей модели, поэтому правовой статус и условия использования требуют отдельной проверки.