I.5Создание и редактирование текста

MiniMax-Text-01 — большая языковая модель компании MiniMax для диалогов и генерации текста. В README указаны 456 млрд параметров, из которых на каждом токене активируются 45,9 млрд; архитектура сочетает Lightning Attention, Softmax Attention и смесь экспертов MoE с 32 экспертами и маршрутизацией Top-2. Метаданные каталога при этом указывают 21,6 млрд параметров, поэтому размер модели в источниках расходится. Модель предназначена для диалоговых приложений, задач генерации текста и работы с длинными контекстами. README сообщает о контексте до 1 млн токенов при обучении и до 4 млн при инференсе, тогда как метаданные указывают нативное окно в 10 240 000 токенов. Поддерживаются вызов функций со структурированными JSON-параметрами и интеграция с форматом OpenAI-compatible; заявлены результаты на академических тестах и бенчмарках длинного контекста. README рекомендует vLLM для развёртывания и описывает доступ к модели через онлайн API и чат-бот. Условия лицензирования в предоставленных данных не указаны. Языки модели также не установлены по доступным сведениям.

Ministral-8B-Instruct-2410-HF — версия для Hugging Face модели Ministral-8B-Instruct-2410 от Mistral AI. Это плотная причинно-языковая модель на архитектуре Mistral с 7,5 млрд параметров, дообученная следовать инструкциям и вести диалог. Она принимает текст и предназначена для чата и генерации текста, включая интерфейс вызова функций. Максимальная длина контекста — 32 768 токенов. Модель поддерживает несколько языков, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский. Подходит для диалоговых помощников, генерации и продолжения текста, а также интеграции с инструментами через вызов функций. В карточке указана лицензия MRL; перед использованием следует учитывать её условия.

Карточка модели NostraEmpire/mirror-phi-3.5-mini-instruct на Hugging Face совпадает с карточкой microsoft/Phi-3.5-mini-instruct, поэтому описание составлено по ней. Phi-3.5-mini-instruct — компактная языковая модель Microsoft из семейства Phi-3 для генерации текста и диалогов. Это плотная авторегрессионная модель на 3,7 млрд параметров, доступная в формате Safetensors и предназначенная для запуска в условиях ограниченных вычислительных ресурсов и низкой задержки. В README также описаны варианты с контекстом до 128 тыс. токенов; метаданные этой карточки указывают нативный контекст 4096 токенов, поэтому заявленную длину контекста для данного репозитория следует сверять с используемой конфигурацией. Модель дообучена следованием инструкциям и рассчитана на многоязычные диалоги, рассуждения, задачи по математике и логике, а также помощь с кодом. Её можно использовать как основу генеративных функций, для ответов на вопросы по длинным документам и их суммаризации. В карточке отмечены улучшения качества многоязычных многоходовых диалогов и рассуждений относительно Phi-3 Mini Instruct. Лицензия — MIT. Как и другие языковые модели, она может ошибаться и не оценивалась для всех возможных сценариев; перед применением в ответственных областях требуется проверка качества и безопасности. README также отмечает возможную уязвимость к длительным многоходовым jailbreak-атакам, в том числе на разных языках.

Карточка модели NostraEmpire/mirror-qwen3-1.7b на Hugging Face совпадает с карточкой Qwen/Qwen3-1.7B, поэтому описание составлено по ней. Qwen3-1.7B — компактная плотная причинная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит 1,7 млрд параметров, 28 слоёв и поддерживает контекст до 40 960 токенов по метаданным. Модель дообучена на базе Qwen/Qwen3-1.7B-Base и распространяется в формате safetensors под лицензией Apache-2.0. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с внешними инструментами через соответствующий интерфейс. Она поддерживает более 100 языков и диалектов. Заявлены режимы рассуждения и обычного диалога; компактный размер подходит для приложений с ограниченными ресурсами по сравнению с более крупными моделями семейства. В README указана длина контекста 32 768 токенов, тогда как метаданные каталога приводят 40 960; для характеристики использовано значение метаданных. В README также отмечен риск бесконечных повторов при некоторых настройках генерации и рекомендована настройка presence_penalty. Качество ответов и точность фактов требуют проверки в целевом сценарии.

Mistral-11B-OmniMix9-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и Mistral-11B-OmniMix9 методом SLERP. Модель имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров; она предназначена для генерации текста и ответов на инструкции в формате чата. Модель принимает текст и генерирует текст. Контекст составляет до 32 768 токенов. Карточка не сообщает о специализации по конкретным предметным областям или языкам. Репозиторий распространяет веса в формате safetensors; лицензия — Apache-2.0.

cloudyu/mistral_18B_v0.1 — предварительно обученная плотная языковая модель семейства Mistral, опубликованная пользователем cloudyu. Она предназначена для генерации текста и может применяться для продолжения заданного текста и построения текстовых ответов. Модель содержит 17,6 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. В репозитории представлены веса в формате safetensors. Лицензия указана как CC, без уточнения её варианта.

Mistral-7b-FFT-Test3-Mistral-7B-Instruct-v0.2-slerp — текстовая диалоговая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Dans-DiscountModels/Mistral-7b-FFT-Test3; в конфигурации указан тип данных bfloat16. Модель предназначена для генерации текста и выполнения инструкций в диалоге, а контекст составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста. В карточке указана лицензия Apache-2.0. Данных о специальных предметных областях или языках, на которые модель рассчитана в первую очередь, нет.

Карточка модели theship87/mistral-7b-fork на Hugging Face совпадает с карточкой mistralai/Mistral-7B-Instruct-v0.3, поэтому описание составлено по ней. Mistral-7B-Instruct-v0.3 — языковая модель Mistral AI, дообученная следовать инструкциям на основе Mistral-7B-v0.3. Она предназначена для диалогов, генерации и продолжения текста, а также сценариев с вызовом функций и инструментов. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; контекст — до 32 768 токенов. В версии v0.3 расширен словарь до 32 768 токенов, добавлена поддержка токенизатора v3 и вызова функций. Модель принимает текст и генерирует текст, подходит для чат-ботов, выполнения инструкций и интеграции с инструментами. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковую специализацию определить нельзя. По заявлению авторов, это демонстрационная модель, показывающая возможности дообучения базовой версии. У модели нет механизмов модерации, поэтому её ответы требуют соответствующей проверки при использовании. Лицензия — Apache-2.0.

Это копия Mistral-7B-Instruct-v0.1, опубликованная sanchit-gandhi. Модель представляет собой плотный трансформер Mistral с 7,1 млрд параметров, дообученный для следования инструкциям на общедоступных диалоговых наборах данных. Веса разбиты на шарды по 5 ГБ, чтобы облегчить загрузку в средах с ограниченной оперативной памятью; по остальным характеристикам модель идентична оригиналу. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Архитектура использует Grouped-Query Attention, Sliding-Window Attention и токенизатор BPE с поддержкой байтового отката; контекст составляет до 32 768 токенов. Для формата инструкций применяются маркеры [INST] и [/INST], также доступен шаблон чата Transformers. Лицензия — Apache-2.0. В карточке отмечено отсутствие встроенных механизмов модерации, поэтому сгенерированные ответы могут не соблюдать ограничения безопасности. Уменьшенный размер шардов упрощает загрузку модели, но не уменьшает её объём параметров или вычислительные требования при генерации.

Mistral-7B-Instruct-v0.2 — диалоговая языковая модель Mistral AI для генерации ответов на инструкции и сообщения пользователя. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров; для общения используется формат instruct. Она рассчитана на чат, ответы на вопросы, объяснения и другие задачи генерации текста. В метаданных указан контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Карточка показывает пример кодирования запроса и генерации ответа, но не приводит перечень поддерживаемых языков или специализированных областей. Модель выпущена под лицензией Apache-2.0. По заявлению авторов, это демонстрация возможностей дообучения базовой модели; встроенных механизмов модерации нет, поэтому ответы могут не соблюдать заданные ограничения.

TheBloke/Mistral-7B-Instruct-v0.2-GPTQ — это GPTQ-квантизированная версия языковой модели Mistral 7B Instruct v0.2, разработанной Mistral AI и подготовленной к распространению TheBloke. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая работу через text-generation-webui, KoboldAI, LoLLMS Web UI и Hugging Face Text Generation Inference. Модель относится к семейству Mistral, содержит около 7 млрд параметров и работает с текстом. В репозитории представлены варианты квантования с разными параметрами; основной вариант использует 4-битное GPTQ-квантование, group size 128, Act Order и занимает около 4,16 ГБ. Для запросов рекомендуется шаблон «<s>[INST] {prompt} [/INST]». Квантование снижает требования к видеопамяти и облегчает локальный запуск, но может немного уменьшать точность по сравнению с исходной моделью и ограничивает совместимость средой выполнения. Указана поддержка Linux с GPU NVIDIA или AMD и Windows с GPU NVIDIA; для macOS рекомендуются версии GGUF. Лицензия — Apache 2.0.

Mistral-7B-Instruct-v0.3-GGUF — это GGUF-квантизированная версия Mistral-7B-Instruct-v0.3, разработанной Mistral AI. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, следования инструкциям и использования в качестве универсального ассистента, включая сценарии с вызовом функций. Модель содержит около 7 млрд параметров, использует архитектуру Mistral и поддерживает контекст длиной 32 768 токенов. В версии 0.3 расширен словарь с 32 000 до 32 768 токенов, добавлен новый токенизатор и реализована поддержка function calling через специальные токены TOOL_CALLS, AVAILABLE_TOOLS и TOOL_RESULTS. Для работы в LM Studio рекомендуется шаблон Mistral Instruct с форматом <s> [INST] запрос [/INST] </s>. Сильные стороны модели — качественное следование инструкциям, универсальность и поддержка вызова функций. README не содержит сведений о поддерживаемых языках, конкретных размерах файлов или характеристиках отдельных уровней квантизации. Модель распространяется по лицензии Apache 2.0.

hermes42/Mistral-7B-Instruct-v0.3-imatrix-GGUF — это GGUF-квантизированная версия Mistral-7B-Instruct-v0.3, разработанного командой Mistral AI. Модель представляет собой инструкционно дообученную большую языковую модель примерно на 7 млрд параметров для генерации текста и диалогового взаимодействия. Модель предназначена для следования инструкциям, чат-сценариев, ответов на вопросы, создания и обработки текста, а также задач, связанных с программным кодом. Исходная Mistral-7B-Instruct-v0.3 поддерживает function calling, использует tokenizer v3 и расширенный словарь размером 32768 токенов. Поддержка языков и размер контекстного окна в предоставленных данных не указаны. Версия в данном репозитории дополнительно обработана с помощью importance matrix на наборе group_10_merged.txt, что направлено на улучшение perplexity, и подготовлена с использованием llama.cpp. К сильным сторонам относятся компактный размер по меркам современных LLM, возможность локального запуска через совместимые инструменты GGUF и llama.cpp, инструкционное обучение и поддержка вызова функций в исходной модели. Ограничения включают отсутствие встроенных механизмов модерации, возможные потери качества из-за квантизации и отсутствие сведений о конкретном формате квантизации, контекстном окне и языковом покрытии этой сборки. Модель распространяется по лицензии Apache-2.0.

Mistral-7B-v0.2 — плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, представленная в формате safetensors. Репозиторий mistral-community содержит конвертированный чекпойнт; README предупреждает, что он может быть устаревшим, и рекомендует использовать соответствующую версию из исходного репозитория. Для токенизатора может потребоваться файл tokenizer.model из Mistral-7B-Instruct-v0.2. Модель предназначена для генерации текста и может использоваться для продолжения текста, черновиков и ответов на текстовые запросы. Заявленная длина контекста — 32 768 токенов. Лицензия — Apache-2.0.

Mistral-7B-v0.3 — плотная авторегрессионная языковая модель семейства Mistral, разработанная командой Mistral AI. Это версия Mistral-7B-v0.2 с расширенным словарём; в метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для генерации текста и может служить базой для адаптации под конкретные задачи. Модель принимает текст и генерирует текст. Для запуска рекомендована библиотека mistral-inference; также приведены инструкции по использованию с Transformers. В карточке указано, что модель не имеет встроенных механизмов модерации, поэтому её ответы могут требовать отдельной проверки и фильтрации. Лицензия — Apache 2.0.

Модель thewordsmiths/Mistral-7B-v0.3_sft_merged_100000 — дообученная разработчиком thewordsmiths версия языковой модели Mistral-7B-v0.3. Она предназначена для генерации текста и может использоваться в приложениях, где требуется создавать продолжения или ответы на текстовые запросы. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров, принимает текст и генерирует текст. Контекст составляет до 32 768 токенов, язык карточки модели — английский. Для обучения использовались Unsloth и библиотека TRL; веса доступны в формате safetensors. Лицензия — Apache-2.0.

grimjim/mistralai-Mistral-Nemo-Instruct-2407 — инструктивно дообученная языковая модель на базе Mistral Nemo, разработанной совместно Mistral AI и NVIDIA. Она предназначена для диалога, следования инструкциям, генерации текста и вызова инструментов. Модель использует плотную архитектуру Transformer семейства Mistral с 40 слоями, GQA и 12,1 млрд параметров; контекстное окно составляет 131 072 токена. Доступны веса в формате Safetensors. Модель рассчитана на многоязычные задачи, включая английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский; обучающие данные также включают код. Подходит для чат-ботов, помощников и генерации ответов по инструкциям. Выпускается по лицензии Apache 2.0. В карточке разработчика модель названа демонстрацией возможностей базовой модели; встроенных механизмов модерации нет.

SillyTilly/mistralai_Mistral-Nemo-Instruct-2407 — разговорная instruct-модель, созданная на основе Mistral-Nemo-Base-2407 совместно Mistral AI и NVIDIA. Это трансформер Mistral с плотной архитектурой и 12,1 млрд параметров, дообученный следовать инструкциям и вести диалог. Модель предназначена для генерации ответов, выполнения инструкций и вызова функций. Она обучалась на многоязычных данных и коде; карточка заявляет окно контекста 128 тыс. токенов, тогда как метаданные указывают 1 024 000 нативных токенов. Поддерживаются английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Модель задумана как замена Mistral 7B и может применяться в чат-ботах и текстовых помощниках. Модель выпущена по лицензии Apache 2.0. В карточке она названа демонстрацией возможностей дообучения базовой модели; указано, что у неё нет встроенных механизмов модерации, поэтому её ответы могут требовать отдельной проверки и фильтрации.

mistral-NeuralHermes-7B-slerp — диалоговая языковая модель, созданная объединением mistralai/Mistral-7B-Instruct-v0.2 и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP с помощью mergekit. Это плотная модель MistralForCausalLM на 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в диалоговом формате. Она принимает текст и выдаёт текст; заявленный размер контекста — до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по запросу. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка описывает состав и настройки слияния, но не приводит сравнительных оценок качества или подробных ограничений применения.

Mistral-Passthrough-8L-10B — текстовая авторегрессионная модель на архитектуре Mistral, созданная DeepKarkhanis с помощью LazyMergekit. Веса собраны методом passthrough из двух диапазонов слоёв одной модели mistralai/Mistral-7B-Instruct-v0.2; репозиторий содержит формат Safetensors, а размер модели составляет 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Контекст — до 32 768 токенов. Используется лицензия Apache-2.0.

casperhansen/mistral-small-24b-instruct-2501-awq — это 4-битная AWQ-квантизованная версия Mistral-Small-24B-Instruct-2501. Исходную модель разработала Mistral AI, а квантизованные веса опубликованы пользователем casperhansen. Это instruction-tuned большая языковая модель для генерации текста, диалоговых агентов, вызова функций, локального инференса и последующей адаптации под специализированные задачи. Модель содержит около 24 млрд параметров и использует архитектуру MistralForCausalLM: 40 скрытых слоёв, 32 attention heads и 8 key-value heads. Максимальный контекст — 32 768 токенов. Модель работает с текстом и заявлена для английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Квантизация AWQ в формате INT4 уменьшает требования к памяти и делает локальное развёртывание практичнее, но может снижать точность по сравнению с исходными полноразмерными весами. Сильные стороны — относительно компактный для своего класса размер, поддержка многоязычной генерации, инструкций и function calling, а также возможность локального использования. Ограничения включают текстовую модальность, зависимость качества от выбранного 4-битного квантования и отсутствие подробной отдельной model card для этого производного репозитория. Для исходной Mistral-Small-24B-Instruct-2501 указана лицензия Apache 2.0; точные условия использования производного репозитория следует проверять по его метаданным.

duyntnet/Mistral-Small-24B-Instruct-2501-imatrix-GGUF — это GGUF-квантизованные версии языковой модели Mistral Small 3 (2501), разработанной командой Mistral AI. Модель основана на Mistral-Small-24B-Base-2501 и дообучена для выполнения инструкций. В карточке указано 24 млрд параметров; конкретная архитектура не раскрыта. Модель предназначена для генерации текста и работает с текстовой модальностью. Модель ориентирована на быстрых разговорных ассистентов, сценарии с низкой задержкой, вызов функций, выдачу структурированного JSON, локальный запуск и последующее дообучение под предметные области. Она поддерживает десятки языков, включая английский, французский, немецкий, испанский, итальянский, китайский, японский, корейский, португальский, нидерландский и польский. Контекстное окно составляет 32 000 токенов, используется токенизатор Tekken со словарём размером 131 000 токенов. К сильным сторонам относятся развитые диалоговые и reasoning-возможности, поддержка системных промптов, native function calling и JSON-вывода, а также возможность локального запуска после квантизации, в том числе на одной RTX 4090 или MacBook с 32 ГБ оперативной памяти. Ограничения связаны с тем, что это квантизованный вариант: конкретные компромиссы между размером, скоростью и качеством зависят от выбранного файла квантизации. Модель рассчитана на использование через llama.cpp, KoboldCPP, Ollama, text-generation-webui, Jan и GPT4All. В исходном описании базовой модели указана лицензия Apache 2.0, однако метаданные данного репозитория обозначают лицензию как other; перед коммерческим использованием следует проверить условия для конкретной сборки.

Mistral-Small-3.2-24B-Instruct-2506-bnb-4bit — 4-битная квантованная версия инструкционной мультимодальной модели Mistral-Small-3.2-24B-Instruct-2506 от Mistral AI. Модель предназначена для диалоговых ассистентов, выполнения инструкций, генерации текста и кода, решения STEM-задач, вызова функций и анализа изображений, документов, графиков и диаграмм. Модель содержит 24 млрд параметров и поддерживает текстово-графический сценарий image-text-to-text. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. По сравнению с Mistral-Small-3.1 улучшены следование точным инструкциям, устойчивость к повторяющимся и бесконечным генерациям, а также шаблон function calling. В тестах модель показывает сильные результаты в генерации кода, следовании инструкциям, обработке документов и диаграмм, однако в отдельных vision-бенчмарках уступает предыдущей версии. Размер контекста в README не указан. Модель рекомендуется запускать через vLLM или Transformers; для корректной работы с инструментами требуются совместимые настройки Mistral и vLLM. Квантование bnb-4bit снижает требования к памяти по сравнению с полноформатными вариантами, но точные требования для этой сборки не приведены. Для повышения качества рекомендуется низкая температура генерации и системный промпт. Лицензия — Apache-2.0.

stelterlab/Mistral-Small-3.2-24B-Instruct-2506-FP8 — экспериментальная FP8 W8A8-квантизированная версия Mistral-Small-3.2-24B-Instruct-2506, разработанная stelterlab с использованием llm-compressor. Базовая модель создана Mistral AI. Формат FP8 предназначен для запуска модели с меньшими требованиями к памяти и вычислительным ресурсам при сохранении основных возможностей исходной модели. Модель рассчитана на выполнение инструкций, диалоговые сценарии, генерацию текста, решение задач STEM, программирование, работу с изображениями и вызов функций. Она поддерживает текстово-изобразительный ввод и заявлена для английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. По сравнению с версией 3.1 улучшены следование точным инструкциям, устойчивость к бесконечным повторениям и function calling; для сервинга рекомендуется vLLM. К ограничениям относятся экспериментальный статус FP8-квантизации и отсутствие в предоставленных данных сведений о точном размере контекста и детальной архитектуре. Качество может немного отличаться от полной версии модели, а по отдельным vision-бенчмаркам зафиксировано небольшое снижение результатов. Модель распространяется по лицензии Apache-2.0.

Mungert/Mistral-Small-3.2-24B-Instruct-2506-GGUF — GGUF-квантизированные версии языково-мультимодальной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и опубликованной пользователем Mungert. Модель является обновлением Mistral-Small-3.1-24B-Instruct-2503 и предназначена для диалогов, следования инструкциям, генерации текста и кода, решения STEM-задач, function calling, а также анализа изображений, документов, таблиц и диаграмм. Модель содержит около 24 млрд параметров, поддерживает текстово-визуальный ввод и языки английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других языков, перечисленных в карточке. Версия 3.2 улучшает точность следования инструкциям, снижает вероятность зацикленной генерации и предлагает более надёжный шаблон function calling. Для создания GGUF-файлов использовался llama.cpp; автор применяет дополнительное повышение точности отдельных слоёв при квантовании, что может улучшать качество на низких разрядностях за счёт увеличения размера файлов. Сильные стороны модели — улучшенные результаты в instruction following, программировании, математике, STEM-бенчмарках и отдельных задачах компьютерного зрения. Ограничения включают зависимость качества, размера и скорости от выбранного уровня квантования, а также несколько более низкие результаты в некоторых vision-бенчмарках по сравнению с предыдущей версией. В карточке не указана длина контекстного окна. Модель распространяется по лицензии Apache-2.0 и рекомендуется к использованию через vLLM; также заявлена совместимость с transformers.

unsloth/Mistral-Small-3.2-24B-Instruct-2506-GGUF — это GGUF-квантизированная версия мультимодальной инструкционной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и опубликованной в формате GGUF командой Unsloth. Модель предназначена для диалоговых приложений, выполнения инструкций, анализа изображений и текста, программирования, STEM-задач, обработки документов и вызова функций или инструментов. Модель содержит 24 млрд параметров, поддерживает текстовые и визуальные входные данные, а также языки English, French, German, Spanish, Portuguese, Italian, Japanese, Korean, Russian, Chinese, Arabic, Persian, Indonesian, Malay, Nepali, Polish, Romanian, Serbian, Swedish, Turkish, Ukrainian, Vietnamese, Hindi и Bengali. Заявленная длина контекста — до 128K токенов. По сравнению с Mistral-Small-3.1 улучшены следование точным инструкциям, устойчивость к повторяющимся или бесконечным генерациям и надёжность function calling. GGUF-версия включает исправления chat template; для llama.cpp рекомендуется включать режим Jinja. Сильные стороны модели — широкий языковой охват, поддержка зрения, длинный контекст, улучшенные результаты в instruction following, программировании и вызове функций. В опубликованных тестах отдельные показатели зрения немного ниже, чем у версии 3.1, поэтому качество зависит от конкретного типа визуальной задачи. Для запуска требуются совместимые GGUF-инструменты, например llama.cpp или Ollama; рекомендуется низкая температура около 0,15. Модель распространяется по лицензии Apache-2.0.

Mixtral-8x22B-Instruct-v0.1 — инструктивная языковая модель от команды Mistral AI на архитектуре Mixtral с причинным декодированием и смесью экспертов (MoE). Это дообученная версия Mixtral-8x22B-v0.1; в метаданных указан размер 22B параметров и контекст до 65 536 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Её можно использовать для ответов на вопросы, объяснений и взаимодействия с инструментами через предусмотренный формат function calling. Метаданные указывают поддержку английского, испанского, итальянского, немецкого и французского языков. Для запуска README описывает токенизацию и инференс через mistral-common и mistral-inference; в метаданных также указана библиотека vLLM. Модель распространяется по лицензии Apache-2.0. README отмечает, что для function calling нужно корректно применять специальные токены и формат токенизатора SentencePieceTokenizerV3; результаты вызова инструментов зависят от совместимой обработки этого формата.

ybelkada/Mixtral-8x7B-Instruct-v0.1-AWQ — это 4-битно квантованная версия Mixtral 8x7B Instruct v0.1, опубликованная пользователем ybelkada на Hugging Face. Исходную модель разработала Mistral AI. Она предназначена для генерации текста, диалоговых сценариев и выполнения инструкций; поддерживает запуск через Transformers, vLLM и SGLang. В основе лежит decoder-only Transformer с разреженной архитектурой Mixture of Experts: восемь experts примерно по 7B параметров, из которых для каждого токена выбираются два. Всего модель содержит около 47B параметров, но во время обработки токена активно используется около 13B. Контекстное окно исходной модели составляет 32K токенов. Модель обучалась на многоязычных данных и демонстрирует сильные результаты в рассуждениях, математике, генерации кода и многоязычных задачах; версия Instruct дополнительно дообучена следовать инструкциям с использованием supervised fine-tuning и Direct Preference Optimization. Ключевое преимущество этой версии — снижение требований к памяти благодаря AWQ-квантизации до 4 бит при сохранении функциональности исходной модели. Ограничения включают значительный общий объём параметров и соответствующие требования к памяти, а также возможные накладные расходы MoE-маршрутизации; эффективность зависит от совместимого программного обеспечения и GPU. Для исходной Mixtral 8x7B Instruct указана лицензия Apache 2.0, допускающая академическое и коммерческое использование; для конкретного квантованного репозитория условия следует проверять отдельно.

Mixtral-8x7B-Instruct-v0.1-GGUF — квантизированная GGUF-версия инструкционной модели Mixtral-8x7B-Instruct-v0.1, разработанной Mistral AI и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и работу через LlamaEdge. Поддерживаются английский, французский, итальянский, немецкий и испанский языки; заявленный размер контекста составляет 4096 токенов. Доступны варианты квантования от Q2_K до Q8_0 размером примерно от 17,3 до 49,6 ГБ. Более компактные варианты требуют меньше ресурсов, но могут заметно терять в качестве; Q4_K_M, Q5_K_M и Q5_K_S отмечены как сбалансированные или рекомендуемые, тогда как Q2_K и некоторые другие варианты имеют существенное снижение качества. Модель ориентирована на текстовые задачи и не поддерживает мультимодальные входы согласно представленным данным. Используется по лицензии Apache 2.0.

Mixtral-8x7B-v0.1 — предварительно обученная генеративная языковая модель Mistral AI со sparse Mixture of Experts. В архитектуре Mixtral-8x7B восемь экспертов; модель предназначена для генерации текста и служит базовой моделью для дальнейшей адаптации под конкретные сценарии. В карточке разработчик сообщает, что модель превзошла Llama 2 70B на большинстве проверенных ими бенчмарков. Модель рассчитана на работу с текстом и поддерживает контекст до 32 768 токенов. В метаданных указаны английский, французский, итальянский, немецкий и испанский языки. Веса доступны в формате safetensors; репозиторий подготовлен для обслуживания через vLLM, а README также описывает загрузку через Transformers, хотя отдельно предупреждает, что на момент публикации модель ещё нельзя было инстанцировать через HF. Лицензия — Apache 2.0. Это базовая модель без встроенных механизмов модерации, поэтому ответы могут включать нежелательный контент. Для безопасного применения в пользовательских сценариях нужна отдельная проверка и настройка поведения модели.