I.11Классификация, ранжирование и сопоставление

Qwen3.8-Flash-Next — открытая модель с весами от команды Qwen, построенная как причинная языковая модель с энкодером изображений. Она предназначена для диалогов, агентных сценариев и задач, где нужно анализировать изображения вместе с текстом. Архитектура сочетает Gated DeltaNet и Qwen Sparse Attention, разреженную MoE-сеть и n-граммные эмбеддинги. В языковой части заявлено 125 млрд параметров, из которых активируются 6 млрд, а также 51 млрд параметров n-граммных эмбеддингов и 4 млрд параметров MTP. Модель имеет 48 слоёв и нативный контекст 262 144 токена с возможностью расширения до 1 000 000. Карточка описывает оценки на задачах программирования, офисной продуктивности и работы с изображениями, а также режим рассуждений, включённый по умолчанию. Для интеграции разработчик рекомендует API. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в материалах репозитория и у разработчика.

local-inference-lab/Qwen3.8-Flash-Next-NVFP4 — мультимодальная conversational-модель, дистиллированная из Qwen/Qwen3.8-Flash-Next с применением quantization-aware distillation. Она предназначена для диалогов, общего следования инструкциям, reasoning, программирования, multilingual-сценариев и обработки изображений с текстом. В качестве учителя использовалась исходная BF16-модель Qwen, а обучение проводилось на корпусе из 200 004 844 prompt-and-response токенов и 53 573 документов с последовательностями до 8 192 токенов. Архитектура сохранена без сокращения числа слоёв и экспертов: 48 decoder layers, 512 routed experts на слой, из которых для каждого токена активны 10, гибрид Gated DeltaNet/Qwen Sparse Attention и n-gram embedding tables. Сжатие достигается пониженной точностью весов: routed experts и часть компонентов используют NVFP4, другие проекции — MXFP8, а отдельные параметры остаются в BF16. Также сохранены vision encoder, MTP-модуль, tokenizer, chat template и vision assets. Размер checkpoint составляет около 98 GiB; заявлены оценки AA-LCR 79.4, GPQA Diamond 89.9 и Tool Eval Bench 91. Сильные стороны модели — сохранение исходной архитектуры, обучение с компенсацией ошибок квантования и более высокая эффективность по сравнению с NVFP4 PTQ на GPQA Diamond: при сопоставимом качестве модель использовала меньше токенов. Ограничения включают значительный объём checkpoint, дополнительные требования к памяти для KV cache и runtime buffers, а также необходимость runtime с поддержкой Qwen3.8-Flash-Next и смешанного ModelOpt-формата NVFP4/MXFP8, включая NVFP4 PLE tables. Модель распространяется по лицензии qwen-community-1.0; точные условия следует проверять по указанной license-ссылке.

Jamba2 Mini — компактная языковая модель, разработанная AI21 Labs для надёжных корпоративных сценариев. Она использует архитектуру Jamba, сочетающую слои SSM и Transformer с разреженной экспертной моделью (MoE), и содержит 7,2 млрд параметров по метаданным. Модель предназначена для генерации текста и диалогов, ответов на вопросы, следования инструкциям и работы с длинными документами; поддерживает контекст до 262 144 токенов. Модель обучалась на основе предобучения Jamba 1.5 с последующим дообучением на длинных документах, коде, математике и веб-текстах, а также этапами SFT, DPO и обучения с подкреплением. Разработчик сообщает о настройке на точное следование инструкциям и опору на предоставленный контекст. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование. Для запуска через vLLM в README рекомендуется версия 0.12.0 или выше.

Bagel 34B v0.5 — это дообученная jondurbin модель на базе 01-ai/yi-34b-200k, созданная для диалогов и широкого круга инструктивных задач. Модель использует плотную архитектуру семейства Llama с причинным языковым моделированием, содержит 33,9 млрд параметров и рассчитана на контекст до 200 000 токенов. Модель обучалась на наборах для вопросов и ответов, рассуждений, математики, программирования, суммаризации, ролевого общения, работы с контекстом и вызова функций. Для обучения использовались SFT- и DPO-данные; карточка описывает несколько форматов запросов, а шаблон токенизатора по умолчанию использует формат Llama 2. Это текстовая модель, которая принимает текст и генерирует текст. В метаданных указана лицензия other, без уточнения её условий.

MaziyarPanahi/calme-2.2-llama3.1-70b — языковая модель, дообученная Maziyar Panahi на базе Meta Llama 3.1 70B Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на генерацию текста и диалог в формате ChatML. Заявленная длина контекста — 131 072 токена; модель работает через библиотеку Transformers и распространяется в формате safetensors. Модель предназначена для ответов на вопросы, чат-ботов и виртуальных помощников, создания и суммаризации текстов, генерации и анализа кода, а также решения сложных задач. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество в конкретном приложении. Указанный в метаданных датасет дообучения — MaziyarPanahi/truthy-dpo-v0.1-axolotl. README предупреждает о возможных смещениях и ограничениях больших языковых моделей и рекомендует применять защитные меры и проверку человеком. Лицензия в предоставленных данных не указана.

calme-2.2-qwen2.5-72b — плотная языковая модель MaziyarPanahi, дообученная на основе Qwen2.5-72B-Instruct. Она предназначена для диалогов и генерации текста: ответов на вопросы, работы виртуальных помощников, создания и суммаризации текстов, генерации и анализа кода, а также решения сложных задач. Модель содержит 71,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и формат весов safetensors; для общения применяется шаблон ChatML. Контекст составляет до 32 768 токенов. В метаданных указан английский язык; README описывает широкие языковые сценарии, но не подтверждает поддержку конкретных дополнительных языков. README приводит результаты Open LLM Leaderboard, в том числе 84,77 по IFEval и 61,80 по BBH; оценки относятся к указанным настройкам тестирования и не гарантируют качество в конкретном применении. Известные ограничения — возможные предвзятость и ошибки, поэтому при внедрении важны проверка ответов и человеческий контроль. Лицензия обозначена как other, без уточнения конкретных условий в предоставленных данных.

DeepSeek-V2 — языковая модель компании DeepSeek для генерации текста и диалогов. Она основана на архитектуре Mixture-of-Experts (MoE): в README указаны 236 млрд параметров всего и 21 млрд активных на каждом токене; архитектура включает DeepSeekMoE и механизм внимания MLA, который сжимает данные для KV-кэша. В метаданных репозитория указано 18,1 млрд параметров, поэтому сведения о размере в источниках расходятся. Модель обучена на корпусе объёмом 8,1 трлн токенов с последующими этапами supervised fine-tuning и reinforcement learning. Она предназначена для продолжения текста, диалогов, ответов на вопросы, рассуждений и задач программирования. README сообщает о контексте до 128 тысяч токенов, а метаданные указывают нативный контекст 163 840 токенов. Результаты приведены, в частности, для англоязычных и китайских тестов; сведений о поддержке конкретного набора языков нет. DeepSeek-V2 заявлена как более эффективная в обучении и инференсе благодаря MoE и MLA. Для локального запуска в BF16 README указывает требование к оборудованию 8 GPU по 80 ГБ; для инференса также предлагается vLLM. Лицензия в метаданных обозначена как other, поэтому конкретные права использования по этим данным определить нельзя.

Google DeepMind Gemma 4 26B A4B IT QAT Q4_0 Unquantized — мультимодальная instruction-tuned модель семейства Gemma 4, связанная с базовой моделью google/gemma-4-26B-A4B-it. Это контрольная точка QAT: веса извлечены из конвейера обучения с учётом квантования, но сами хранятся в формате safetensors; вариант предназначен для последующей компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и выдаёт текст. Она подходит для диалогов, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания текста на изображениях и вызова инструментов. Для варианта 26B A4B в карточке семейства заявлено контекстное окно до 256K токенов; аудиовозможности относятся только к меньшим моделям семейства. QAT-обучение нацелено на сохранение качества, близкого к bfloat16, при снижении требований к памяти в соответствующих вариантах квантованных контрольных точек. Этот репозиторий содержит unquantized QAT-веса, поэтому сам по себе не является готовым GGUF или мобильным квантованным вариантом. Карточка описывает возможности семейства в целом; отдельные показатели качества для этого чекпойнта не приведены.

coder3101/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic — производная мультимодальная модель Gemma 4, созданная coder3101 на основе google/gemma-4-26B-A4B-it-qat-q4_0-unquantized. Это диалоговая модель с архитектурой Gemma4ForConditionalGeneration и поддержкой анализа изображений; она принимает текст и изображения и выдаёт текст. Базовое семейство Gemma 4 разработано Google DeepMind. Модель предназначена для диалогов, рассуждений, программирования и понимания изображений. Возможные сценарии включают ответы на вопросы по изображениям, извлечение данных из документов, распознавание текста и объектов на изображениях, анализ диаграмм и интерфейсов, генерацию и исправление кода, составление резюме и работу с инструментами. В карточке базового семейства заявлена поддержка более 35 языков и контекст до 256 тысяч токенов для варианта 26B A4B; аудиовозможности указаны только для других размеров Gemma 4, а README описывает видео для семейства в целом, поэтому эти возможности не приписываются данной модели. Модель помечена как uncensored/decensored/abliterated, что указывает на изменение поведения относительно базовой модели, но подробности обучения и конкретные эффекты не раскрыты. Возможны фактические ошибки, смещения и трудности с нюансами языка; ответы следует проверять, особенно в сложных или критичных задачах. Лицензия — Apache-2.0.

Sprinter-Spb/gpt-oss-20b — размещённая пользователем версия открытой модели gpt-oss-20b от OpenAI. Это языковая модель с архитектурой Mixture of Experts и классом GptOssForCausalLM; в README для исходной модели указаны 21 млрд параметров и 3,6 млрд активных параметров, а метаданные этой карточки сообщают 1,6 млрд параметров. Модель ориентирована на диалог, рассуждения, агентные сценарии и задачи разработчиков. Она принимает текст в формате Harmony, поддерживает вызов функций и настройку уровня рассуждений; заявленная длина контекста — 131 072 токена. Модель рассчитана на более низкую задержку и локальное использование; README указывает, что вариант gpt-oss-20b с MXFP4 может работать в пределах 16 ГБ памяти. Среди сценариев — ответы на вопросы, генерация текста и кода, использование инструментов и структурированный вывод. Карточка описывает семейство как тонко настраиваемое, но не сообщает о специальном дообучении этой версии Sprinter-Spb. Модель распространяется по лицензии Apache-2.0. Для корректной работы требуется формат Harmony; README также предупреждает, что цепочку рассуждений не следует показывать конечным пользователям.

Карточка модели Mahesh111000/hanabi-qwen3-8b-rl-step150 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Hunyuan-4B-Instruct — языковая модель Tencent на архитектуре HunYuan Dense V1 с 3,9 млрд параметров, дообученная для выполнения инструкций и диалогов на основе tencent/Hunyuan-4B-Pretrain. Она предназначена для генерации ответов, решения математических и научных задач, программирования, рассуждений и сценариев с использованием инструментов. Модель поддерживает режимы быстрого и пошагового рассуждения и контекст до 262 144 токенов; для инференса использует Transformers, также в карточке описано развертывание через TensorRT-LLM, vLLM и SGLang. Среди заявленных сильных сторон — работа с длинными текстами и агентными задачами, а также эффективный инференс благодаря Grouped Query Attention. В README приведены результаты бенчмарков для задач математики, науки, программирования, рассуждений, следования инструкциям, работы с агентами и длинным контекстом; таблица отдельно предупреждает, что часть результатов получена для базовых моделей семейства. Данных о лицензии в предоставленной карточке нет.

QuantFactory/internlm2-chat-7b-sft-GGUF — квантизированная версия языковой модели InternLM2-Chat-7B-SFT, созданная QuantFactory с использованием llama.cpp на базе модели internlm/internlm2-chat-7b-sft. Это текстовая causal language model для генерации текста и диалоговых сценариев. Модель предназначена для общения, следования инструкциям, рассуждений, решения математических задач, написания и анализа кода, творческого письма, анализа данных, а также использования в агентных системах с инструментами и многошаговыми вызовами. Указано контекстное окно до 200 000 токенов и размер 7 миллиардов параметров. Модель работает с текстом; конкретный набор поддерживаемых языков в README не указан. Версия SFT предназначена также для исследования влияния RLHF, поскольку последующая версия InternLM2-Chat-7B дополнительно обучалась с помощью Online RLHF. К сильным сторонам относятся заявленные результаты в рассуждениях, математике, программировании, следовании инструкциям и задачах с длинным контекстом, а также преимущества квантизированного формата для запуска через llama.cpp. Ограничения включают возможные ошибки, предвзятость, дискриминационные или иные вредные ответы; качество зависит от квантизации и условий запуска. В README указана лицензия «other», без подробного описания условий, поэтому точные правила использования следует уточнять в исходной карточке модели.

RedHatAI/Llama-3.3-70B-Instruct-FP8-dynamic — инструкционная текстовая модель семейства Llama 3.3 с 70 млрд параметров, разработанная Red Hat совместно с Neural Magic на базе Meta Llama-3.3-70B-Instruct. Модель принимает текст и генерирует текст, ориентирована на коммерческое и исследовательское использование, включая диалоговые ассистенты, генерацию естественного языка, создание синтетических данных и дистилляцию моделей. Ключевая особенность модели — динамическая FP8-квантизация весов и активаций линейных операторов в трансформерных блоках. Веса квантизуются статически по каналам, а активации — динамически по токенам. Это примерно вдвое снижает требования к памяти GPU и размер модели на диске, а также может примерно вдвое увеличить пропускную способность матричных вычислений. Для эффективного развертывания рекомендуется использовать vLLM; модель валидирована в RHOAI 2.20, RHAIIS 3.0 и RHELAI 1.5. Модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Ограничения связаны с применением FP8-квантизации, возможными изменениями качества по сравнению с исходной моделью и запретом использования за пределами перечисленных языков, а также в нарушение законодательства, Acceptable Use Policy и условий лицензии. Расширенный контекст в README не указан; в примере развертывания задан максимальный размер последовательности 32768 токенов. Распространяется по лицензии Llama 3.3 Community License.

QuantFactory/Meta-Llama-3-8B-Instruct-GGUF-v2 — это GGUF-квантизированная версия Meta-Llama-3-8B-Instruct, созданная с помощью llama.cpp на основе выпуска от 5 мая 2024 года. Исходную модель разработала Meta; она относится к семейству Llama 3 и содержит около 8 млрд параметров. Модель предназначена для генерации текста и кода, прежде всего для диалоговых сценариев и приложений, которым требуется выполнение инструкций. Она принимает только текстовые входные данные и генерирует текст или код. Архитектура представляет собой авторегрессионный оптимизированный Transformer с Grouped-Query Attention (GQA), контекстное окно составляет 8 тысяч токенов, заявленный язык — английский. Инструкционная версия обучалась с применением supervised fine-tuning (SFT) и reinforcement learning from human feedback (RLHF) для повышения полезности и безопасности. К преимуществам относятся оптимизация под диалоговое использование, поддержка генерации кода и потенциально более эффективный инференс благодаря GGUF-квантизации и GQA. Ограничения включают текстовую модальность, контекст длиной 8 тысяч токенов, статичность модели и ограниченность знаний датой отсечения — мартом 2023 года. Модель распространяется по специальной лицензии Llama 3 с коммерческими условиями Meta; точные положения необходимо проверять в тексте лицензии.

Nexa-AI-4B-Instruct — мультиязычная инструкционная языковая модель, совместно разработанная Neura Tech AI и Lumina AI на основе Qwen/Qwen3-4B-Instruct-2507. Это плотный декодерный Transformer с 3,7 млрд параметров, предназначенный для диалогов и выполнения инструкций; модель распространяется в формате Safetensors через библиотеку Transformers. Модель подходит для генерации ответов, помощи с программированием, математических и логических задач, а также сценариев с вызовом инструментов и агентами. Она поддерживает английский, хинди и китайский; в карточке также заявлены другие языки. Контекстное окно составляет до 262 144 токенов. Разработчики сообщают о дообученной настройке на полезные ответы и приводят результаты сравнительных тестов, но в карточке нет достаточных подробностей об условиях оценки для независимой проверки этих заявлений. Лицензия — Apache-2.0.

Карточка модели davidnichols-ops/NVIDIA-Nemotron-Nano-9B-v2-fork на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-Nano-9B-v2, поэтому описание составлено по ней. NVIDIA Nemotron Nano 9B v2 — языковая модель NVIDIA для диалога, следования инструкциям и задач с рассуждением. В карточке она описана как обученная с нуля; метаданные каталога указывают связь merge с NVIDIA-Nemotron-Nano-12B-v2 и NVIDIA-Nemotron-Nano-12B-v2-Base, поэтому происхождение модели отмечено как слияние. Архитектура Nemotron-Hybrid сочетает преимущественно слои Mamba-2 и MLP с четырьмя слоями Attention. Метаданные указывают 15,1 млрд параметров, контекст до 131 072 токенов и формат safetensors. Модель принимает и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Она рассчитана на ответы на вопросы, программирование, RAG-системы, чат-боты и агентные приложения. Режим рассуждения можно управлять системной инструкцией или бюджетом токенов; разрешение промежуточного рассуждения обычно повышает качество сложных ответов, но увеличивает расход токенов. В README перечислены английский, немецкий, испанский, французский, итальянский и японский; также для входа указаны корейский, португальский, русский и китайский. Лицензия в метаданных обозначена как other, а README заявляет готовность к коммерческому использованию.

Карточка модели yindeshuai/Phi-3.5-mini-instruct на Hugging Face совпадает с карточкой microsoft/Phi-3.5-mini-instruct, поэтому описание составлено по ней. Phi-3.5-mini-instruct — компактная языковая модель Microsoft из семейства Phi-3 для генерации текста и диалогов. Это плотная авторегрессионная модель на 3,7 млрд параметров, доступная в формате Safetensors и предназначенная для запуска в условиях ограниченных вычислительных ресурсов и низкой задержки. В README также описаны варианты с контекстом до 128 тыс. токенов; метаданные этой карточки указывают нативный контекст 4096 токенов, поэтому заявленную длину контекста для данного репозитория следует сверять с используемой конфигурацией. Модель дообучена следованием инструкциям и рассчитана на многоязычные диалоги, рассуждения, задачи по математике и логике, а также помощь с кодом. Её можно использовать как основу генеративных функций, для ответов на вопросы по длинным документам и их суммаризации. В карточке отмечены улучшения качества многоязычных многоходовых диалогов и рассуждений относительно Phi-3 Mini Instruct. Лицензия — MIT. Как и другие языковые модели, она может ошибаться и не оценивалась для всех возможных сценариев; перед применением в ответственных областях требуется проверка качества и безопасности. README также отмечает возможную уязвимость к длительным многоходовым jailbreak-атакам, в том числе на разных языках.

microsoft/phi-4-gguf — GGUF-версия модели phi-4, разработанной Microsoft Research. Это открытая языковая модель для генерации текста, ориентированная преимущественно на английский язык. Она предназначена для исследовательских задач, создания генеративных функций и универсальных AI-систем, особенно в средах с ограниченными ресурсами и требованиями к низкой задержке, а также для задач рассуждения, логики, математики, программирования, диалогового взаимодействия и следования инструкциям. Модель построена как плотный decoder-only Transformer с 14 млрд параметров и поддерживает текстовые входы и выходы. Контекстное окно составляет 16K токенов; рекомендуемый формат взаимодействия — chat-промпты. Обучение проводилось на 9,8 трлн токенов в период с октября по ноябрь 2024 года, а выпуск состоялся 12 декабря 2024 года. Данные включали синтетические учебные материалы, отфильтрованные общедоступные документы, код, академические книги, наборы вопросов и ответов и данные для supervised fine-tuning и direct preference optimization. Мультиязычные данные составляли около 8% корпуса, поэтому основной акцент сделан на английском языке. К сильным сторонам относятся компактный для своих возможностей размер, ориентация на рассуждение и логические задачи, а также дополнительное выравнивание для соблюдения инструкций и повышения безопасности. Ограничения включают статичность модели и отсечение общедоступных данных июнем 2024 года, преимущественную ориентацию на английский язык и необходимость самостоятельной проверки точности, безопасности, справедливости и соответствия требованиям законодательства в конкретных сценариях, особенно в высокорисковых областях. Модель распространяется по лицензии MIT.

Qwen-14B-Chat 是阿里云开发的 Qwen（通义千问）系列对话模型，基于预训练的 Qwen-14B，并通过对齐训练构建为 AI 助手。它采用稠密 Transformer 架构，包含约 21.8B 个参数，支持最长 8192 个 token 的上下文，使用约 15 万 token 的词表，并结合 RoPE、SwiGLU 和 RMSNorm。模型面向中文和英文对话，可用于回答问题、理解指令、协助编程与数学推理，也经过工具使用能力评测。README 报告了中文理解、英文理解、代码、数学和长上下文任务的评测结果，并描述了 BF16、Int8 与 Int4 版本的基准表现。模型以 safetensors 格式发布，运行说明建议使用 PyTorch 与 Transformers，并推荐 FlashAttention 以提升推理效率、降低显存占用。提供的资料 не содержат сведений о лицензии, поэтому условия распространения здесь не уточняются. Как и другие генеративные языковые модели, ответы могут быть ошибочными; приведённые оценки зависят от бенчмарка и условий запуска.

Qwen3-4B-Thinking-2507-FP8 — компактная каузальная языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-версия модели Qwen3-4B-Thinking-2507 с 4,0 млрд параметров, из которых 3,6 млрд приходятся на непараметрическую часть без эмбеддингов. Модель предназначена для генерации текста и работает исключительно в режиме рассуждений с увеличенной длиной цепочки размышлений. Модель ориентирована на сложные задачи, включая логическое рассуждение, математику, естественные науки, программирование, академические вопросы, следование инструкциям, использование инструментов и агентские сценарии. Она поддерживает многоязычные задачи и контекст длиной до 262 144 токенов. Архитектура включает 36 слоёв и Grouped Query Attention с 32 головами для запросов и 8 для ключей и значений. Доступен формат FP8, рассчитанный на более эффективное размещение и выполнение модели. Сильными сторонами являются улучшенные рассуждения, обработка длинного контекста, генерация текста, кодирование и выполнение инструкций. Ограничения включают работу только в режиме рассуждений, потенциально высокие требования к памяти и вычислительным ресурсам при использовании максимального контекста, а также необходимость корректно обрабатывать специальную разметку размышлений в выходе. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-397B-A17B-MTP-GGUF — GGUF-версия мультимодальной модели Qwen3.5-397B-A17B, разработанной командой Qwen и подготовленной для локального запуска компанией Unsloth. Модель предназначена для работы с текстом и изображениями, включая диалоговые сценарии, рассуждения, программирование, визуальное понимание, агентские задачи и вызов инструментов. В основе лежит гибридная архитектура с Gated Delta Networks и разреженным Mixture-of-Experts; обозначение 397B-A17B указывает на общий размер 397 млрд параметров и около 17 млрд активных параметров. Заявлена поддержка 201 языка и диалекта. Вариант MTP поддерживает speculative decoding, что может ускорять генерацию примерно в 1,5–2 раза при использовании совместимой ветки или версии llama.cpp. Доступны настройки для включения и отключения режима рассуждений, а также улучшения для tool calling и coding. К сильным сторонам относятся мультимодальность, высокая вычислительная эффективность разрежанной архитектуры, широкое языковое покрытие и возможность локального запуска в формате GGUF. Ограничения связаны с очень большим размером модели и требованиями к ресурсам, необходимостью совместимого ПО и специальной настройки MTP; при этом режиме не поддерживаются параллельные запросы с np > 1 и использование mmproj. README не указывает максимальную длину контекста. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-4B-MTP-GGUF — квантованный GGUF-вариант мультимодальной модели Qwen3.5-4B, подготовленный Unsloth на базе модели Qwen/Qwen3.5-4B. Это причинная языковая модель с энкодером изображений, предназначенная для работы с текстом и изображениями, включая рассуждения, программирование, визуальное понимание, агентские сценарии и вызов инструментов. Модель поддерживает developer role и улучшенный разбор вложенных объектов при tool calling. Модель содержит около 4 млрд параметров и использует гибридную архитектуру с Gated Delta Networks и разреженным Mixture-of-Experts, а также механизм MTP (multi-token prediction или многошагового предсказания), рассчитанный на ускорение генерации. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Для ускоренной генерации предусмотрено speculative decoding через MTP, потенциально дающее ускорение примерно в 1,5–2 раза при использовании совместимой ветки llama.cpp. Сильными сторонами модели являются сочетание текстовых и визуальных возможностей, большой контекст, относительно небольшой размер и возможность локального запуска, дообучения и интеграции с Transformers, vLLM, SGLang и другими инструментами. Ограничения включают необходимость совместимого программного обеспечения для MTP; при таком режиме не поддерживаются параллельные последовательности с -np > 1 и параметр --mmproj. Лицензия — Apache-2.0.

unsloth/Qwen3.5-9B — постобученная мультимодальная модель семейства Qwen3.5, опубликованная в формате Transformers командой Unsloth. Это причинная языковая модель с визуальным энкодером на 9 млрд параметров; архитектура сочетает Gated Delta Networks и разреженный Mixture-of-Experts. Модель принимает текст и изображения, ведёт диалог, анализирует визуальные материалы, рассуждает и поддерживает вызов инструментов. Модель рассчитана на мультиязычное применение: карточка заявляет поддержку 201 языка и диалекта. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. Веса сохранены в формате safetensors и совместимы с Transformers и рядом серверов инференса. Лицензия — Apache-2.0. Среди подходящих сценариев — вопросы по изображениям и визуальное понимание, многоязычный диалог, программирование, рассуждения и агентные задачи с использованием инструментов. Режим рассуждений включён по умолчанию; высокая пропускная способность и эффективность зависят от выбранного движка и его версии. Для длинного контекста требуются значительные ресурсы памяти, а при нехватке памяти рекомендуется уменьшить окно контекста.

FreedomAISVR/Qwen3.5-9B-MTP-MXFP4-GGUF — мультимодальная модель семейства Qwen, представленная в формате GGUF с квантизацией MXFP4. Репозиторий содержит веса модели размером 5,18 ГБ и мультимодальный проектор SigLIP в формате F16 размером 875 МБ. Указаны 32 трансформерных блока, гибридная архитектура с attention, FFN и SSM, дополнительная голова Multi-Token Prediction и контекст до 262 144 токенов. Модель предназначена для генерации текста на нескольких языках, понимания изображений и видео, рассуждений и вызова инструментов. Вариант из карточки включает режим рассуждений по умолчанию; его можно отключить параметром генерации. В метаданных базовой моделью указана Qwen/Qwen3.5-9B; лицензия — Apache-2.0. Квантизация уменьшает требования к хранению и вычислениям, но может влиять на точность относительно исходных весов.

Карточка модели aaarrbbee/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Карточка модели Rab007/Qwen3.8-2.4T-A95B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-2.4T-A95B, поэтому описание составлено по ней. Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, программирования, профессиональных и исследовательских задач, а также многошаговой работы агентных систем с использованием обратной связи от среды и инструментов. Архитектура — MoE на основе Qwen3.5 с 2,4 трлн параметров суммарно и 95 млрд активируемых параметров. В модели 92 слоя и 512 экспертов, из которых для токена активируются 10 маршрутизируемых и один общий эксперт. Контекст составляет 262 144 токена нативно и может расширяться примерно до 1,01 млн токенов. Модель принимает только текст, работает в режиме рассуждений, который нельзя отключить, и поддерживает интерфейс вызова инструментов. Репозиторий содержит веса и конфигурацию в формате Transformers; README указывает совместимость с vLLM, SGLang и другими движками. Модель рассчитана на сложную генерацию текста, программирование, исследования и длительные задачи с планированием; глубину рассуждений можно настраивать параметром reasoning_effort. Она не поддерживает мультимодальный ввод. Лицензия обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории Hugging Face.

Qwen3.8-2.4T-A95B-FP8 — каузальная языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия постобученной модели Qwen3.8-2.4T-A95B в формате Hugging Face Transformers. Модель предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также многошаговых агентских сценариев с планированием и обработкой обратной связи от среды. Модель содержит 2,4 трлн параметров, из которых при обработке активируется около 95 млрд. Она использует гибридную архитектуру из Gated DeltaNet, Gated Attention и Mixture of Experts: 92 слоя, 512 экспертов, 10 маршрутизируемых и 1 общий активируемый эксперт. Нативная длина контекста составляет 262 144 токена и может быть расширена примерно до 1 010 000 токенов. Поддерживаются настраиваемая глубина рассуждений через reasoning_effort и сохранение контекста рассуждений между сообщениями через preserve_thinking. Языки и точный перечень поддерживаемых модальностей в README не указаны; заявленный pipeline относится к генерации текста. К сильным сторонам относятся высокая вычислительная ёмкость, улучшенные возможности в кодировании, профессиональной работе, исследованиях и длительных агентских задачах, а также совместимость с vLLM, SGLang и TokenSpeed. К ограничениям относятся чрезвычайно большой общий размер модели и, как следствие, высокие требования к инфраструктуре для локального запуска; FP8-квантизация также требует совместимого программного и аппаратного стека. Модель распространяется по лицензии qwen3.8-max; в метаданных она обозначена как other, а полный текст условий находится в файле LICENSE.

Frosty40/Qwen3.8-27B-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen и преобразованной в формат GGUF для запуска через llama.cpp. Модель предназначена для генерации и анализа текста, работы с кодом и агентскими сценариями, а также для задач vision-language с обработкой изображений через отдельный vision projector. Поддерживаются большие контексты до 262K токенов, гибридная архитектура с 48 слоями линейного внимания Gated-DeltaNet и 16 слоями полного внимания, а также межслойное позиционное кодирование MRoPE и гибридная recurrent-attention память. Языки в README явно не указаны. Основной рекомендуемый файл использует квантование Q6_K, повышенную точность Q8_0 для attention-проекций и встроенную MTP-голову для speculative decoding; его размер составляет 23,2 ГБ. MTP может ускорять декодирование примерно на 45–95% при поддержке NextN/MTP в llama.cpp. Заявлены высокая близость к версии bf16, особенно для кода и агентских задач, а также сохранение качества vision-инференса. Для работы требуются llama.cpp с поддержкой архитектуры qwen35, а для MTP-версии — дополнительная поддержка NextN/MTP и vision projector. Контекстное смещение недоступно, а превышение объёма памяти видеокарты приводит к выгрузке в оперативную память и снижению производительности. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-35B-A3B-Distill-oQ8-fp16-mtp — это сборка Novaeon.Studio на базе empero-ai/Qwen3.8-35B-A3B-Distill, предназначенная для локального запуска на компьютерах Apple Silicon через oMLX и MLX. Модель представляет собой дистиллированную версию, обученную на данных и рассуждениях учительских моделей семейства Qwen3.8, включая Qwen3.8 Flash Next, с акцентом на математику и программирование. Это мультимодальная модель text-to-text с сохранённым vision encoder: она принимает текст и изображения и генерирует текст. Архитектура — разреженная MoE семейства Qwen3.5/3.6: около 35 млрд параметров суммарно, примерно 3 млрд активных, 256 экспертов, из которых маршрутизируются 8, и 40 слоёв с гибридом линейного GDN и полноформатного attention. Заявлен контекст до 262 144 токенов, поддерживается английский язык. Квантование oQ8 использует размер группы 64, float16 для scale и неคвантованных весов, эффективную точность около 8,6 бит на параметр и размер около 39,5 ГБ. В составе есть рабочая native MTP head для ускорения декодирования. Модель ориентирована на агентные сценарии, tool use и function calling, многошаговое рассуждение, генерацию кода, работу с длинным контекстом и анализ изображений. По измерениям разработчика на Apple M5 Max 128 GB она достигала примерно 93 токенов в секунду при коротком контексте и 41 токена в секунду при контексте около 64,7 тыс. токенов; в собственной проверке tool use получила 6/6, а средний результат IFEval составил 84,86. Ограничения включают зависимость производительности от оборудования Apple Silicon, необходимость использования совместимого движка oMLX и снижение скорости при увеличении контекста. Модель лицензирована по Apache-2.0.