II.7DevOps, облако и эксплуатация IT-систем

Blossom-V7.1-27B — открытая мультимодальная модель общего назначения от разработчиков семейства Blossom. Это плотная модель архитектуры Qwen3.5 с 27 млрд параметров, дообученная для работы в роли ассистента. Она принимает текст и изображения и генерирует текст; поддерживает диалог, рассуждения, вызов инструментов и агентные сценарии. В README указаны режимы рассуждения medium и max, контекст до 262 144 токенов и рекомендуемый контекст 131 072 токена. Модель предназначена для повседневных вопросов и ответов, знаний общего характера, математики, программирования, веб-разработки, визуализации данных и анализа изображений. Доступны запуски через Transformers, vLLM и llama.cpp; для мультимодального общения и сохранения вызовов инструментов требуется использовать встроенный шаблон чата и сохранять полные сообщения ассистента в истории диалога. Модель распространяется под лицензией Apache-2.0. Для запуска версии 27B требуется достаточно памяти, чтобы разместить веса на GPU; фактическая скорость и доступная длина контекста зависят от оборудования. В README также отмечено, что качество последующих ходов диалога может снизиться, если при повторной передаче истории опускать поля рассуждений или вызовы инструментов.

MaziyarPanahi/calme-2.1-rys-78b — диалоговая языковая модель, дообученная на базе dnhkng/RYS-XLarge. Она использует архитектуру Qwen2 с 76,7 млрд параметров, принимает текст и генерирует текст; для диалога применяется шаблон ChatML. Контекст модели составляет 32 768 токенов. Модель предназначена для ответов на вопросы, чат-ботов и виртуальных помощников, генерации и суммаризации контента, работы с кодом и решения сложных задач. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, без достаточных сведений для независимой оценки качества в конкретных сценариях. Модель выпущена под лицензией MIT. Как и другие большие языковые модели, она может воспроизводить смещения и давать ошибочные ответы; при практическом применении рекомендуется проверка человеком.

Это версия DeepSeek-R1-Distill-Llama-70B, преобразованная сообществом mlx-community из модели deepseek-ai/DeepSeek-R1-Distill-Llama-70B в формат MLX с помощью mlx-lm 0.20.2. Модель построена на плотной архитектуре Llama и содержит 69,5 млрд параметров. Она предназначена для диалогов и генерации текста, включая математические рассуждения, программирование и ответы на сложные вопросы. Контекстное окно составляет 131 072 токена; метаданные также отмечают интерфейс вызова инструментов. Версия ориентирована на запуск с mlx-lm. В карточке указана конверсия в MLX, но лицензия не приведена в доступных данных. Качество ответов и совместимость зависят от среды запуска и конкретного сценария.

GDN-primed-HQwen3-8B-Instruct — созданная Amazon инструкционная гибридная языковая модель на базе Qwen3-8B. В ней 18 слоёв Attention и 18 слоёв Gated DeltaNet (GDN), то есть половина слоёв внимания заменена на слои модели пространства состояний. Модель содержит около 7,6 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов; веса доступны в формате safetensors, библиотека — Transformers. Модель предназначена для диалогов и выполнения инструкций, включая генерацию текста, ответы на вопросы, задачи с длинным контекстом, код и рассуждения. По данным разработчика, гибридная архитектура может ускорять генерацию на длинных последовательностях и снижать расход памяти на KV-кэш при близком к базовой трансформерной модели качестве. Это инструкционная модель, не рассчитанная на выдачу chain-of-thought токенов; вызов инструментов не поддерживается. Лицензия — Apache 2.0.

TeichAI Gemma 4 31B IT Claude Opus Distill v2 — мультимодальная модель для диалогов, дообученная методом SFT на базе unsloth/gemma-4-31B-it с использованием наборов рассуждений, созданных на основе взаимодействий с Claude Opus. Модель семейства Gemma 4 имеет плотную архитектуру и предназначена для сложных многошаговых задач, генерации и отладки кода, научного анализа, синтеза исследовательских материалов и повседневного следования инструкциям. Модель принимает текст и изображения; README также описывает работу с видео как последовательностью кадров, но метаданные указывают только задачу image-text-to-text. Карточка рекомендует Transformers и описывает режим рассуждений, а также настраиваемый бюджет визуальных токенов для задач от распознавания текста на изображениях до их общего анализа. Размер контекста и поддерживаемые языки в предоставленных данных не указаны. Бенчмарки пока не представлены, поэтому качество для конкретных задач следует оценивать самостоятельно. Лицензия — Apache-2.0.

GLM-5.3-Flash — мультимодальная модель семейства GLM-5, разработанная командой GLM-5 и представленная Z.ai. Она предназначена для генерации текста, программирования, агентских сценариев, работы с инструментами и задачами, требующими обработки изображений и текста. Модель доступна для локального развёртывания и может использоваться через API-платформу Z.ai. Модель содержит 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса. Она использует гибридную архитектуру с разреженным и линейным вниманием, а также Manifold-Constrained Hyper-Connections (mHC), что направлено на снижение стоимости обслуживания длинного контекста при сохранении точности. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлена поддержка английского и китайского языков; README также указывает нативную мультимодальность, но не уточняет полный перечень поддерживаемых типов входных данных и максимальный размер контекста. К сильным сторонам относятся высокая эффективность за счёт малого числа активных параметров, возможности работы с длинным контекстом, мультимодальность и производительность в задачах программирования и агентского взаимодействия. Ограничения, включая требования к аппаратному обеспечению, фактическое качество на отдельных задачах и особенности варианта NVFP4-Spark, в README не описаны. Указана лицензия MIT.

Карточка модели genevaquant/Hermes-4-14B на Hugging Face совпадает с карточкой NousResearch/Hermes-4-14B, поэтому описание составлено по ней. Hermes 4 14B — плотная языковая модель Nous Research на архитектуре Qwen3, дообученная на базе Qwen/Qwen3-14B. Она предназначена для диалогов и выполнения инструкций, включая задачи рассуждения, математики, программирования, STEM, логики, творческого письма и генерации ответов в заданном формате. Модель поддерживает гибридный режим рассуждений, следование схемам и вывод JSON, а также вызов инструментов при соответствующей настройке шаблона ChatML. Размер модели — 14 млрд параметров, длина контекста — 40 960 токенов; основным указанным языком карточки является английский. Модель распространяется под лицензией Apache-2.0. Для работы следует использовать формат ChatML; качество ответов и вызова инструментов зависит от корректной настройки шаблона и инференсного окружения. Заявления README о сравнительных результатах и улучшениях основаны на описании разработчика и не являются независимой оценкой.

Карточка модели genevaquant/Hermes-4-405B на Hugging Face совпадает с карточкой Deniss8686/Hermes-4-405B, поэтому описание составлено по ней. Hermes 4 405B — языковая модель Nous Research для диалогов и следования инструкциям, дообученная на базе Meta Llama 3.1 405B. Это плотная авторегрессионная модель с 403,7 млрд параметров, представленная в формате safetensors и рассчитанная на контекст до 131 072 токенов. Модель предназначена для работы в роли универсального ассистента: она ведёт диалог, рассуждает, помогает с математикой, программированием, STEM-задачами, логикой и творческим письмом. Поддерживает гибридный режим рассуждений, вызов функций и инструментов, а также генерацию структурированных ответов, включая JSON по заданной схеме. В карточке указана поддержка английского языка. Разработчик сообщает об улучшениях в рассуждениях, следовании форматам и управляемости после дообучения. Реальное качество может зависеть от запроса, шаблона чата и настроек генерации; работа с инструментами требует подходящего парсера и среды исполнения. Лицензия — Llama 3.

Hermes 4 405B — большая плотная языковая модель Nous Research для диалогов и следования инструкциям, созданная на основе Meta Llama 3.1 405B с дополнительным постобучением. Модель содержит около 403,7 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Основной язык карточки — английский. Модель предназначена для диалогового помощника и сложных задач рассуждения, включая математику, программирование, STEM, логику и творческое письмо. Она поддерживает режим рассуждения, вызов инструментов и функций, а также генерацию структурированных ответов, в том числе JSON по заданной схеме. Вызовы инструментов требуют подходящего шаблона диалога и обработки специального формата вывода. Модель распространяется под лицензией Llama 3.1 Community License. Это крупная модель, для обслуживания которой README рекомендует многокарточные серверные конфигурации и движки вывода вроде vLLM или SGLang. Утверждения о качестве и результатах на бенчмарках приведены разработчиком; карточка не предоставляет подробных таблиц результатов.

InternLM2-Chat-7B-SFT — диалоговая языковая модель семейства InternLM2, разработанная командой InternLM. Это версия с supervised fine-tuning на базе InternLM2-Base-7B; позднее модель InternLM2-Chat-7B дополнительно обучалась с помощью Online RLHF. Параметры модели представлены плотной архитектурой InternLM2ForCausalLM, вес составляют 7,4 млрд параметров, формат репозитория — Safetensors, нативное окно контекста — 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Её можно использовать для ответов на вопросы, рассуждений, математических и кодовых задач, творческого письма и анализа длинных текстов; README также описывает возможности вызова инструментов и анализа данных. Карточка отдельно указывает, что SFT-версия выпущена для изучения влияния RLHF. Модель поддерживает китайский и английский языки, а в карточке представлены также результаты оценки языковой компетенции. Заявление README о контексте до 200 тысяч относится к возможностям семейства и запуску через LMDeploy; для этого репозитория метаданные указывают нативный контекст 32 768 токенов. Модель может выдавать предвзятые, дискриминационные или иные вредоносные ответы. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты.

NVIDIA Llama-3.1-Nemotron-8B-UltraLong-4M-Instruct — языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров, дообученная для диалогов и работы с очень длинным контекстом. Она использует продолженное предобучение и донастройку на инструкциях; базовая модель — meta-llama/Llama-3.1-8B-Instruct. Модель предназначена для генерации ответов и анализа длинных текстовых последовательностей, включая большие документы и составные запросы. Заявленное окно контекста — до 4 млн токенов. Обучение на инструкциях охватывало общие задачи, математику и программирование. Карточка описывает английский язык; метаданные указывают тег en. Модель работает с текстом и доступна в формате safetensors для Transformers; также указаны чат-возможности и интерфейс вызова инструментов. По данным карточки, модель сохраняет конкурентные результаты на стандартных тестах и улучшает обработку сверхдлинного контекста. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование. Результаты и качество на конкретных сценариях могут отличаться; объём контекста сам по себе не гарантирует точное извлечение всей информации из длинного ввода.

MAI-DS-R1 — языковая модель рассуждений, разработанная командой Microsoft AI на основе DeepSeek-R1 и дополнительно обученная для повышения отзывчивости на ранее заблокированные темы и улучшения профиля рисков с сохранением возможностей рассуждения. По метаданным, это плотная модель семейства DeepSeek V3 с 37,6 млрд параметров; она использует библиотеку Transformers, поддерживает диалог и интерфейс вызова инструментов, а длина контекста составляет 163 840 токенов. Модель предназначена для генерации и понимания текста, ответов на общие вопросы, многошаговых рассуждений, решения математических и логических задач, а также помощи с программированием и научными задачами. В README указано, что при постобучении использовались 110 тысяч примеров безопасности и отказов из Tulu 3 SFT и около 350 тысяч внутренних многоязычных примеров по темам, связанным с предвзятостью. По результатам оценок, приведённым в карточке, модель сохранила общие способности DeepSeek-R1, чаще отвечает на ранее блокировавшиеся запросы и лучше снижает вредоносное содержание по сравнению с исходной R1. Модель может выдумывать факты, сохранять предвзятость исходной модели и реагировать на состязательные запросы; её знания ограничены тем же срезом, что и у DeepSeek-R1. Она не предназначена для медицинских, юридических, финансовых и других высокорисковых решений без проверки человеком. Лицензия — MIT.

MiMo-V2-Flash — большая языковая модель Xiaomi для генерации текста, диалогов, рассуждений и агентных сценариев, включая работу с инструментами. В README она описана как MoE-модель с гибридным вниманием, многотокенным предсказанием и 309 млрд параметров, из которых активно используются 15 млрд. Метаданные Hugging Face указывают архитектуру MiMoV2FlashForCausalLM, 12 млрд параметров и файлы Safetensors в формате FP8; это расходится с характеристиками размера в README. Модель принимает текст и рассчитана на контекст до 262 144 токенов. Модель предназначена для быстрых ответов, сложных рассуждений и агентных рабочих процессов; карточка также сообщает о результатах на SWE-Bench и других тестах. Для развёртывания README рекомендует SGLang и описывает вариант запуска с выгрузкой MoE-экспертов на CPU через KTransformers. Языки в предоставленных данных не перечислены. Лицензия — MIT. Реальное качество зависит от задачи и конфигурации развёртывания; заявленные в README результаты бенчмарков являются оценками разработчика.

SanctumAI/Mistral-7B-Instruct-v0.3-GGUF — это квантизированная версия инструкционной языковой модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI и подготовленной в формате GGUF командой SanctumAI. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая использование через локальные приложения, поддерживающие GGUF. Она также поддерживает function calling. Модель основана на Mistral-7B-v0.3 и использует расширенный словарь размером 32 768 токенов и tokenizer v3. В репозитории доступны варианты квантизации от Q2_K до Q8_0, а также версия f16; размер файлов составляет примерно от 2,72 до 14,50 ГБ. Для полного контекста до 32 000 токенов заявленные требования к памяти варьируются от 6,78 до 17,74 ГБ в зависимости от варианта. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому модель следует считать текстовой. Ключевое преимущество — возможность запускать модель локально с выбором компромисса между размером, требованиями к памяти и сохранением качества. Ограничения связаны с потерями качества при низкой степени квантизации и с тем, что это сравнительно компактная 7-миллиардная модель, поэтому её возможности уступают более крупным моделям в сложных задачах. Модель распространяется по лицензии Apache-2.0.

Это GGUF-версия Mistral-Small-4-119B-2603, подготовленная noctrex с квантизацией MXFP4 для тензоров MoE и BF16 для остальных тензоров. Для работы автор рекомендует использовать актуальную версию llama.cpp; для файла mmproj рекомендует вариант F32 для наилучшего качества. Основа — мультимодальная модель Mistral AI для диалогов, рассуждений, программирования, агентных задач и анализа изображений и документов; в карточке репозитория основной pipeline указан как генерация текста. BF16 для неквантизированных тензоров сохраняет их исходную точность и может давать более высокое качество, чем вариант с Q8, но на некоторых архитектурах работает медленнее. Репозиторий создан 17 марта 2026 года. Лицензия в предоставленных данных не указана.

NULLXES SHINRA-4B-INSTRUCT — плотная decoder-only Transformer-модель семейства SHINRA, разработанная NULLXES. Это instruction-tuned чекпойнт примерно на 3,9 млрд параметров с архитектурой ShinraForCausalLM, группированным вниманием GQA, RoPE и контекстом 32 768 токенов. Модель предназначена для диалогов и следования инструкциям, генерации кода, многоязычных ответов, подготовки структурированных JSON-выводов и черновиков вызовов инструментов. Обучение включает предварительное обучение, SFT и DPO. В данных заявлены тексты и код, математика и научные материалы, а также диалоги и примеры работы с инструментами. Карточка указывает английский, русский, немецкий, французский, испанский, китайский, японский, корейский и арабский языки; доля английского при предварительном обучении преобладала. Модель рассчитана на исследовательское применение и интеграцию в продукты NULLXES. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты. По заявлению разработчика, модель уступает крупным моделям в многошаговых рассуждениях и на редких языках; фильтры безопасности эвристические, поэтому возможны вредоносные ответы. Работа с контекстом длиннее 8192 токенов использует экстраполяцию RoPE и требует отдельной проверки качества. Пользовательская архитектура при загрузке через Hugging Face требует trust_remote_code=True.

Olmo-3.1-32B-Instruct — авторегрессионная языковая модель на архитектуре Transformer, разработанная Allen Institute for AI (Ai2). Это плотная модель семейства OLMo 3 с 31,7 млрд параметров, дообученная на основе allenai/Olmo-3.1-32B-Instruct-DPO; карточка также описывает этапы SFT, DPO и обучения с подкреплением на данных Dolci. Модель рассчитана на диалог, выполнение инструкций, общие знания, математику и программирование; поддерживает интерфейс вызова инструментов. Основной язык — английский, контекст — до 65 536 токенов. Модель можно применять для ответов на вопросы, помощи с кодом и математическими задачами, а также для диалоговых и общих текстовых запросов. Доступна в формате Safetensors и работает с Transformers версии 4.57.0 или выше. Лицензия Apache 2.0; разработчик указывает на исследовательское и образовательное применение в соответствии с рекомендациями Ai2 по ответственному использованию.

Qwen1.5-72B-Chat — чат-модель из семейства Qwen1.5, разработанного командой Qwen. Это дообученная версия базовой Qwen1.5-72B: плотная авторегрессионная языковая модель на архитектуре Transformer с примерно 71 млрд параметров, предназначенная для диалоговой генерации текста. Для работы используется библиотека Transformers, веса опубликованы в формате safetensors. Модель подходит для ведения диалога, ответов на вопросы, составления и редактирования текстов, а также генерации кода. В README заявлена многоязычная поддержка; метаданные карточки указывают английский язык. Контекст составляет до 32 768 токенов. Улучшения серии Qwen1.5 включают поддержку длинного контекста и качество чат-моделей, однако в README отмечены возможные ошибки переключения между языками; для генерации рекомендуется использовать параметры из generation_config.json. Карточка указывает лицензию «other», но конкретные условия в предоставленных данных не раскрыты, поэтому перед использованием следует проверить лицензионные сведения репозитория. Это крупная модель, для запуска которой требуются значительные вычислительные ресурсы.

QuantFactory/Qwen2.5-14B-GGUF — это квантизированная версия базовой языковой модели Qwen2.5-14B, созданная QuantFactory с использованием llama.cpp. Исходную модель разработала команда Qwen. Модель предназначена для генерации текста, продолжения текста и последующего дообучения, включая supervised fine-tuning, RLHF и continued pretraining. Разработчики не рекомендуют использовать базовую версию непосредственно для диалогов без дополнительного обучения. Модель относится к каузальным языковым моделям и содержит 14,7 млрд параметров, из которых 13,1 млрд не относятся к embedding-слою. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm и смещения в attention QKV; предусмотрены 48 слоёв и Grouped-Query Attention с 40 головами Q и 8 головами KV. Контекстное окно составляет до 131 072 токенов, поддерживается генерация длинных текстов. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. К сильным сторонам относятся улучшенные знания, возможности в программировании и математике, следование инструкциям, работа со структурированными данными и генерация структурированных ответов, включая JSON, а также поддержка длинного контекста. К ограничениям относятся базовый, а не instruction-tuned характер модели и необходимость использования совместимого программного окружения; для работы рекомендуется актуальная версия transformers, поскольку версии ниже 4.37.0 могут вызывать ошибку совместимости. Модель распространяется по лицензии Apache-2.0.

DreamFast/Qwen2.5-7B-Instruct-heretic-1.3.0 — производная версия Qwen2.5-7B-Instruct, созданная сообществом с помощью Heretic v1.3.0. Это плотная причинная языковая модель на архитектуре Qwen2 с 7,1 млрд параметров в формате bfloat16 и safetensors; квантизация не применялась. В README описано удаление поведения отказа от ответа ортогональной проекцией направления отказа в слоях внимания 9–27. Модель предназначена для диалогов и генерации текста, включая ответы на инструкции, код, математику и структурированные данные. Модель принимает текст и выдаёт текст. Метаданные указывают контекст до 32 768 токенов; README поясняет, что для более длинных входов можно включить YaRN, а исходная серия Qwen2.5 поддерживает множество языков, включая русский. В README приведены результаты сравнений на стандартных бенчмарках и тест HarmBench, где авторы сообщают о высокой готовности отвечать на запросы без отказов. Это означает, что встроенные механизмы безопасного отказа намеренно ослаблены. Репозиторий распространяется по лицензии Apache-2.0.

Это общественная конверсия модели Qwen/Qwen3-30B-A3B-Thinking-2507 в формат GGUF, подготовленная Geoff Munn для локального запуска через llama.cpp и совместимые приложения. Модель относится к семейству Qwen3 и предназначена для диалогов, генерации текста и задач, требующих рассуждений: решения математических задач, программирования, логического анализа и работы с инструментами. Режим рассуждений можно переключать командами /think и /no_think. В карточке указано 30 млрд параметров и поддержка множества языков; метаданные перечисляют английский, китайский, испанский, французский, немецкий, русский, арабский, японский, корейский и хинди. Репозиторий содержит GGUF-варианты разной степени квантования; README рекомендует более точные варианты для сложных задач и отмечает высокие требования к памяти. Конверсия не связана с разработчиками Qwen. Лицензия — Apache-2.0.

Richard Young выпустил эту версию Qwen3-4B-Instruct-2507, обработанную методом abliteration с помощью Heretic v1.4.0. Это плотная причинная языковая модель на 3,7 млрд параметров для генерации текста и диалогов; она рассчитана на режим без пошагового рассуждения и имеет контекстное окно 262 144 токена. Модель предназначена для следования инструкциям, ответов на вопросы, логических и математических задач, программирования, работы с длинными текстами и сценариев с вызовом инструментов. В README автор сообщает, что при его проверке модель отказала в 3 из 100 запросов, тогда как исходная версия отказала во всех 100; это описывает результаты конкретной оценки, а не гарантирует поведение на других запросах. Репозиторий содержит веса Safetensors для Transformers. Указанная лицензия — Apache-2.0. README отмечает поддержку нескольких языков, но не перечисляет их, поэтому основной язык определить нельзя.

arnomatic/Qwen3-4B-Instruct-2507-heretic-av2 — производная чат-модель семейства Qwen3, созданная на основе Qwen3-4B-Instruct-2507 методом abliteration, который снижает склонность исходной модели отказывать в ответах. Это плотная причинная языковая модель с архитектурой Qwen3ForCausalLM, примерно 3,7 млрд параметров и нативным контекстом до 262 144 токенов; поддерживает только режим без «thinking». Предназначена для диалогов и генерации текста по инструкциям, включая рассуждения, математику, программирование, ответы на вопросы и вызовы инструментов. Карточка сообщает о многоязычных возможностях исходной модели, но не перечисляет поддерживаемые языки. В сравнении с исходной моделью в приведённом тесте число отказов снизилось с 100 из 100 до 19 из 100; это не означает полного отсутствия отказов и не является гарантией качества. Доступна в формате Safetensors для Transformers. Лицензия — Apache-2.0.

txn545/Qwen3.5-122B-A10B-NVFP4 — квантизированная версия языковой модели Qwen3.5-122B-A10B от Alibaba, подготовленная с использованием NVIDIA Model Optimizer. Это авторегрессионная модель на архитектуре Transformers с разреженной экспертной архитектурой: всего 122 млрд параметров, из которых 10 млрд активируются при обработке запроса. Модель принимает текст, изображения и видео, а генерирует текст; заявленная длина контекста — до 262 тысяч токенов. Языки README не уточняет. Модель предназначена для развертывания в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Квантизация весов и активаций линейных операторов в MoE-блоках выполнена в формате NVFP4 и ориентирована на инференс через SGLang на GPU NVIDIA Blackwell под Linux. Указанная версия квантизации создана с помощью nvidia-modelopt v0.43.0.dev52+g35e60991c; для запуска требуется актуальная версия SGLang с поддержкой соответствующих изменений. Сильной стороной модели являются крупный общий объём параметров, мультимодальный ввод, длинный контекст и оптимизация для аппаратного ускорения NVIDIA. Ограничения включают зависимость от совместимого оборудования и программного окружения, а также возможные неточности, токсичные ответы и усиление предубеждений, присутствовавших в исходных данных обучения. Сведения о полном обучающем и тестовом наборах, а также подробные языковые характеристики не раскрыты. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование с учётом условий базовой модели Qwen3.5-122B-A10B.

fraQtl Qwen3.6-35B-A3B-Hi-Fi-GGUF — это квантизированная GGUF-версия базовой модели Qwen3.6-35B-A3B-Instruct, разработанной командой Qwen и подготовленной к квантизации fraQtl. Модель предназначена для локальной генерации текста, включая диалог, программирование, математические задачи, работу с инструментами и создание развернутых текстов. Заявлена поддержка английского и китайского языков. Модель использует архитектуру Mixture of Experts с общим размером около 35 млрд параметров, примерно 3 млрд активных параметров на токен и 256 маршрутизируемыми экспертами. Это стандартный Q4_K_M-файл для llama.cpp без необходимости в специальном runtime или измененных ядрах. Вариант Hi-Fi применяет распределение битов с учетом важности отдельных тензоров и калибровку imatrix, чтобы приблизить поведение к Q8-версии при сохранении размера обычной Q4_K_M-квантизации. К сильным сторонам относятся локальный запуск на Apple Silicon и потребительских GPU, совместимость с llama.cpp и оболочками на его основе, а также улучшенные по сравнению с некоторыми публичными Q4-квантами показатели близости распределения вывода и perplexity. Ограничения связаны с потерями точности, присущими квантизации, и значительным размером файла около 20 ГБ. На Apple M4 с 24 ГБ памяти подтвержден запуск в CPU-режиме, тогда как полная Metal-выгрузка для этой конфигурации не укладывается в доступную память; работа на системах с 32 ГБ и более обозначена как экспериментальная. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-REAM-192 — мультимодальная модель Samsung SAIL Montreal, созданная слиянием экспертов базовой Qwen/Qwen3.6-35B-A3B методом REAM. В слоях MoE число маршрутизируемых экспертов сокращено с 256 до 192; модель содержит около 27,05 млрд параметров, из которых около 3 млрд активны на токен. Сохранены vision encoder и обработка изображений; веса представлены в формате bf16, без квантизации. Модель предназначена для диалогов, генерации текста по изображениям, агентного программирования и вызова инструментов. Это предварительный выпуск до оценки качества: автор сообщает, что модель загружается и связно отвечает на тестовых запросах, но результаты бенчмарков ещё не опубликованы. Для обычной текстовой и мультимодальной работы отсутствующие веса MTP не нужны, однако спекулятивное декодирование с MTP пока не поддерживается. Для инференса требуется bf16: fp16 может вызывать NaN в слоях GDN. Веса занимают около 52 ГБ; для контекста 32K автор указывает минимум около 60 ГБ VRAM. Лицензия Apache-2.0.

EschaLabs/Qwen3.8-27B-Escha-W2 — это 2-битная квантованная сборка модели Qwen3.8-27B, разработанная Escha Labs Inc. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений и программирования. Она поддерживает режим thinking, в котором может формировать расширенное рассуждение перед ответом, а также совместима с OpenAI-совместимым HTTP-интерфейсом через специализированный runtime на базе SGLang. Модель сохраняет полный объём в 27 млрд параметров. Используется смешанная квантование 2/3 бита для проекций с эффективной точностью 2,469 бита на вес, а embedding и head имеют формат int8. Размер весов составляет около 10,15 ГБ, общий размер загрузки — около 10,18 ГБ. На одной видеокарте с 24 ГБ памяти заявлена работа с контекстом до 64K токенов, а при специальной настройке — до 128K; проверены RTX 5090, RTX 4090 и RTX 3090. Указан английский язык, однако README не содержит полного перечня языков или точного максимального размера контекста базовой модели. К сильным сторонам относятся существенная экономия памяти, возможность локального запуска и высокие заявленные результаты на тестах: 79,25% на Commonsense-6, 88,38% на GPQA-Diamond и pass@1 86,81% на LiveCodeBench v6. Ограничения включают зависимость от Linux x86-64, NVIDIA GPU с архитектурой sm_80 или новее, CUDA 12.8, Python 3.12 и специального runtime; видеокарты на 16 ГБ не проверялись и требуют уменьшенного контекста. Для корректной работы также важны совместимые версии PyTorch, SGLang и Transformers. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-heretic-ara-fp8 — мультимодальная модель на базе Qwen3.8-27B, разработанная Qwen Team и преобразованная в производный checkpoint проектом Heretic с использованием метода Arbitrary-Rank Ablation (ARA). FP8-квантизацию, проверку и публикацию выполнил magiccodingman. Квантизация не включает дополнительное дообучение, слияние моделей или новую abliteration; поведение унаследовано от upstream-модели heretic-org/Qwen3.8-27B. Модель предназначена для работы с текстом и изображениями, а конфигурация репозитория также содержит процессор для изображений и видео. Она может применяться в задачах программирования, математики, науки, генерации структурированных данных, SQL, многоязычного текста, работы с инструментами и инженерии вывода. Точный набор поддерживаемых языков, архитектурные детали, размер контекста и результаты исходных бенчмарков в данном README не приведены. Модель содержит около 27 миллиардов параметров; веса представлены в формате FP8 E4M3 с блочной гранулярностью масштабирования 128×128, а объём тензорных данных составляет около 30,87 ГБ. К сильным сторонам относятся существенное снижение размера весов по сравнению с BF16 и близость поведения к исходной BF16-модели: при проверке средняя дивергенция KL составила 0,00315279, а совпадение наиболее вероятного токена — 96,5517%. Однако поддержка нативных FP8-ядер и FP8 KV-cache зависит от ускорителя, backend и версии программного обеспечения; при отсутствии совместимой реализации веса могут быть деквантизированы. Модель наследует ограничения исходного checkpoint и намеренно сниженное поведение отказа, поэтому требует самостоятельной проверки, защитных мер и контроля безопасности. Лицензия — Apache License 2.0; применяются также уведомления и атрибуции upstream-компонентов.

Furiosa-AI Qwen3-8B-FP8 — это версия модели Qwen3-8B-FP8, подготовленная для запуска на аппаратной платформе FuriosaAI RNGD с использованием Furiosa-LLM. Модель разработана на базе Qwen3 компании Qwen и предназначена для генерации текста, диалоговых приложений, решения задач, программирования, математического рассуждения, вызова инструментов и построения агентных систем. Доступен OpenAI-совместимый API. Модель представляет собой плотный causal transformer с grouped-query attention и примерно 8,2 млрд параметров. Она работает только с текстом на входе и выходе; в README явно указан английский язык. Qwen3-8B поддерживает гибридный режим рассуждений: по умолчанию модель может формировать рассуждение перед ответом, а для отдельных запросов рассуждения можно отключать. Также поддерживается вызов функций через parser hermes. Веса статически квантизированы в FP8 с размером блока 128, а активации динамически квантизируются в FP8 во время выполнения. К сильным сторонам относятся сочетание качества рассуждений и эффективного режима без рассуждений, поддержка инструментов и агентных сценариев, а также оптимизация для FuriosaAI RNGD. Ограничения включают зависимость от Furiosa-LLM и оборудования RNGD для описанного способа запуска, а также то, что характеристики языковой поддержки и контекстного окна в данной карточке не раскрыты. На RNGD используется tensor parallelism с размером 8 PE, соответствующий одной карте RNGD. Модель распространяется по лицензии Apache 2.0.

Qwen3-Nemotron-32B-RLBFF — текстовая диалоговая модель NVIDIA на архитектуре Transformer Qwen3, дообученная на базе Qwen/Qwen3-32B для повышения качества ответов в режиме рассуждения. Она принимает многоходовый текстовый диалог и генерирует ответ на последнее сообщение пользователя; подходит для общих вопросов, анализа данных, планирования, программирования и творческих задач. В метаданных указано 29,7 млрд параметров и контекст до 40 960 токенов; README сообщает, что обучение велось на диалогах длиной до 4 тыс. токенов, хотя заявленный там максимальный вход — 128 тыс. токенов. Модель предназначена для запуска через Transformers или vLLM на GPU NVIDIA; README рекомендует один или несколько GPU с 80 ГБ памяти. В опубликованных оценках модель превосходит исходную Qwen3-32B на Arena Hard V2, WildBench и MT-Bench, однако эти результаты не гарантируют качество в конкретных сценариях. Карточка называет модель исследовательской и приводит результаты тестирования на общих диалоговых бенчмарках. Язык в метаданных — английский; лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория NVIDIA.