II.1Анализ требований и архитектура ПО

Nemotron-3-Ultra-550B-A55B-NVFP4 — большая языковая модель NVIDIA для диалога, рассуждений и агентных приложений. Она предназначена для сложных многошаговых задач, анализа больших документов и кодовых баз, а также для работы с математическими и научными запросами. Модель подходит разработчикам чат-ботов, RAG-систем и AI-агентов. Модель построена на гибридной архитектуре LatentMoE: в ней сочетаются слои Mamba-2, Mixture-of-Experts и Attention, а Multi-Token Prediction ускоряет генерацию. Всего в модели 550 млрд параметров, из которых 55 млрд активны; контекст достигает 1 млн токенов. Чекпойнт использует NVFP4 и рассчитан на высокую пропускную способность на современном оборудовании NVIDIA. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, бразильский португальский и китайский языки. NVIDIA заявляет о готовности модели к коммерческому и некоммерческому использованию; в метаданных лицензия обозначена как other, поэтому перед внедрением следует проверить условия лицензии в карточке модели. Для запуска требуются значительные вычислительные ресурсы и подходящая инфраструктура NVIDIA; в README рекомендована многосерверная конфигурация для развертывания на нескольких узлах.

NVIDIA-Nemotron-Nano-12B-v2 — языковая модель NVIDIA Corporation для диалогов, рассуждений и выполнения инструкций. Это дообученная версия NVIDIA-Nemotron-Nano-12B-v2-Base с гибридной архитектурой Nemotron-Hybrid: основную часть составляют слои Mamba-2 и MLP, дополненные шестью слоями Attention. Модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и может работать в режиме с рассуждениями или без них; системный промпт и бюджет токенов позволяют управлять глубиной рассуждений. Модель предназначена для чат-ботов, RAG-систем, AI-агентов, программирования и общих задач по инструкциям. README заявляет поддержку английского, немецкого, испанского, французского, итальянского, японского, корейского, португальского, русского и китайского; в метаданных карточки перечислены английский, испанский, французский, немецкий, итальянский и японский. Разработчик сообщает о готовности к коммерческому использованию; лицензия указана как other, поэтому конкретные условия следует сверить с файлами лицензии репозитория. Модель оптимизирована для GPU NVIDIA; в vLLM неверный тип кэша Mamba-SSM может снизить точность, а генерация с рассуждениями требует большего числа выходных токенов.

duyntnet/Qwen2.5-14B-Instruct-imatrix-GGUF — набор GGUF-квантизаций инструкционно дообученной языковой модели Qwen2.5-14B-Instruct, первоначально разработанной командой Qwen компании Alibaba Cloud. Репозиторий предназначен для локального запуска и инференса через llama.cpp, KoboldCPP, text-generation-webui или Ollama. Модель относится к авторегрессионным causal language models и ориентирована на диалог, следование инструкциям, генерацию текста, программирование, математику, работу со структурированными данными и формирование структурированных ответов, включая JSON. Указана поддержка более 29 языков, в том числе английского, китайского, русского, французского, испанского, немецкого, японского и корейского. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в Attention QKV и GQA; модель содержит около 14,7 млрд параметров, 48 слоёв, 40 голов внимания для Q и 8 для KV. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако текущая конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. Сильные стороны модели — улучшенные возможности в кодировании и математике, следование инструкциям, генерация длинных текстов и устойчивость к различным системным промптам. Ограничения включают необходимость совместимого инференс-движка и дополнительной настройки для контекста свыше 32 768 токенов. В метаданных указана лицензия other; конкретные условия лицензии в README не раскрыты.

RedHatAI/Qwen2.5-32B-Instruct-FP8-dynamic — это опубликованная Red Hat AI FP8-квантизованная версия Qwen2.5-32B-Instruct, исходная модель разработана командой Qwen компании Alibaba. Она предназначена для диалогов, следования инструкциям, генерации текста и структурированных ответов, а также задач программирования, математики и работы с длинными текстами. Модель относится к causal language models и поддерживает только текстовые входы и выходы. В основе используется архитектура Qwen2ForCausalLM с 64 слоями, 40 attention heads для Q и 8 для KV по схеме GQA; размер исходной модели составляет около 32,5 млрд параметров. Репозиторий RedHatAI содержит формат compressed-tensors с FP8-представлением весов и динамическим квантованием активаций; в конфигурации указано максимальное положение на 32 768 токенов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский, английский, китайский и другие. Сильные стороны — сочетание крупного размера, улучшенных возможностей следования инструкциям, программирования, математики и более экономичного инференса благодаря FP8-квантизации. Ограничения включают возможные потери качества по сравнению с полной точностью, необходимость совместимого ПО для compressed-tensors и отсутствие отдельной карточки модели с подробными бенчмарками и описанием ограничений. Для исходной Qwen2.5-32B-Instruct указана лицензия Apache 2.0; отдельная лицензия производного репозитория RedHatAI в найденных материалах явно не указана.

Qwen2-7B-Instruct — инструктивно дообученная языковая модель серии Qwen2, разработанная командой Qwen. Это плотная decoder-only модель на архитектуре Transformer с 7,1 млрд параметров, предназначенная для диалогов и генерации текста. Она подходит для ответов на вопросы, суммаризации, написания текстов, программирования, математики и рассуждений. Модель принимает текст и выдаёт текст. Карточка описывает поддержку нескольких естественных языков и кода; в метаданных указан английский язык. Заявленная длина контекста в метаданных — 32 768 токенов; README описывает расширение до 131 072 токенов с помощью YARN. Для запуска рекомендована версия Transformers 4.37.0 или новее, а README также приводит вариант развёртывания через vLLM. Модель демонстрирует сильные результаты в приведённых бенчмарках по пониманию и генерации языка, мультиязычным задачам, программированию, математике и рассуждениям. Расширенный контекст через YARN требует настройки и может снижать качество на коротких текстах при статическом масштабировании. Лицензия — Apache-2.0.

Карточка модели ygal33/Qwen3-235B-A22B на Hugging Face совпадает с карточкой Qwen/Qwen3-235B-A22B, поэтому описание составлено по ней. Qwen3-235B-A22B — большая языковая модель семейства Qwen3 от команды Qwen, разработанная Alibaba. Это причинная языковая модель архитектуры Mixture of Experts: всего 235 млрд параметров, из которых при генерации активируются 22 млрд; используются 128 экспертов, из них активны 8. Модель доступна в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для диалогов и генерации текста, следования инструкциям, рассуждений, математики, программирования, творческого письма, перевода и сценариев с вызовом внешних инструментов. В одном чекпойнте можно переключать режимы рассуждения и обычного ответа. README заявляет поддержку более 100 языков и диалектов. Контекст в README указан как 32 768 токенов нативно и до 131 072 с YaRN; метаданные каталога указывают нативную длину 40 960 токенов. Модель принимает текст и выдаёт текст. Репозиторий лицензирован по Apache-2.0. Для практического использования следует учитывать большой общий размер модели и требования к инфраструктуре; README не приводит конкретных аппаратных требований или оценок качества для отдельных задач.

unsloth/Qwen3-235B-A22B-Instruct-2507 — версия модели Qwen3, опубликованная Unsloth с исправлениями шаблона чата. Это причинная языковая модель архитектуры MoE: в исходной конфигурации 235 млрд параметров, из которых активируются 22 млрд; версия в репозитории содержит 18,2 млрд параметров. Модель предназначена для диалогов и следования инструкциям, рассуждений, математики, программирования и вызова инструментов. Она работает только в режиме без пошагового «thinking» и поддерживает контекст до 262 144 токенов. Разработчики отмечают улучшения в понимании текста, знаниях на нескольких языках и выполнении открытых задач. Модель подходит для чат-ассистентов, обработки длинных документов и агентных сценариев с инструментами. В метаданных указаны Transformers и формат Safetensors; для использования с llama.cpp README рекомендует параметр --jinja. Репозиторий лицензирован по Apache-2.0.

Qwen3-30B-A3B-Instruct-2507 — инструкционная языковая модель семейства Qwen3, представленная в репозитории Unsloth как версия с исправлениями chat template. Это причинная MoE-модель: в исходной карточке указаны 30,5 млрд параметров всего и 3,3 млрд активных, 48 слоёв и 128 экспертов, из которых для обработки запроса активируются 8. Метаданные каталога указывают 2,6 млрд параметров; оценки размера в источниках расходятся. Модель предназначена для диалогов и выполнения инструкций, генерации текста, рассуждений, математики, научных и программных задач, а также вызова инструментов. Она поддерживает несколько языков и контекст до 262 144 токенов. Работает только в режиме без «thinking». В репозитории указаны веса Safetensors и библиотека Transformers; README рекомендует использовать актуальную версию Transformers. Лицензия — Apache-2.0. Модель может допускать смешение языков и повторы; для задач с высокой точностью ответы следует проверять.

Qwen3-30B-A3B-Instruct-2507-AWQ-4bit — 4-битная AWQ-квантизированная версия модели Qwen3-30B-A3B-Instruct-2507, опубликованная пользователем cyankiwi и основанная на модели Qwen/Qwen3. Исходная модель разработана командой Qwen. Это авторегрессионная языковая модель для генерации текста, диалогов и выполнения инструкций. Модель предназначена для следования инструкциям, логического рассуждения, понимания текста, математики, научных задач, программирования, использования инструментов и открытых текстовых запросов. Она поддерживает многоязычные сценарии и контекст длиной до 262 144 токенов. Архитектура — Mixture of Experts: 30,5 млрд параметров всего, из которых 3,3 млрд активируются на запрос; 48 слоёв, 128 экспертов, 8 активируемых экспертов, Grouped Query Attention с 32 головами Q и 4 головами KV. Модель работает только в режиме non-thinking и не формирует блоки <think></think>. Сильные стороны включают улучшенное следование инструкциям, качество рассуждений, программирование, творческое письмо, работу с длинным контекстом и многоязычными данными. Ограничения связаны с использованием только non-thinking режима, возможными ошибками генерации и потерей качества из-за 4-битной квантизации; конкретные требования к аппаратному обеспечению в предоставленных данных не указаны. Лицензия — Apache-2.0.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter223 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter271 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

unsloth/Qwen3-32B-128K-GGUF — это GGUF-версия большой языковой модели Qwen3-32B, разработанной командой Qwen и опубликованной в формате GGUF командой Unsloth. Модель представляет собой причинную языковую модель с 32,8 млрд параметров, из которых 31,2 млрд не относятся к эмбеддингам. Архитектура включает 64 слоя и групповое обобщённое внимание (GQA) с 64 головами для Q и 8 для KV. Модель предназначена для диалогов, следования инструкциям, генерации и анализа кода, математического и логического рассуждения, творческого письма, ролевого взаимодействия, многошаговых диалогов, перевода и агентских сценариев с интеграцией внешних инструментов. Qwen3 поддерживает переключение между режимом рассуждения для сложных задач и нережимом рассуждения для более быстрых ответов. Заявлена поддержка более 100 языков и диалектов. Базовая длина контекста составляет 32 768 токенов, а с использованием YaRN она увеличена до 131 072 токенов. Модель сочетает широкий набор языковых и рассуждательных возможностей с поддержкой длинного контекста и локального запуска в GGUF-экосистеме. Ограничения включают значительный размер, потенциально высокие требования к памяти и вычислительным ресурсам, а также зависимость качества и скорости от конкретной GGUF-квантизации и настроек запуска. В README не приведены точные параметры квантизации, требования к оборудованию или результаты бенчмарков. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Thinking-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это модель с 3,7 млрд параметров для генерации текста в режиме рассуждения; она ориентирована на сложные задачи логики, математики, естественных наук, программирования и академических вопросов, а также на следование инструкциям и работу с инструментами. Модель построена на архитектуре Qwen3ForCausalLM с 36 слоями и группированным многозапросным вниманием. Она принимает текст и поддерживает нативный контекст длиной 262 144 токена. Режим рассуждения включён по умолчанию; увеличенная длина рассуждений особенно полезна для многошаговых задач. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Qwen3.8-27B-GPTQ-INT4 — квантованная версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем abhishekchohan. Модель предназначена для диалогов, следования инструкциям, математических и научных задач, программирования, агентских сценариев и мультиязычной работы. Она поддерживает текстовые и визуальные входы, а также нативный контекст до 262 144 токенов. Используется 4-битное асимметричное квантование весов INT4 с GPTQ, group_size=32 и статическим упорядочиванием активаций. Квантированы основные линейные слои 64 текстовых слоёв, тогда как нормализации, эмбеддинги, языковая голова, визуальный ViT-энкодер, слои DeltaNet и предиктор MTP сохранены в BF16. Размер весов составляет около 27 ГБ вместо примерно 55,6 ГБ у версии BF16. Калибровка выполнена на данных по следованию инструкциям, математике, науке, коду и мультиязычным задачам. По представленным оценкам, модель в целом сохраняет качество BF16-версии в пределах статистического шума на большинстве тестов и полностью сохраняет результаты поиска информации в контексте до 262 144 токенов. При этом на MathVision зафиксировано снижение результата на 2,5 пункта, а поведение агентских сценариев и вызова инструментов отдельно не оценивалось. Поддерживаются thinking, tool calling и speculative decoding при использовании совместимой версии vLLM; полный контекст требует значительного объёма видеопамяти. Лицензия — Apache-2.0. Расширение контекста до 1 млн токенов через YaRN в этом чекпойнте не проверялось.

unsloth/Seed-OSS-36B-Instruct-GGUF — GGUF-вариант инструкционной большой языковой модели Seed-OSS-36B-Instruct, разработанной командой ByteDance Seed. Модель предназначена для генерации текста, диалоговых приложений, задач рассуждения, работы с длинным контекстом, использования инструментов и агентских сценариев, включая решение технических вопросов и задач разработки. Серия оптимизирована преимущественно для международных многоязычных применений, однако точный перечень поддерживаемых языков в карточке не указан. Модель содержит 36 млрд параметров и использует архитектуру causal language model с RoPE, GQA-вниманием, RMSNorm и активацией SwiGLU. Она имеет 64 слоя, 80/8/8 QKV-голов, размер головы 128, скрытый размер 5120 и словарь на 155 тысяч токенов. Нативная длина контекста заявлена до 512 тысяч токенов. Пользователь может гибко управлять бюджетом рассуждения, регулируя длину процесса вывода и балансируя качество и эффективность. К сильным сторонам относятся развитые способности к рассуждению, агентским задачам, работе с инструментами и обработке длинного контекста при сохранении универсальных возможностей. Ограничения включают высокие требования к вычислительным ресурсам, связанные с размером модели и контекстом; конкретные требования для данного GGUF-файла и точные характеристики квантования в README не указаны. Модель распространяется по лицензии Apache-2.0.

Athene-V2-Chat-72B — диалоговая языковая модель с открытыми весами, разработанная командой Nexusflow. Это дообученная с помощью RLHF модель Qwen2.5-72B-Instruct с плотной архитектурой Qwen2; в репозитории доступны веса в формате safetensors. Модель рассчитана на диалог, генерацию текстов, решение математических задач и программирование. Она использует шаблон чата Qwen2.5-72B-Instruct и поддерживает контекст до 32 768 токенов. В карточке разработчик сообщает о сильных результатах в чат-бенчмарках, математике, программировании, следовании инструкциям и многошаговом диалоге. Модель также имеет интерфейс вызова инструментов, однако для сложных агентных сценариев Nexusflow выделяет отдельную модель Athene-V2-Agent-72B. Лицензия — Nexusflow Research License; перед использованием следует проверить её условия для конкретного сценария.

Calme 2.1 Qwen2 72B — плотная языковая модель, созданная MaziyarPanahi дообучением Qwen/Qwen2-72B-Instruct. Она предназначена для диалогов и генерации текста: отвечает на вопросы, помогает создавать и суммировать материалы, анализировать и писать код, решать сложные задачи и поддерживать принятие решений. Для диалогов используется шаблон ChatML. Модель содержит 71,5 млрд параметров, работает на базе Transformers и имеет нативное контекстное окно 32 768 токенов. В карточке указан английский язык; README приводит результаты оценок на задачах следования инструкциям, рассуждений, математики и вопросов с выбором ответа. Модель может наследовать ограничения и смещения больших языковых моделей, поэтому важные ответы требуют проверки человеком. Репозиторий распространяется по лицензии «other»; конкретные условия следует сверять с лицензией репозитория.

Claude Sonnet 4.6 — модель семейства Sonnet, разработанная Anthropic. По карточке модели она предназначена для программирования, работы с агентами и профессиональных задач; заявлены сильные результаты в итеративной разработке, навигации по сложным кодовым базам и управлении проектами от начала до конца.

DeepSeek-V3.1 — большая языковая модель, разработанная DeepSeek AI. Она поддерживает гибридный режим: может работать в режиме с рассуждением и без него, переключаясь через шаблон чата. Модель предназначена для диалоговых приложений, генерации ответов, задач, требующих сложного рассуждения, а также для использования инструментов и агентских сценариев. Модель содержит 671 млрд параметров, из которых при генерации активируется 37 млрд, и поддерживает контекст длиной до 128 тысяч токенов. Она дообучена на базе DeepSeek-V3.1-Base, использует расширенное обучение на длинных контекстах и формат данных UE8M0 FP8 для весов и активаций. Режим с рассуждением ориентирован на повышение качества решения сложных задач и сопоставим по качеству с DeepSeek-R1-0528, при этом заявлено более быстрое формирование ответов. Поддержка вызова инструментов заявлена для режима без рассуждения. README не содержит сведений о поддерживаемых языках и мультимодальных возможностях, поэтому модель следует рассматривать прежде всего как текстовую языковую модель. Большой общий размер параметров может предъявлять высокие требования к инфраструктуре, несмотря на меньшее число активируемых параметров. Модель распространяется по лицензии MIT.

winterthurquants/DeepSeek-V4-Pro-DSpark — это вариант чекпойнта DeepSeek-V4-Pro с подключённым модулем спекулятивного декодирования DSpark; README уточняет, что это не новая модель. Семейство разработано DeepSeek и предназначено для генерации текста, диалога, рассуждений, программирования, планирования и агентных сценариев. Каталог указывает 44,9 млрд параметров, плотную архитектуру DeepseekV4ForCausalLM и формат safetensors FP8; README описывает для семейства гибридное внимание CSA/HCA и контекст до 1 048 576 токенов. Модель поддерживает режимы ответа без рассуждений и с повышенным усилием рассуждения. DSpark предназначен для ускорения вывода посредством спекулятивного декодирования; README приводит пример запуска через vLLM. В карточке не перечислены языки, поэтому языковой охват конкретного чекпойнта не уточняется. Лицензия — MIT. README описывает существенно более крупную MoE-версию DeepSeek-V4-Pro с 1,6 трлн параметров, что расходится с каталоговыми метаданными данного репозитория; характеристики размера и архитектуры в описании приведены по метаданным каталога.

Droplychee разработала Droplychee-2.0-40B — плотную авторегрессионную трансформерную модель семейства Qwen, дообученную на многоязычных инструкциях. Она предназначена для диалогов, рассуждений, программирования, следования инструкциям и работы с длинными документами; поддерживает сценарии с агентами и вызов инструментов. Модель содержит 40 млрд параметров и использует расширение контекста YaRN с заявленной длиной до 1 000 000 токенов. В README заявлена поддержка более 40 языков; основное внимание при обучении и оценке уделено английскому и бенгальскому. Репозиторий распространяет веса в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. К сильным сторонам авторы относят многоязычный диалог, программирование, рассуждения и анализ длинного контекста. Качество на предельной длине контекста зависит от движка вывода, оборудования и настроек; опубликованные оценки выполнены командой разработчиков и не проверены независимой стороной. Возможны фактические ошибки и различия качества между языками и областями; результаты следует проверять.

GLM-4.6-Flash-text — текстовая версия модели GLM-4.6V-Flash от zai-org, опубликованная в репозитории sartajbhuvaji. Из исходной мультимодальной модели удалена система обработки изображений; дообучение, дистилляция и переобучение не выполнялись. Текстовый путь сохранён побитово идентичным исходной модели, что подтверждено сравнением логитов на коротких и длинных последовательностях. Модель предназначена для генерации и обработки текста, включая ответы на вопросы, программирование, объяснение понятий, перевод и работу с длинным контекстом. Поддерживаются английский и китайский языки. Архитектура представляет собой декодер GLM-4: 40 слоёв, скрытое представление размерностью 4096, 32 головы внимания и 2 KV-головы с GQA, словарь на 151 552 токена и максимальная длина позиций 131 072 токена. Количество параметров составляет около 9,4 млрд, размер BF16-весов — около 18,8 ГБ. Доступны также варианты GGUF с квантованием Q8_0, Q6_K, Q5_K_M и Q4_K_M. Главное преимущество — сохранение качества текстовой части исходной модели при уменьшении размера весов и снижении требований к памяти при серверном запуске. В описанном сценарии vLLM на A100-SXM4-40GB модель обеспечивала больше доступной KV-кэш-памяти, более высокую максимальную параллельность и существенно более быструю инициализацию по сравнению с исходной мультимодальной конфигурацией. Ограничение модели — отсутствие поддержки изображений и других мультимодальных входов; она предназначена только для текста. Лицензия — MIT.

GLM-4-9B-Chat-1M — диалоговая языковая модель семейства GLM-4, разработанная Zhipu AI. Этот репозиторий содержит версию весов для Transformers; модель имеет плотную архитектуру GLM с примерно 8,9 млрд параметров и поддерживает контекст до 1 048 576 токенов. Для работы требуется Transformers версии 4.46.0 или новее. Модель предназначена для многошагового диалога и генерации текста, включая рассуждения по длинным документам. Карточка семейства GLM-4-9B-Chat описывает вызов инструментов, веб-поиск и выполнение кода; метаданные также отмечают интерфейс вызова инструментов. GLM-4 поддерживает 26 языков, а в метаданных этой модели указаны английский и китайский. В README сообщается о результатах на задачах семантики, математики, рассуждений, программирования и знаний, превосходящих Llama-3-8B в приведённых оценках; данных о независимой проверке этих сравнений нет. Указанная в метаданных лицензия — other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Модель является дообученной версией THUDM/glm-4-9b-chat-1m.

RadixArk/GLM-5.3-Flash-NVFP4 — квантизированная версия мультимодальной модели GLM-5.3-Flash-BF16 от Z.ai, подготовленная RadixArk. Это производный чекпойнт без дополнительного обучения или дообучения, созданный с помощью NVIDIA Model Optimizer 0.46.0. Модель предназначена для агентной разработки, программирования, рассуждений с длинным контекстом, работы с инструментами, диалогов и других приложений на базе ИИ. Модель использует гибридную архитектуру Transformer со sparse Mixture-of-Experts: 320 млрд параметров всего и около 18 млрд активных на токен. Архитектура включает 45 слоёв, 42 MoE-слоя с 288 маршрутизируемыми экспертами, общим экспертом, KDA linear attention, DSA sparse attention, MLA, vision encoder и механизмом MTP/NextN. Она принимает текст, изображения и видео, выдаёт текст, поддерживает английский и китайский языки и контекст до 1 048 576 токенов. Ключевая особенность чекпойнта — смешанная NVFP4 W4A4-квантизация с group size 16 и нормализацией tensor-scale 256. Большинство MLP-тензоров экспертов квантизировано, тогда как компоненты внимания, vision tower, маршрутизаторы, нормализация, эмбеддинги, языковая голова и другие критичные компоненты сохранены в исходной точности. Это снижает требования к памяти и делает модель пригодной для эффективного развёртывания, но требует совместимой инфраструктуры. Заявлена проверка на NVIDIA Blackwell, включая конфигурацию из четырёх GB300; основной runtime — SGLang под Linux. Для KV-кэша поддерживаются FP8 и BF16 варианты. Модель распространяется по лицензии MIT. Для запуска рекомендованы официальный образ SGLang GLM-5.3-Flash и конфигурация на четырёх GPU. RadixArk не является разработчиком исходной модели, поэтому сведения о её обучении, исходных возможностях и условиях использования следует уточнять в карточке GLM-5.3-Flash-BF16 от Z.ai.

Sprinter-Spb/gpt-oss-20b — размещённая пользователем версия открытой модели gpt-oss-20b от OpenAI. Это языковая модель с архитектурой Mixture of Experts и классом GptOssForCausalLM; в README для исходной модели указаны 21 млрд параметров и 3,6 млрд активных параметров, а метаданные этой карточки сообщают 1,6 млрд параметров. Модель ориентирована на диалог, рассуждения, агентные сценарии и задачи разработчиков. Она принимает текст в формате Harmony, поддерживает вызов функций и настройку уровня рассуждений; заявленная длина контекста — 131 072 токена. Модель рассчитана на более низкую задержку и локальное использование; README указывает, что вариант gpt-oss-20b с MXFP4 может работать в пределах 16 ГБ памяти. Среди сценариев — ответы на вопросы, генерация текста и кода, использование инструментов и структурированный вывод. Карточка описывает семейство как тонко настраиваемое, но не сообщает о специальном дообучении этой версии Sprinter-Spb. Модель распространяется по лицензии Apache-2.0. Для корректной работы требуется формат Harmony; README также предупреждает, что цепочку рассуждений не следует показывать конечным пользователям.

Granite-3.1-8B-Instruct — инструктивная языковая модель команды Granite компании IBM, опубликованная Red Hat AI. Это плотная модель на 8,2 млрд параметров, полученная дообучением Granite-3.1-8B-Base на открытых наборах инструкций и внутренних синтетических данных; в обучении использовались supervised fine-tuning, обучение с подкреплением для выравнивания и слияние моделей. Она предназначена для диалогов, следования инструкциям, генерации текста и работы с длинным контекстом; поддерживает интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Доступна в формате safetensors и распространяется по лицензии Apache 2.0. README сообщает о проверке на платформах Red Hat AI и рекомендует развёртывание через vLLM; конкретный пример конфигурации ограничивает длину контекста 32 768 токенами.

Карточка модели genevaquant/Hermes-4-405B на Hugging Face совпадает с карточкой Deniss8686/Hermes-4-405B, поэтому описание составлено по ней. Hermes 4 405B — языковая модель Nous Research для диалогов и следования инструкциям, дообученная на базе Meta Llama 3.1 405B. Это плотная авторегрессионная модель с 403,7 млрд параметров, представленная в формате safetensors и рассчитанная на контекст до 131 072 токенов. Модель предназначена для работы в роли универсального ассистента: она ведёт диалог, рассуждает, помогает с математикой, программированием, STEM-задачами, логикой и творческим письмом. Поддерживает гибридный режим рассуждений, вызов функций и инструментов, а также генерацию структурированных ответов, включая JSON по заданной схеме. В карточке указана поддержка английского языка. Разработчик сообщает об улучшениях в рассуждениях, следовании форматам и управляемости после дообучения. Реальное качество может зависеть от запроса, шаблона чата и настроек генерации; работа с инструментами требует подходящего парсера и среды исполнения. Лицензия — Llama 3.

Hermes 4 405B — большая плотная языковая модель Nous Research для диалогов и следования инструкциям, созданная на основе Meta Llama 3.1 405B с дополнительным постобучением. Модель содержит около 403,7 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Основной язык карточки — английский. Модель предназначена для диалогового помощника и сложных задач рассуждения, включая математику, программирование, STEM, логику и творческое письмо. Она поддерживает режим рассуждения, вызов инструментов и функций, а также генерацию структурированных ответов, в том числе JSON по заданной схеме. Вызовы инструментов требуют подходящего шаблона диалога и обработки специального формата вывода. Модель распространяется под лицензией Llama 3.1 Community License. Это крупная модель, для обслуживания которой README рекомендует многокарточные серверные конфигурации и движки вывода вроде vLLM или SGLang. Утверждения о качестве и результатах на бенчмарках приведены разработчиком; карточка не предоставляет подробных таблиц результатов.

tencent/Hy3-FP8 — FP8-квантизированная версия Hy3, большой языковой модели с архитектурой Mixture-of-Experts, разработанной командой Tencent Hy. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев, офисных задач, финансового моделирования, frontend-разработки и создания игр. Она также ориентирована на работу с инструментами, структурированными форматами вывода и многошаговыми диалогами. Hy3 содержит 295 млрд параметров, из которых 21 млрд активируются при обработке запроса; дополнительно предусмотрен MTP-слой на 3,8 млрд параметров. Архитектура включает 80 основных слоёв и один MTP-слой, 192 эксперта с активацией 8 экспертов, GQA-внимание с 64 attention heads и 8 KV heads, hidden size 4096 и контекст длиной до 256K токенов. Модель демонстрирует сильные стороны в рассуждениях, длинном контексте, вызове инструментов, удержании сложных инструкций и снижении галлюцинаций, однако README не указывает поддерживаемые языки и не приводит подробностей о специфике FP8-реализации. Модель распространяется по лицензии Apache 2.0.

K2-Horizon-MoVA-36B-A4B-oQ4e — это MLX-конверсия и 4-битная смешанно-точная квантизированная версия модели IFM/K2-Horizon-MoVA-36B-A4B, разработанной командой IFM. Модель предназначена для генерации текста, рассуждений, ответов на научные вопросы, программирования, извлечения информации, структурированного вывода и агентских сценариев с вызовом инструментов и использованием терминала. Архитектура модели основана на разреженной Mixture-of-Experts и механизме внимания Mixture-of-Values (MoVA). Всего модель содержит 36 млрд параметров, из которых при обработке активны около 4 млрд. Заявлена поддержка контекста до 512 тысяч токенов. Это reasoning-модель; для наилучших результатов рекомендуется использовать высокий уровень усилий рассуждения. Данные о поддерживаемых языках и мультимодальных возможностях в README не указаны, поэтому модель следует рассматривать как текстовую. Сильными сторонами являются качество рассуждений, структурированный вывод, надёжность вызова инструментов и применение в локальных агентских конвейерах. По приведённым сравнениям модель превосходит Qwen 3.6 35B A3B в большинстве тестов, но уступает ему по скорости генерации: производительность ограничена большим общим размером модели, несмотря на небольшое число активных параметров. Для запуска требуется MLX-совместимая среда; при использовании oMLX необходима версия 0.6.4 или новее с патчем поддержки K2-Horizon. Модель распространяется по лицензии Apache-2.0, как и исходная модель.