II.1Анализ требований и архитектура ПО

Google DeepMind Gemma 4 31B IT QAT — мультимодальная инструкционно настроенная модель с плотной архитектурой для генерации текста и диалогов, а также понимания изображений. Эта версия представляет собой unquantized QAT-чекпойнт: веса в формате safetensors извлечены из конвейера обучения с учётом квантования; для неё указана базовая модель google/gemma-4-31B-it-assistant. Лицензия — Apache 2.0. Модель подходит для рассуждений, программирования, ответов на вопросы и агентных сценариев с вызовом инструментов. Она принимает текст и изображения и выдаёт текст; семейство Gemma 4 поддерживает контекст до 256 тысяч токенов, а также многоязычную работу. В карточке описаны распознавание текста и документов на изображениях, понимание диаграмм и интерфейсов, но обработка аудио заявлена только для меньших моделей семейства, а не для 31B. QAT-чекпойнты предназначены для снижения требований к памяти при сохранении качества, близкого к bfloat16; конкретный объём экономии для этой версии не приведён. Для ускорения генерации с помощью спекулятивного декодирования совместимая assistant-модель должна быть QAT-чекпойнтом той же точности. Модель может ошибаться в ответах и коде; карточка не приводит количественных оценок качества именно этого чекпойнта.

Granite-4.0-H-Micro — компактная инструктивная языковая модель IBM Granite Team для диалогов и выполнения общих инструкций. В карточке модели указаны 2,6 млрд параметров, архитектура GraniteMoeHybrid и контекстное окно до 131 072 токенов. Модель принимает текст и генерирует текст; она доступна в формате Safetensors и рассчитана на использование через Transformers. Модель дообучена от Granite-4.0-H-Micro-Base на открытых наборах инструкций, синтетических и размеченных людьми данных. Для обучения применялись supervised fine-tuning, выравнивание с помощью обучения с подкреплением и объединение моделей. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова инструментов, включая корпоративных ассистентов. Поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский; также заявлены многоязычные диалоги и дополнение кода FIM. Инструктивная настройка улучшает следование инструкциям и вызов инструментов. По данным README, качество на языках помимо английского может быть ниже; несколько примеров в запросе могут помочь. Модель также может выдавать неточные, предвзятые или небезопасные ответы, поэтому её следует проверять и настраивать для конкретного применения. Лицензия — Apache 2.0.

Granite-4.1-30B — большая языковая модель с открытыми весами, разработанная командой Granite компании IBM. Это инструктивная версия с 28,9 млрд параметров, дообученная на базе Granite-4.1-30B-Base с помощью supervised fine-tuning и обучения с подкреплением. Архитектура — плотный decoder-only Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; модель работает с контекстом до 131 072 токенов. Модель предназначена для диалогов и следования общим инструкциям, а также для создания ассистентов и LLM-агентов с вызовом инструментов. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом и многоязычный диалог. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. IBM указывает на улучшения в следовании инструкциям, диалоге и вызове инструментов. Качество на языках помимо английского может быть ниже; модель также может выдавать неточные, предвзятые или небезопасные ответы, поэтому её следует проверять и настраивать под конкретный сценарий. Лицензия — Apache 2.0.

Granite-4.1-8B — языковая модель с 8,4 млрд параметров, разработанная командой Granite компании IBM. Это плотный декодерный трансформер с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель дообучена на основе Granite-4.1-8B-Base с помощью supervised fine-tuning и обучения с подкреплением; доступна в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для следования инструкциям и создания диалоговых помощников, в том числе агентов с вызовом инструментов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Качество на многоязычных задачах может уступать английскому; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для конкретных сценариев рекомендуется проводить проверку безопасности и настройку.

Карточка модели RedHatAI/granite-4.1-8b на Hugging Face совпадает с карточкой ibm-granite/granite-4.1-8b, поэтому описание составлено по ней. Granite-4.1-8B — языковая модель с 8,4 млрд параметров, разработанная командой Granite компании IBM. Это плотный декодерный трансформер с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель дообучена на основе Granite-4.1-8B-Base с помощью supervised fine-tuning и обучения с подкреплением; доступна в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для следования инструкциям и создания диалоговых помощников, в том числе агентов с вызовом инструментов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Качество на многоязычных задачах может уступать английскому; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для конкретных сценариев рекомендуется проводить проверку безопасности и настройку.

Granite-4.2-8B — языковая модель команды Granite компании IBM для диалогов, рассуждений и работы с инструментами. Это плотный декодерный трансформер GraniteForCausalLM с 8,4 млрд параметров, доступный в формате safetensors и рассчитанный на библиотеку Transformers. Модель дообучена на базе ibm-granite/granite-4.1-8b-base; лицензия Apache 2.0 разрешает коммерческое и академическое использование. Модель предназначена для ответов на вопросы, многошаговых рассуждений, математических и программных задач, а также сценариев, где нужно выбирать и вызывать инструменты. Поддерживаются режимы полного, облегчённого и отключённого рассуждения. Метаданные указывают контекст до 131 072 токенов. Архитектура включает Grouped Query Attention, RoPE, SwiGLU и RMSNorm. Модель обучалась преимущественно на английских инструкциях, также включает многоязычные данные для немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Качество на других языках может уступать английскому; ответы могут быть неточными, предвзятыми или небезопасными. Текст рассуждений может содержать промежуточные мысли и не отражать итоговый ответ.

RedHatAI разместила инструкционную мультимодальную модель Mistral-Small-3.1-24B-Instruct-2503 с архитектурой Mistral 3 и 24 млрд параметров. Это плотная модель, дообученная на базе mistralai/Mistral-Small-3.1-24B-Instruct-2503; репозиторий содержит веса safetensors и поддерживает чат и анализ изображений вместе с текстом. Модель предназначена для диалоговых помощников, вызова функций, программирования, математических рассуждений, анализа изображений и длинных документов. Контекстное окно — до 128 тыс. токенов. README заявляет поддержку множества языков, включая русский, английский, французский, немецкий, китайский, японский, арабский и другие. К сильным сторонам относятся мультимодальное понимание изображений, длинный контекст, многоязычность и возможность локального запуска после квантизации. Модель рассчитана на применение в системах Red Hat AI, а лицензия Apache 2.0 разрешает коммерческое использование и модификацию. Конкретные результаты могут зависеть от сценария и настройки; README отмечает низкую точность в SimpleQA среди приведённых текстовых оценок.

unsloth/Qwen2.5-14B-Instruct-unsloth-bnb-4bit — это 4-битная квантованная версия инструкционно дообученной языковой модели Qwen2.5-14B-Instruct. Базовую модель разработала команда Qwen, а квантованный вариант подготовлен Unsloth. Модель предназначена для диалогов, выполнения инструкций, генерации текста, работы со структурированными данными и JSON, а также для задач программирования и математики. Модель относится к классу causal language models и содержит около 14 миллиардов параметров. Для семейства Qwen2.5 заявлена поддержка контекста до 128 тысяч токенов и генерации до 8 тысяч токенов. Поддерживаются китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие языки — всего более 29 языков. Мультимодальные возможности для этой модели не заявлены. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному формату, при этом Unsloth заявляет улучшение точности по сравнению со стандартным 4-битным квантованием за счёт выборочной квантовки. Ограничения включают потенциальные потери точности, характерные для квантованных моделей, а также обычные для больших языковых моделей риски фактических ошибок и нестабильности результатов; конкретные показатели качества в README не приведены. Модель распространяется по лицензии Apache-2.0.

Карточка модели cxyzz/Qwen3.8-27B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

Blossom-V7.1-35B-A3B — открытая мультимодальная модель общего назначения от разработчиков семейства Blossom, дообученная на базе Qwen3.6-35B-A3B. Она принимает текст и изображения и предназначена для диалогов, ответов на вопросы, математики, рассуждений, программирования, веб-разработки, визуализации данных и агентных сценариев с вызовом инструментов. Модель построена на архитектуре Qwen3.5 MoE; в названии варианта указано 35B-A3B. Поддерживает режимы рассуждения medium и max, вызов инструментов с промежуточным рассуждением и контекст до 262 144 токенов, при этом для лучших результатов рекомендуется до 131 072 токенов. Доступны веса Safetensors; README также описывает запуск через Transformers, vLLM и llama.cpp для соответствующих вариантов. Для многоходового диалога нужно сохранять полные сообщения ассистента, включая поля рассуждений и вызовы инструментов. Модель рассчитана на локальное развёртывание и гибридный CPU/GPU-инференс. Для корректной работы требуется встроенный шаблон чата Blossom; замена его на шаблон Qwen может нарушить работу. Лицензия — Apache-2.0. В README указано, что обучающие данные планируют выпустить позднее.

Calcium-Opus-20B-v1 — диалоговая языковая модель на архитектуре Qwen2, созданная на основе Qwen/Qwen2.5-14B-Instruct и дообученная для рассуждений, математики, программирования и следования инструкциям. По метаданным модель содержит 18,4 млрд параметров, использует Transformers и формат safetensors; заявленное в README контекстное окно до 128K токенов расходится с указанным в метаданных пределом 4096 токенов, поэтому фактический размер контекста следует уточнить для конкретной версии. Модель предназначена для диалоговых помощников, генерации и анализа текста, решения математических задач, написания и отладки кода, работы с таблицами и JSON, а также создания длинных материалов. README заявляет поддержку более 29 языков, включая русский и английский; метаданные карточки указывают английский. Заявлены генерация до 8K токенов за один ответ и интерфейс вызова инструментов. Лицензия Apache-2.0. Качество может различаться между языками; возможны ошибки в длинных ответах, повторы и неверные выводы при неоднозначных или состязательных запросах. Модель не обладает актуальными знаниями о событиях после обучения и требует значительных вычислительных ресурсов.

Карточка модели nishti1024/DeepSeek-V4.1-Flash на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-V4.1-Flash, поэтому описание составлено по ней. DeepSeek-V4.1-Flash — мультимодальная модель DeepSeek для диалогов, рассуждений и агентных задач. Она принимает изображения и текст и авторегрессионно генерирует текст. По README, модель обучена с нуля и использует архитектуру Causal Encoder-Decoder с 40 слоями и Mixture-of-Experts; в ней 552 млрд параметров backbone, а при обработке токенов активируется 8 млрд параметров на этапе prefill и 16 млрд при генерации. Модель поддерживает контекст до одного миллиона токенов и управляемый уровень усилий рассуждения от 1 до 100. Среди заявленных архитектурных решений — сжатие KV-кэша, разреженное внимание, условная память Engram и спекулятивное декодирование. Модель ориентирована на сценарии с длинным контекстом и агентным выполнением задач, включая работу с кодом и визуальными данными. Метаданные указывают форматы safetensors FP8 и библиотеку Transformers; лицензия — MIT. README отмечает, что для релиза не предоставлен Jinja-шаблон чата, а для запуска локально предлагается обратиться к инструкциям в папке inference.

dots3-note Preview — предварительная открытая мультимодальная модель семейства dots3. В README она описана как Mixture-of-Experts с 280 млрд параметров всего и 16 млрд активируемых параметров; метаданные каталога классифицируют её как плотную модель на 15,4 млрд параметров, поэтому сведения о размере и типе архитектуры расходятся между источниками. Модель принимает текст, изображения, видео и аудио и выдаёт текст; заявленная длина контекста составляет до 512 тыс. токенов по README и 524 288 токенов по метаданным. Модель предназначена для диалога и следования инструкциям, общих знаний, математических и логических рассуждений, генерации кода, использования инструментов и многошаговых агентных сценариев. Она также рассчитана на понимание изображений, документов, диаграмм, аудио и видео, а также на обработку длинных контекстов. В README dots3-note Preview названа наиболее лёгкой моделью семейства с компромиссом между возможностями, задержкой и стоимостью инференса. Модель разработана командой dots3. Для запуска указаны Transformers, SGLang и vLLM; README рекомендует FP8-чекпойнт для развёртывания на узле с восемью GPU. Лицензия — Apache-2.0. Это предварительная версия; заявленные возможности и несоответствие сведений об архитектуре и размере следует учитывать при выборе и развёртывании.

unsloth/gemma-4-31B-it — это инструкционно настроенная мультимодальная модель семейства Gemma 4, представленная Unsloth на базе google/gemma-4-31B-it. Она предназначена для диалогов, рассуждений, программирования, агентных сценариев и анализа изображений. Модель принимает текст и изображения и выдаёт текст; поддерживает интерфейс вызова инструментов. В основе лежит плотная архитектура Gemma4ForConditionalGeneration с чередованием локального скользящего и глобального внимания. Для версии 31B заявлено контекстное окно до 256 тысяч токенов. Семейство поддерживает более 35 языков, но основной язык именно этой модели отдельно не выделен. Заявленные сценарии работы с изображениями включают OCR, извлечение данных из документов, понимание диаграмм и интерфейсов, распознавание объектов и анализ видеокадров; аудиовозможности относятся только к моделям E2B и E4B. Модель подходит для составления ответов по изображениям и документам, суммаризации, генерации и исправления кода, а также построения диалоговых и агентных приложений. Ответы могут содержать фактические ошибки; качество зависит от формулировки запроса и обучающих данных, а тонкие языковые нюансы могут быть сложны для модели. Лицензия — Apache 2.0.

Карточка модели ArchiveStudio/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели OsGo/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели Terom/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Granite 3.1 8B Instruct — языковая модель, разработанная командой IBM Granite и представленная в GGUF-формате сообществом LM Studio. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для локального запуска и решения широкого круга задач: следования общим инструкциям, суммаризации, классификации и извлечения текста, ответов на вопросы, работы с RAG, программирования, вызова функций и обработки длинного контекста. Модель поддерживает контекст до 131 072 токенов. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; для других языков возможна дополнительная дообученная адаптация. Архитектура и точный размер файловой квантизации в README не уточняются. Сильными сторонами являются широкий набор прикладных сценариев, многоязычность и большой контекст, однако модель может генерировать неточные, вредоносные или неподходящие ответы, а качество зависит от выбранного варианта квантизации и условий запуска. Лицензия — Apache 2.0.

Granite-3.2-2B-Instruct — инструкционная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это плотная авторегрессионная модель на 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.1-2b-instruct для задач рассуждения и выполнения инструкций; режим рассуждения можно включать по необходимости. Модель работает с текстом, поддерживает диалог и интерфейс вызова инструментов, имеет контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache 2.0. Модель предназначена для общих инструкционных задач и интеграции в ассистентов: ответов на вопросы, суммаризации длинных документов и встреч, извлечения и классификации текста, RAG, задач с кодом и вызова функций. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Среди сильных сторон — длинный контекст, управляемое рассуждение и многоязычный диалог. К ограничениям относятся унаследованные от Granite-3.1-2B-Instruct ограничения и этические соображения; README не приводит их подробнее.

Карточка модели RedHatAI/granite-3.2-2b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.2-2b-instruct, поэтому описание составлено по ней. Granite-3.2-2B-Instruct — инструкционная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это плотная авторегрессионная модель на 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.1-2b-instruct для задач рассуждения и выполнения инструкций; режим рассуждения можно включать по необходимости. Модель работает с текстом, поддерживает диалог и интерфейс вызова инструментов, имеет контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache 2.0. Модель предназначена для общих инструкционных задач и интеграции в ассистентов: ответов на вопросы, суммаризации длинных документов и встреч, извлечения и классификации текста, RAG, задач с кодом и вызова функций. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Среди сильных сторон — длинный контекст, управляемое рассуждение и многоязычный диалог. К ограничениям относятся унаследованные от Granite-3.1-2B-Instruct ограничения и этические соображения; README не приводит их подробнее.

Hermes 4.3 36B — языковая модель для диалогов и следования инструкциям, разработанная Nous Research на основе ByteDance-Seed/Seed-OSS-36B-Base. Это плотная архитектура Seed OSS с 31,7 млрд параметров и контекстом до 524 288 токенов; модель распространяется в формате safetensors и рассчитана прежде всего на английский язык. Модель предназначена для рассуждений и ответов общего назначения, включая задачи по математике, программированию, STEM, логике и творческому письму. Она поддерживает гибридный режим рассуждений, вызов инструментов, а также формирование структурированных ответов и JSON по заданной схеме. Для диалогов используется шаблон чата Hermes на основе формата Llama 3. По описанию разработчика, при дообучении использовался корпус примерно из 5 млн примеров и 60 млрд токенов, с акцентом на проверяемые цепочки рассуждений и точное соблюдение формата. Модель выпущена под лицензией Apache-2.0. Для запуска на сервере с несколькими GPU разработчик рекомендует движки инференса вроде SGLang или vLLM; качество и скорость зависят от настроек и аппаратного обеспечения.

Карточка модели luganoquants/Hermes-4-70B на Hugging Face совпадает с карточкой NousResearch/Hermes-4-70B, поэтому описание составлено по ней. Hermes 4 70B — большая языковая модель Nous Research для диалога и генерации текста, дообученная на базе Meta Llama 3.1 70B. Она содержит около 69,5 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 131 072 токенов. Модель рассчитана на ответы ассистента, рассуждения, математику, программирование, STEM-задачи, логику и творческое письмо; также заявлены следование инструкциям, вызов инструментов и генерация структурированных ответов, включая JSON. Hermes 4 предлагает гибридный режим рассуждений, в котором модель может выводить отдельные сегменты обдумывания, а также обучена точнее придерживаться заданных схем и форматов. README описывает улучшенную управляемость и снижение отказов, но эти характеристики заявлены разработчиком и не гарантируют корректность или безопасность каждого ответа. В карточке указаны английский язык и лицензия Llama 3; использование регулируется условиями этой лицензии. Для запуска модели такого размера обычно требуется мног GPU или подходящая квантизированная версия.

stelterlab/Mistral-Small-24B-Instruct-2501-AWQ — инструкционная языковая модель на базе Mistral-Small-24B-Instruct-2501, разработанной командой Mistral AI. Данная версия дополнительно квантизирована stelterlab в формате INT4 GEMM с использованием AutoAWQ. Модель содержит 24 млрд параметров и рассчитана на локальный запуск, включая работу на одной видеокарте RTX 4090 или MacBook с 32 ГБ оперативной памяти после квантизации. Модель предназначена для диалоговых приложений с быстрым откликом, агентских сценариев, вызова функций, генерации JSON, задач общего назначения и последующей предметной донастройки. Она поддерживает многоязычную работу, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Заявлены развитые возможности рассуждения, следования системным инструкциям и агентского взаимодействия. Контекстное окно составляет 32 тысячи токенов, используется токенизатор Tekken со словарём размером 131 тысяча элементов. К сильным сторонам относятся сочетание относительно компактного размера, локального развертывания, низкой задержки и поддержки function calling и структурированного вывода. Ограничения связаны с INT4-квантизацией, которая может снижать точность по сравнению с исходными весами, а также с тем, что результаты бенчмарков не гарантируют аналогичное качество в конкретных прикладных задачах. Модель распространяется под лицензией Apache 2.0, допускающей использование и модификацию в коммерческих и некоммерческих целях.

Mistral-Small-3.2-24B-Instruct-2506-bnb-4bit — 4-битная квантованная версия инструкционной мультимодальной модели Mistral-Small-3.2-24B-Instruct-2506 от Mistral AI. Модель предназначена для диалоговых ассистентов, выполнения инструкций, генерации текста и кода, решения STEM-задач, вызова функций и анализа изображений, документов, графиков и диаграмм. Модель содержит 24 млрд параметров и поддерживает текстово-графический сценарий image-text-to-text. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. По сравнению с Mistral-Small-3.1 улучшены следование точным инструкциям, устойчивость к повторяющимся и бесконечным генерациям, а также шаблон function calling. В тестах модель показывает сильные результаты в генерации кода, следовании инструкциям, обработке документов и диаграмм, однако в отдельных vision-бенчмарках уступает предыдущей версии. Размер контекста в README не указан. Модель рекомендуется запускать через vLLM или Transformers; для корректной работы с инструментами требуются совместимые настройки Mistral и vLLM. Квантование bnb-4bit снижает требования к памяти по сравнению с полноформатными вариантами, но точные требования для этой сборки не приведены. Для повышения качества рекомендуется низкая температура генерации и системный промпт. Лицензия — Apache-2.0.

Qwen2.5-3B-Instruct-AWQ — инструкционно дообученная причинная языковая модель из семейства Qwen2.5, разработанная командой Qwen; в примере README также указано, что Qwen создан Alibaba Cloud. Модель предназначена для диалоговых ассистентов, генерации и обработки текста, следования инструкциям, работы со структурированными данными и JSON, а также задач программирования и математики. Модель содержит около 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, и включает 36 слоёв. Архитектура основана на Transformers и использует RoPE, SwiGLU, RMSNorm, смещения в Attention QKV и связанные эмбеддинги слов. Применяется GQA с 16 головами для Q и 2 для KV. Контекст составляет до 32 768 токенов, длина генерации — до 8 192 токенов. Это текстовая модель без заявленной поддержки изображений или других модальностей; семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и другие. Ключевое преимущество версии AWQ — 4-битное квантование, позволяющее снизить требования к памяти и сделать развёртывание компактнее по сравнению с полноточной версией, при этом возможна потеря качества относительно исходной модели. Для работы рекомендуется использовать актуальную версию библиотеки Transformers и совместимые инструменты AWQ. В README указана лицензия qwen-research; точные условия следует проверять в файле лицензии репозитория.

Qwen2.5-3B-Instruct-GPTQ-Int4 — инструкционно дообученная каузальная языковая модель семейства Qwen2.5, разработанная командой Qwen. Модель предназначена для диалоговых сценариев, генерации текста, следования инструкциям, работы со структурированными данными и вывода в формате JSON, а также для задач программирования и математики. Она поддерживает более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель содержит 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, и включает 36 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в Attention QKV и связанные эмбеддинги слов; применяется GQA с 16 головами Q и 2 головами KV. Контекст составляет до 32 768 токенов, максимальная длина генерации — 8192 токена. Модель квантизована методом GPTQ до 4 бит, что может снизить требования к памяти по сравнению с исходной версией, однако конкретные показатели производительности и потери качества зависят от оборудования и сценария. К сильным сторонам относятся улучшенное следование инструкциям, генерация длинных текстов, понимание таблиц и других структурированных данных, создание структурированного вывода, а также поддержка широкого набора языков. Ограничения включают меньший размер по сравнению с крупными моделями семейства и возможное влияние 4-битной квантизации на качество. Для работы рекомендуется использовать актуальную версию библиотеки Transformers. Модель распространяется по лицензии qwen-research; точные условия определяются текстом лицензии в репозитории.

Calcium-Opus-14B-Elite4 — диалоговая языковая модель на архитектуре Qwen2, дообученная prithivMLmods на базе Qwen/Qwen2.5-14B-Instruct. Она предназначена для генерации текста с акцентом на многошаговые рассуждения, решение математических задач и работу с кодом. Модель поддерживает инструкции, длинные ответы, таблицы и структурированный вывод, включая JSON; заявленная длина контекста составляет 131 072 токена, а генерация — до 8 000 токенов за ответ. Карточка заявляет поддержку более 29 языков, в том числе русского и английского. Модель подходит для чат-ботов, объяснений, анализа структурированных данных, написания и отладки кода, а также создания длинных материалов. В репозитории указаны веса Safetensors и библиотека Transformers; лицензия — Apache-2.0. Качество может различаться между языками; возможны повторы и ошибки в длинных ответах, а знания о текущих событиях ограничены данными обучения. Для запуска 14-миллиардной модели с длинным контекстом требуются значительные вычислительные ресурсы. README противоречиво указывает размер модели как 20B в разделе ограничений, тогда как метаданные и название указывают 14B.

DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

Это вариант Gemma 4 26B A4B, подготовленный Unsloth на базе google/gemma-4-26B-A4B и распространяемый в формате safetensors. Модель семейства Gemma 4 использует гибридное внимание: сочетает локальное скользящее окно с глобальным вниманием. Вариант предназначен для мультимодальной работы с изображениями и текстом; заявленное семейство поддерживает контекст до 256 тысяч токенов и многоязычную работу более чем с 35 языками. Модель подходит для диалогов, рассуждений, программирования, вызова инструментов и анализа изображений: например, распознавания текста, разбора документов и PDF, понимания диаграмм и интерфейсов. Карточка также описывает видеоанализ для семейства Gemma 4, но не подтверждает отдельно его поддержку именно этим вариантом. Аудиовозможности указаны только для моделей E2B и E4B и к этому варианту не относятся. Возможны ошибки в фактах, трудности с неоднозначными формулировками и сложными открытыми задачами, а ответы могут отражать смещения обучающих данных. Лицензия — Apache 2.0.

Карточка модели alekshandru/gemma-4-E4B на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.