II.4Отладка, тестирование и качество ПО

Qwen3-4B-AWQ — причинная языковая модель из серии Qwen, разработанная командой Qwen. Она предназначена для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, написания кода, творческих задач, перевода и сценариев с использованием внешних инструментов. Модель поддерживает переключение между режимом рассуждения для сложных задач и нерешающим режимом для более быстрых ответов в рамках одной модели. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding, и включает 36 слоёв. Используется Grouped-Query Attention с 32 головами запросов и 8 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Доступна 4-битная AWQ-квантизация, уменьшающая требования к памяти. Qwen3 заявляет поддержку более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Сильными сторонами являются сочетание рассуждения и эффективного общего диалога, возможности работы с инструментами, поддержка длинного контекста и сниженные требования к ресурсам благодаря квантизации. Ограничения включают возможное ухудшение качества и зацикливание при жадном декодировании в режиме рассуждения; для него рекомендуются Temperature 0,6, TopP 0,95 и TopK 20. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-397B-A17B-FP8 — мультимодальная модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия постобученной модели Qwen3.5-397B-A17B в формате Hugging Face Transformers, предназначенная для локального и серверного вывода с использованием Transformers, vLLM, SGLang, KTransformers и совместимых инструментов. Модель сочетает языковую модель с vision encoder и поддерживает обработку текста и изображений. Она использует гибридную архитектуру Gated Delta Networks и разреженной Mixture-of-Experts: всего 397 млрд параметров, из которых активируется 17 млрд; предусмотрено 512 экспертов, из них для токена выбираются 10 маршрутизируемых и 1 общий. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Модель ориентирована на рассуждения, программирование, визуальное понимание, агентные сценарии и другие задачи общего назначения. Ключевое преимущество версии FP8 — снижение требований к ресурсам при сохранении показателей, близких к исходной модели; используется мелкозернистое FP8-квантизирование с размером блока 128. Ограничениями являются значительные требования к вычислительной инфраструктуре из-за общего размера модели, а также необходимость проверять фактическую совместимость и производительность конкретного стека инференса. Модель распространяется по лицензии Apache-2.0.

google/gemma-4-31B-it-qat-w4a16-ct — инструкционная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind. Она принимает текст и изображения и генерирует текст; предназначена для рассуждений, генерации текста, программирования, мультимодального анализа и агентских сценариев с поддержкой вызова функций. Модель имеет плотную архитектуру с 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное скользящее и глобальное внимание. Контекстное окно составляет до 256 тысяч токенов, размер словаря — 262 тысячи токенов. Gemma 4 поддерживает более 140 языков, режимы настраиваемого рассуждения и системные промпты. Для версии 31B заявлены текстовая и визуальная модальности; аудио для этой конфигурации не поддерживается. Суффикс qat-w4a16-ct указывает на чекпойнт, обученный с учётом квантизации и сохранённый в формате compressed-tensors с 4-битными весами и 16-битными активациями. Такой вариант ориентирован на эффективный инференс, включая нативное использование с vLLM, и должен требовать существенно меньше памяти при сохранении качества, близкого к bfloat16. Ограничениями являются повышенные требования к ресурсам по сравнению с меньшими моделями Gemma 4 и отсутствие аудиовхода. Лицензия — Apache 2.0.

Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Карточка модели kiiro14/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

GLM-4-9B-Chat-1M — открытая чат-модель семейства GLM-4, разработанная Zhipu AI. Это плотная архитектура ChatGLM примерно на 10,7 млрд параметров, рассчитанная на диалог и генерацию текста; модель поддерживает контекст до 1 048 576 токенов и интерфейс вызова инструментов. README также упоминает возможности веб-браузинга, выполнения кода и рассуждений по длинным текстам. Модель предназначена для многошаговых диалогов, анализа длинных документов, ответов на вопросы по большому контексту, рассуждений, работы с кодом и вызова пользовательских инструментов. В README заявлена поддержка 26 языков, включая японский, корейский и немецкий; метаданные карточки отмечают китайский и английский. Для весов действует лицензия, указанная в LICENSE; в метаданных она обозначена как other.

pitcany/gpt-oss-120b — зеркало модели открытых весов gpt-oss-120b, разработанной OpenAI. Это языковая модель с архитектурой MoE для диалога, задач рассуждения и разработки; она поддерживает вызов инструментов, включая функции, веб-поиск и исполнение Python, при соответствующей настройке. Для корректной работы модель следует использовать с форматом диалога Harmony. Усилие рассуждения можно настраивать на низкий, средний или высокий уровень. В карточке указано 117 млрд параметров и 5,1 млрд активных параметров; метаданные репозитория указывают 2,1 млрд параметров, поэтому размер в источниках расходится. Контекстное окно — 131 072 токена. Репозиторий содержит формат GGUF; исходная модель описана как использующая квантизацию MXFP4 для весов MoE. Лицензия — Apache-2.0, допускающая коммерческое применение. Модель общего назначения; явные ограничения по языкам в предоставленных данных не описаны.

unsloth/Llama-3.3-70B-Instruct-bnb-4bit — 4-битная версия модели Llama 3.3 70B Instruct, разработанной Meta и подготовленной для квантованного запуска сообществом Unsloth. Это авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention (GQA), дообученная с применением supervised fine-tuning и обучения с подкреплением на основе обратной связи от людей для повышения полезности и безопасности. Модель предназначена для многоязычного диалога, генерации и обработки текста и кода. Она принимает и формирует текст, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки, имеет контекстное окно 128k токенов и содержит 70 млрд параметров. Объём предобучающих данных превышает 15 трлн токенов, а дата отсечения знаний — декабрь 2023 года. Ключевые преимущества — большой контекст, широкий языковой охват, диалоговая настройка и сниженные требования к памяти благодаря 4-битному формату bnb. Модель остаётся статичной и обучена на офлайн-данных, поэтому её знания не обновляются автоматически и могут содержать ошибки или устаревшую информацию. Лицензия — Llama 3.3 Community License Agreement с особыми условиями коммерческого использования.

Mungert/Mistral-Small-3.2-24B-Instruct-2506-GGUF — GGUF-квантизированные версии языково-мультимодальной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и опубликованной пользователем Mungert. Модель является обновлением Mistral-Small-3.1-24B-Instruct-2503 и предназначена для диалогов, следования инструкциям, генерации текста и кода, решения STEM-задач, function calling, а также анализа изображений, документов, таблиц и диаграмм. Модель содержит около 24 млрд параметров, поддерживает текстово-визуальный ввод и языки английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и ряд других языков, перечисленных в карточке. Версия 3.2 улучшает точность следования инструкциям, снижает вероятность зацикленной генерации и предлагает более надёжный шаблон function calling. Для создания GGUF-файлов использовался llama.cpp; автор применяет дополнительное повышение точности отдельных слоёв при квантовании, что может улучшать качество на низких разрядностях за счёт увеличения размера файлов. Сильные стороны модели — улучшенные результаты в instruction following, программировании, математике, STEM-бенчмарках и отдельных задачах компьютерного зрения. Ограничения включают зависимость качества, размера и скорости от выбранного уровня квантования, а также несколько более низкие результаты в некоторых vision-бенчмарках по сравнению с предыдущей версией. В карточке не указана длина контекстного окна. Модель распространяется по лицензии Apache-2.0 и рекомендуется к использованию через vLLM; также заявлена совместимость с transformers.

Nemotron-3-Ultra-550B-A55B-NVFP4 — большая языковая модель NVIDIA для диалогов, рассуждений и построения агентных систем. Она содержит 550 млрд параметров, из которых 55 млрд активны при вычислении, и использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2, Mixture-of-Experts и Attention, а также Multi-Token Prediction. Модель распространяется в формате safetensors и рассчитана на контекст до 1 млн токенов. Модель предназначена для сложных многошаговых сценариев: работы AI-агентов, анализа больших документов и кодовых баз, ответов на вопросы, а также задач по коду, математике и науке. Она поддерживает английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, португальский и китайский языки; метаданные также указывают арабский и иврит. NVIDIA заявляет о готовности модели к коммерческому и некоммерческому использованию; лицензия обозначена как other, поэтому перед внедрением следует ознакомиться с условиями в карточке модели. Это крупный checkpoint, для которого руководство рекомендует многосерверное развертывание на подходящем оборудовании NVIDIA.

NVIDIA Nemotron-3-Ultra-550B-A55B-NVFP4 — текстовая языковая модель NVIDIA для диалогов, рассуждений и агентных приложений. Она основана на Nemotron-3-Ultra-550B-A55B-BF16 и в метаданных обозначена как дообучение этой модели; репозиторий использует формат safetensors и библиотеку Transformers. Архитектура сочетает Mamba-2, Mixture-of-Experts и слои внимания в гибриде LatentMoE, а Multi-Token Prediction предназначен для ускорения генерации. Модель содержит 550 млрд параметров, из которых активно 55 млрд, и поддерживает контекст до 1 млн токенов. Модель предназначена для сложных многошаговых задач, анализа длинных документов и кодовых баз, ответов на вопросы, следования инструкциям и построения чат-ботов, RAG-систем и ИИ-агентов. Карточка сообщает о поддержке английского, французского, испанского, итальянского, немецкого, японского, корейского, хинди, португальского Бразилии и китайского; метаданные также включают арабский и иврит. В карточке заявлена пригодность для коммерческого и некоммерческого использования, но метаданные указывают лицензию «other», поэтому условия следует сверить с лицензией репозитория. Модель очень крупная, а приведённые в карточке рекомендации по запуску ориентированы на ускорители NVIDIA; практическое развёртывание требует значительных вычислительных ресурсов.

Карточка модели efathakanafunzi/Qwen3-14B на Hugging Face совпадает с карточкой Qwen/Qwen3-14B, поэтому описание составлено по ней. Qwen3-14B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen3-14B-Base с 14 млрд параметров; метаданные указывают на архитектуру Qwen3ForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с инструментами. Она поддерживает режимы рассуждения и обычного ответа, а также более 100 языков и диалектов. Контекстное окно, указанное в метаданных, составляет 40 960 токенов. Карточка описывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для использования требуется библиотека Transformers; модель распространяется по лицензии Apache 2.0. Она принимает текстовые запросы и генерирует текст, а подключение внешних инструментов реализуется через интерфейс приложения.

Qwen3-1.7B-FP8 — языковая модель для генерации текста, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-1.7B, предназначенная для диалогов, следования инструкциям, рассуждений, математических задач, генерации кода, перевода, творческого письма и агентских сценариев с интеграцией внешних инструментов. Модель представляет собой причинную языковую модель с 1,7 млрд параметров, из которых 1,4 млрд не относятся к embedding-слою. Она содержит 28 слоёв и использует Grouped Query Attention с 16 головами для запросов и 8 головами для ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Поддерживаются более 100 языков и диалектов. Модель умеет переключаться между режимом thinking для сложных рассуждений, математики и программирования и non-thinking для более быстрых универсальных ответов. К сильным сторонам относятся компактный размер, многоязычность, поддержка рассуждений, диалоговых и агентских задач, а также возможность запуска в популярных inference-фреймворках. FP8-квантизация с размером блока 128 повышает эффективность использования памяти и производительность, но для распределённого inference в Transformers указаны ограничения, включая необходимость CUDA_LAUNCH_BLOCKING=1 в некоторых конфигурациях с несколькими устройствами. Для работы рекомендуется Transformers версии 4.51.0 или новее; при частых повторениях требуется корректная настройка параметров sampling. Модель распространяется по лицензии Apache 2.0.

Qwen3-4B-GGUF — квантизированная версия причинной языковой модели Qwen3-4B, разработанная командой Qwen компании Alibaba Cloud. Модель предназначена для генерации текста, диалогов, следования инструкциям, творческого письма, ролевого взаимодействия, программирования, математического и логического рассуждения, перевода, а также сценариев с использованием внешних инструментов и агентных возможностей. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд не относятся к эмбеддингам, и включает 36 слоёв. Она использует Grouped-Query Attention с 32 головами запросов и 8 головами ключей и значений. Поддерживаются режимы thinking для сложных задач рассуждения и non-thinking для более быстрых ответов; между ними можно переключаться в рамках одного диалога. Модель поддерживает более 100 языков и диалектов. Нативная длина контекста составляет 32 768 токенов, а с масштабированием YaRN заявлена поддержка до 131 072 токенов. Основные преимущества — сочетание рассуждения, диалоговых и агентных возможностей, мультиязычность и возможность локального запуска через llama.cpp или Ollama. Доступны варианты квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0, что позволяет выбирать компромисс между качеством, размером и скоростью. При использовании YaRN производительность на коротких текстах может снижаться, поэтому масштабирование рекомендуется включать только для длинного контекста; для thinking-режима также не рекомендуется жадное декодирование из-за риска деградации качества и повторов. Модель распространяется по лицензии Apache-2.0.

Карточка модели sdb114514/Qwen3.8-27B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

Qwen3-8B-FP8 — большая языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизованная версия Qwen3-8B, предназначенная для генерации текста и диалоговых приложений. Модель поддерживает переключение между режимом рассуждений для сложных логических, математических и программных задач и обычным режимом для более быстрых ответов. Она также ориентирована на следование инструкциям, творческое письмо, ролевые сценарии, многошаговые диалоги, перевод и работу с внешними инструментами в агентных системах. Модель является каузальной языковой моделью с 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою. Она содержит 36 слоёв и использует Grouped-Query Attention с 32 головами для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN достигает 131 072 токенов. Поддерживается более 100 языков и диалектов. FP8-квантизация выполнена мелкоблочным методом с размером блока 128, что предназначено для повышения эффективности хранения и инференса. Сильными сторонами модели являются сочетание рассуждений и быстрого общего диалога, мультиязычность, возможности генерации кода и интеграции с инструментами. Ограничения включают зависимость качества и производительности от режима рассуждений, аппаратной конфигурации и используемого inference-фреймворка; для распределённого инференса в Transformers указаны известные проблемы с fine-grained FP8. Модель распространяется по лицензии Apache-2.0.

Virtuoso-Medium-v2 — языковая модель на 32 млрд параметров от Arcee AI для генерации текста и диалоговых сценариев. Она основана на архитектуре Qwen2.5-32B и использует токенизатор Qwen; по карточке модели, её обучали дистилляцией логитов Deepseek-v3 на большом объёме данных, затем применяли слияние и DPO. Метаданные каталога обозначают связь с Qwen/Qwen2.5-32B как дообучение, поэтому происхождение модели указано как дообучение. Модель рассчитана на чат-ботов и виртуальных помощников, анализ данных и автоматизацию рабочих процессов, а также задачи в технических, научных и STEM-сценариях, включая код и математику. Контекст достигает 131 072 токенов. Модель поддерживает генерацию текста и имеет интерфейс для вызова инструментов. В карточке заявлены высокие результаты на ряде бенчмарков, однако конкретные численные результаты и условия оценки не приведены. База знаний может не охватывать события после июня 2024 года, а ответы могут содержать ошибки, предвзятость или вредный контент. Лицензия — Apache-2.0.

llmfan46 подготовил дообученную версию инструкционной Gemma 4 12B от Google DeepMind с изменениями компонента attn.o_proj. Это мультимодальная плотная модель для диалога, рассуждений, генерации и исправления кода, анализа изображений, видео и аудио, а также работы с инструментами. Архитектура Gemma4Unified поддерживает гибридное внимание и контекст до 256K токенов; модель рассчитана на многоязычное применение. README указывает поддержку более 35 языков на практике и предварительное обучение более чем на 140 языках. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста и рукописного ввода, понимания диаграмм и интерфейсов, анализа видеокадров, транскрибации речи и перевода речи в текст. Аудиовозможности заявлены для варианта 12B. Указаны встроенный режим рассуждений и поддержка вызова функций. Производная помечена как uncensored/abliterated; это может влиять на поведение защитных механизмов. По условиям Apache-2.0 разрешено использование согласно лицензии. Как и другие генеративные модели, она может выдавать фактические ошибки, отражать смещения данных и испытывать трудности с неоднозначными или сложными запросами.

Gemma 4 26B A4B IT от Google DeepMind — мультимодальная диалоговая модель семейства Gemma 4, представленная в репозитории Unsloth. Это производная версия google/gemma-4-26B-A4B-it; веса опубликованы в формате safetensors, лицензия — Apache-2.0. Модель принимает текст и изображения и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, понимания графиков и интерфейсов, генерации и исправления кода, суммаризации и агентных сценариев с инструментами. В семействе Gemma 4 заявлено контекстное окно до 256K токенов для вариантов 26B A4B и 31B; модель использует гибридное локальное и глобальное внимание. README указывает поддержку более 35 языков и предварительное обучение более чем на 140 языках, но не перечисляет языки по отдельности. Ограничения включают возможные фактические ошибки, смещения обучающих данных и трудности с неоднозначными формулировками или сложными открытыми задачами. Аудиовозможности из README относятся только к вариантам E2B и E4B и здесь не заявлены.

reinforce20001/gemma4-26b-a4b-it-qat-w4a16-ct — квантованная instruction-tuned модель семейства Gemma 4, разработанного Google DeepMind. Она основана на Google Gemma 4 26B A4B и предназначена для генерации текста, рассуждений, программирования, агентских сценариев и мультимодального анализа изображений с текстом. Модель использует архитектуру Mixture-of-Experts: всего 25,2 млрд параметров, из которых при обработке активируется около 3,8 млрд. Она содержит 30 слоёв, поддерживает контекст до 256K токенов, словарь из 262 тысяч токенов и работает с текстовыми и визуальными входными данными, выдавая текст. Семейство Gemma 4 поддерживает более 140 языков, нативный system prompt, function calling и настраиваемые режимы рассуждений. Гибридное внимание с локальными sliding window и глобальными слоями рассчитано на эффективную работу с длинным контекстом. К сильным сторонам относятся сочетание возможностей крупной модели с вычислительной эффективностью MoE, поддержка длинного контекста, мультимодальность, кодирование, рассуждения и агентские задачи. Суффикс QAT W4A16 указывает на квантованный вариант с 4-битными весами и 16-битными активациями, однако README не содержит подробностей о фактических требованиях к памяти, совместимости или потере качества относительно исходной модели. Модель распространяется по лицензии Apache 2.0.

Google DeepMind Gemma 4 31B IT QAT — мультимодальная инструкционно настроенная модель с плотной архитектурой для генерации текста и диалогов, а также понимания изображений. Эта версия представляет собой unquantized QAT-чекпойнт: веса в формате safetensors извлечены из конвейера обучения с учётом квантования; для неё указана базовая модель google/gemma-4-31B-it-assistant. Лицензия — Apache 2.0. Модель подходит для рассуждений, программирования, ответов на вопросы и агентных сценариев с вызовом инструментов. Она принимает текст и изображения и выдаёт текст; семейство Gemma 4 поддерживает контекст до 256 тысяч токенов, а также многоязычную работу. В карточке описаны распознавание текста и документов на изображениях, понимание диаграмм и интерфейсов, но обработка аудио заявлена только для меньших моделей семейства, а не для 31B. QAT-чекпойнты предназначены для снижения требований к памяти при сохранении качества, близкого к bfloat16; конкретный объём экономии для этой версии не приведён. Для ускорения генерации с помощью спекулятивного декодирования совместимая assistant-модель должна быть QAT-чекпойнтом той же точности. Модель может ошибаться в ответах и коде; карточка не приводит количественных оценок качества именно этого чекпойнта.

Карточка модели ArchiveStudio/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели jung360crowley/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели Openintelligent123/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Это мультимодальная инструктивная модель Gemma 4 E2B IT с весами, полученными из конвейера обучения с учётом квантования (QAT). Её разработала Google DeepMind; репозиторий опубликован Unsloth. Вариант Q4_0 содержит веса половинной точности, извлечённые из QAT-конвейера, и предназначен для последующей компиляции и исследовательской работы; это не готовая квантованная сборка GGUF. Модель принимает текст и изображения и выдаёт текст. Она подходит для диалога, рассуждений, программирования, анализа изображений и документов, включая OCR, а также для вызова инструментов. Семейство Gemma 4 поддерживает длинный контекст: для E2B заявлено до 128K токенов, а семейство обучалось на более чем 140 языках. В README аудиовозможности указаны для E2B, однако входная модальность видео для данного репозитория отдельно не подтверждена. QAT нацелен на сохранение качества, близкого к bfloat16, при снижении требований к памяти в соответствующих квантованных вариантах. Этот репозиторий предоставляет извлечённые полутонные веса для пользовательской компиляции, поэтому сам по себе не гарантирует компактный запуск без дополнительной обработки. Лицензия — Apache 2.0.

Карточка модели SwinliQ-AIs/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели muhamad-geosurge/invert-polarity-56159e64-0eb6-4eaa-9608-08f385da12bb на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Llama-3_3-Nemotron-Super-49B-v1_5-GGUF — это GGUF-версия большой языковой модели Llama-3.3-Nemotron-Super-49B-v1.5, разработанной NVIDIA на основе Meta Llama-3.3-70B-Instruct и оптимизированной с применением Neural Architecture Search. Модель предназначена для генерации текста, рассуждений, диалогов, выполнения инструкций и агентских сценариев, включая RAG и вызов инструментов. В репозитории представлены файлы в формате GGUF, созданные с использованием llama.cpp; применён подход с повышением точности отдельных важных слоёв при квантовании, что должно улучшать точность на заданном уровне квантования за счёт увеличения размера файлов. Модель имеет архитектуру плотного decoder-only Transformer, относится к классу примерно 49B параметров и поддерживает контекст до 128K токенов. Она дообучалась для задач математики, программирования, науки, общения, рассуждений и tool calling. В карточке явно указан английский язык. Сильными сторонами заявлены баланс точности и эффективности, уменьшенный объём памяти и пригодность для развёртывания на одной GPU H200 при высоких нагрузках. Ограничения включают зависимость характеристик от выбранного уровня квантования и отсутствие в предоставленных данных подробных результатов тестирования конкретных GGUF-файлов. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.3 Community License; модель заявлена как доступная для коммерческого использования.

Карточка модели lactroiii/NVIDIA-Nemotron-3-Super-120B-A12B-BF16 на Hugging Face совпадает с карточкой LimitlessMindd/NVIDIA-Nemotron-3-Super-120B-A12B-BF16, поэтому описание составлено по ней. NVIDIA Nemotron-3-Super-120B-A12B-BF16 — разговорная большая языковая модель NVIDIA для рассуждений, следования инструкциям и построения агентных систем. В карточке указаны 120 млрд параметров, из которых активно используются 12 млрд; архитектура LatentMoE сочетает слои Mamba-2, Mixture-of-Experts и внимания, а Multi-Token Prediction (MTP) предназначен для ускорения генерации. Метаданные каталога указывают архитектуру Nemotron-H и 6,6 млрд параметров, что расходится с числами в README; эти характеристики требуют осторожной интерпретации. Модель рассчитана на чат, сложные инструкции, код, математику, длинноконтекстные рассуждения и работу в совместных агентных сценариях, включая автоматизацию IT-заявок, RAG и обработку нескольких документов. README заявляет контекст до 1 млн токенов, тогда как метаданные указывают 262 144 токена. Поддерживаются английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель принимает текст и генерирует текст. Модель опубликована как BF16, но в README также описано обучение с NVFP4-квантизацией; формат файлов репозитория в метаданных — safetensors. Указана лицензия other, а README заявляет готовность к коммерческому использованию; конкретные условия лицензии следует сверять с карточкой. Модель версии v1.0 GA предназначена для практического применения.