I.2Синтез, понимание и проверка знаний

nicecurls/gemma-4-12B-it — дообученная instruction-tuned версия Gemma 4 12B Unified, мультимодальной модели Google DeepMind. Она предназначена для диалогов, генерации текста и кода, рассуждений, работы с изображениями, видео и аудио, а также для сценариев с вызовом инструментов. Модель принимает текст, изображения, видео и аудио и генерирует текст. Архитектура — плотная Gemma4UnifiedForConditionalGeneration; веса опубликованы в формате safetensors и доступны через Transformers. Для базовой Gemma 4 12B заявлено контекстное окно до 256 тысяч токенов. Семейство поддерживает более 140 языков при обучении и мультиязычные сценарии; распознавание речи и перевод речи в текст поддерживаются для варианта 12B. Модель подходит для локального развертывания на достаточно мощном оборудовании, анализа документов и визуального содержимого, транскрибации речи и агентных рабочих процессов. Лицензия — Apache 2.0. Конкретные ограничения производительности этой производной версии не описаны; как и другие генеративные модели, она может ошибаться в ответах и интерпретации мультимодальных данных.

unsloth/gemma-4-E4B — дообученная Unsloth версия мультимодальной модели Gemma 4 E4B от Google DeepMind. Она принимает текст и изображения и формирует текстовые ответы для диалога, рассуждений, программирования и анализа визуального содержимого. Архитектура Gemma4ForConditionalGeneration использует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для семейства E4B заявлено контекстное окно до 128 тысяч токенов; карточка также описывает распознавание изображений, документов, графиков, экранов и рукописного текста, а для E4B — аудиоввод, распознавание речи и перевод речи в текст. Модель подходит для вопросов по изображениям и документам, извлечения визуальной информации, генерации и исправления кода, суммаризации и агентных сценариев с вызовом инструментов. Семейство поддерживает более 35 языков, однако конкретный перечень для этой версии не приведён. Модель распространяется в формате safetensors по лицензии Apache 2.0. Ответы могут содержать фактические ошибки; также возможны смещения, трудности с языковыми нюансами и сложными открытыми задачами.

NVIDIA Nemotron 3 Nano Omni — мультимодальная модель семейства Nemotron, разработанная NVIDIA и представленная в репозитории Unsloth как вариант на основе nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16. В карточке указаны архитектура NemotronH_Nano_Omni_Reasoning_V3 и формат safetensors; вариант рассчитан на диалог и интерфейс вызова инструментов. В README также описана поддержка обработки текста, изображений, аудио и видео, включая распознавание речи, OCR и анализ графического интерфейса. Модель предназначена для корпоративных мультимодальных сценариев: ответов на вопросы и суммаризации записей встреч и видео, поиска по медиаматериалам, анализа документов, проверки информации в изображениях и автоматизации работы с GUI. README приводит примеры клиентского сервиса, медиа и развлечений, деловых и научных документов, а также браузерных и почтовых агентов. В метаданных перечислены языки английский, французский, испанский, итальянский, немецкий, японский и китайский; в README указана возможность коммерческого использования. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверять с лицензией репозитория.

Inferact/Qwen3.8-2.4T-A95B-NVFP4 — открытая причинно-следственная языковая модель семейства Qwen3.8, разработанная командой Qwen. Репозиторий содержит веса и конфигурацию постобученной модели в формате Hugging Face Transformers; заявлена совместимость с vLLM, SGLang и TokenSpeed. Модель предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также для длительных многошаговых агентских сценариев с планированием и обработкой обратной связи от среды. Модель построена на архитектуре Mixture of Experts и содержит около 2,4 трлн параметров, из которых при обработке одного токена активируется около 95 млрд. Она включает 92 слоя, 512 экспертов, 10 маршрутизируемых и один общий активируемый эксперт, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Глубина рассуждений настраивается параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться через preserve_thinking. Сильные стороны модели — высокая заявленная производительность в программировании, профессиональной работе, исследованиях и автономном выполнении сложных задач, а также широкая совместимость с инструментами инференса. В представленном описании не указана поддержка изображений или других модальностей, поэтому модель следует рассматривать прежде всего как текстовую. Лицензия обозначена как qwen3.8-max с типом other; применимые условия приведены в файле LICENSE базовой модели Qwen/Qwen3.8-2.4T-A95B.

Qwen3.8-27B-GGUF — мультимодальная модель семейства Qwen, разработанная командой Qwen и представленная в формате GGUF пользователем prithivMLmods. Это плотная causal language model на 27 млрд параметров с собственным vision encoder, предназначенная для генерации и понимания текста, анализа изображений и видео, визуального вопросно-ответного взаимодействия, OCR, описания изображений и видео, понимания документов, визуального рассуждения, а также агентных задач, включая написание кода и взаимодействие с компьютером, браузером и мобильными устройствами. Модель использует 64-слойную гибридную архитектуру с блоками линейного внимания Gated DeltaNet и периодическими слоями Gated Attention, обучалась с Multi-Token Prediction и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 млн токенов через YaRN. Указаны языки English и Chinese. Доступны варианты GGUF с точностями от Q2_K до Q8_0, а также BF16 и F16; размеры файлов составляют примерно от 10,9 до 54,7 ГБ, что позволяет выбирать компромисс между качеством и требованиями к ресурсам. Формат MTP GGUF интегрирует дополнительные выходные головы для ускорения инференса посредством предсказания нескольких будущих токенов за один проход. Сильными сторонами заявлены мультимодальность, большой контекст, поддержка управляемого уровня рассуждений через параметр reasoning_effort и высокая эффективность в задачах агентного программирования, computer-use и мультимодального использования инструментов. Ограничениями являются значительные требования к памяти, особенно для BF16 и F16, а также зависимость возможностей от выбранной квантизации и совместимого программного обеспечения. Модель совместима с Hugging Face Transformers, vLLM, SGLang, TokenSpeed и llama.cpp. Распространяется по лицензии Apache-2.0.

NVIDIA DeepSeek-V4-Flash-nvfp4-DSpark — это квантизированная версия DeepSeek-V4-Flash, разработанная с использованием NVIDIA Model Optimizer и объединённая в одном контрольном файле с официальным модулем спекулятивного декодирования DSpark от DeepSeek. Модель не является новой самостоятельной архитектурой и не принадлежит NVIDIA: NVIDIA подготовила сборку по требованиям сторонней модели DeepSeek. Лицензия — MIT. Модель предназначена для продвинутого рассуждения, агентных приложений, использования инструментов и решения сложных задач, включая математику, разработку программного обеспечения и корпоративных AI-ассистентов. Она принимает и генерирует текст, поддерживает многоходовые диалоги, системные инструкции, структурированный JSON, вызов функций и вывод рассуждений. Доступны режимы Non-think, Think High и Think Max, а максимальная длина контекста составляет 1 миллион токенов. Архитектура основана на Transformer и Mixture-of-Experts с гибридным вниманием, включающим Compressed Sparse Attention и Heavily Compressed Attention. Основная модель содержит 284 млрд параметров, из которых активируется 13 млрд. Модуль DSpark использует черновую модель с 21 млрд параметров, примерно 1 млрд из которых активируется; он предназначен для ускорения генерации за счёт спекулятивного декодирования, причём один контрольный файл может использоваться одновременно как целевая и черновая модель. Модель оптимизирована для NVIDIA GPU, прежде всего архитектуры Blackwell, и рассчитана на работу в Linux через vLLM с поддержкой DSpark. Квантизация NVFP4 снижает требования к вычислительным ресурсам, однако совместимость и производительность зависят от поддерживаемого оборудования и программного стека. Перед эксплуатацией необходимы тестирование на данных конкретного сценария и проверка безопасности и качества результатов.

NVIDIA DeepSeek-V4-Pro-NVFP4 — квантизированная версия языковой модели DeepSeek-V4-Pro, разработанная и подготовленная с помощью NVIDIA Model Optimizer v0.44. Базовая модель создана сторонней организацией и не принадлежит NVIDIA; NVIDIA выполнила её квантизацию под данный сценарий использования. Модель распространяется по лицензии MIT и допускает коммерческое и некоммерческое применение. Модель предназначена для генерации текста, сложного рассуждения, математических задач, программной инженерии, агентных приложений, вызова инструментов и корпоративных AI-ассистентов. Она поддерживает многоходовые диалоги с системными, пользовательскими и ассистентскими сообщениями, структурированный JSON-вывод, function calling и выдачу рассуждений в соответствующем режиме. Доступны режимы Non-think для быстрого ответа, Think High для логического анализа и Think Max для максимально глубокого рассуждения. Архитектура построена на Transformer и Mixture-of-Experts с гибридным вниманием, включающим Compressed Sparse Attention и Heavily Compressed Attention. Общее число параметров составляет около 1,6 трлн, из них активируется 49 млрд. Модель работает с текстом, использует контекст до 1 млн токенов и поддерживает пользовательский конвейер кодирования encoding_dsv4. NVFP4-квантизация применяется к весам и активациям линейных операторов в MoE-блоках. Для запуска заявлены SGLang и vLLM на Linux-системах с GPU NVIDIA Blackwell, тестирование проводилось на NVIDIA B200. Ограничения включают высокие требования к совместимой аппаратуре и необходимость дополнительного тестирования на данных конкретного применения; сведения о языках модели, обучающих данных и полном наборе характеристик базовой DeepSeek-V4-Pro в карточке не раскрыты.

Карточка модели CHERRYKC/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B, поэтому описание составлено по ней. Gemma 4 12B Unified — мультимодальная модель с открытыми весами, разработанная Google DeepMind и относящаяся к семейству Gemma 4. Она принимает текст, изображения, видео и аудио, а выдаёт текст; для аудио предусмотрены распознавание речи и перевод речи в текст. Единая архитектура позволяет обрабатывать аудио и изображения без отдельных энкодеров, что подходит для локального запуска на потребительских устройствах. Модель имеет плотную архитектуру и гибридное внимание, сочетающее локальные скользящие окна с глобальным вниманием; заявленное окно контекста для версии 12B — до 256 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, вызова инструментов, а также понимания изображений, видео и аудио. Среди визуальных сценариев — извлечение текста из документов, OCR, разбор PDF, диаграмм и экранных интерфейсов; для аудио доступны транскрипция и перевод речи в текст. Семейство поддерживает более 35 языков в обычном использовании и обучалось на более чем 140 языках, но README не перечисляет конкретные языки этой версии. Модель распространяется по лицензии Apache 2.0. Как и другие генеративные модели, она может давать ошибочные ответы; README также указывает, что приведённые сценарии использования не являются исчерпывающими.

Карточка модели Iambackup/gemma-4-12B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

Granite-4.2-30B — большая языковая модель IBM Granite Team для рассуждений, диалога и работы с инструментами. Это дообученная на основе ibm-granite/granite-4.1-30b-base плотная decoder-only Transformer-модель с архитектурой GraniteForCausalLM и 28,9 млрд параметров. Она поддерживает режимы полного, отключённого и облегчённого рассуждения, а также контекст до 131 072 токенов. Модель предназначена для ответов на сложные вопросы, математики, программирования, многошаговых задач и агентных сценариев с вызовом инструментов. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. README заявляет архитектурные компоненты GQA, RoPE, SwiGLU и RMSNorm; веса представлены в формате safetensors и используются через Transformers. Лицензия Apache 2.0 допускает коммерческое и академическое применение. Производительность на других языках может уступать английской; ответы могут содержать ошибки, предвзятость или небезопасные сведения, а промежуточные рассуждения не всегда отражают итоговый ответ.

unsloth/Kimi-K2-Thinking-BF16 — публикация модели Kimi K2 Thinking в формате BF16, размещённая Unsloth и основанная на moonshotai/Kimi-K2-Thinking. Это текстовая разговорная модель с архитектурой DeepSeek V3; карточка описывает исходную Kimi K2 Thinking как модель с архитектурой Mixture-of-Experts, примерно 1 трлн параметров и 32 млрд активируемых параметров. В метаданных данной публикации указано 37,9 млрд параметров. Модель предназначена для сложных рассуждений, работы с инструментами, исследований, программирования и написания текстов. Заявлены контекст до 256 тыс. токенов и способность поддерживать длинные последовательности вызовов инструментов; результаты тестов в README получены с поиском, браузером и интерпретатором кода там, где указано использование инструментов. Это текстовая модель, а не модель для обработки изображений или аудио. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с лицензией и уведомлениями в репозитории. README описывает INT4-квантизацию исходной Kimi K2 Thinking, однако эта публикация заявлена как BF16, а в метаданных указан формат safetensors; результаты и характеристики исходной версии не следует автоматически переносить на эту публикацию.

RedHatAI разместила инструкционную мультимодальную модель Mistral-Small-3.1-24B-Instruct-2503 с архитектурой Mistral 3 и 24 млрд параметров. Это плотная модель, дообученная на базе mistralai/Mistral-Small-3.1-24B-Instruct-2503; репозиторий содержит веса safetensors и поддерживает чат и анализ изображений вместе с текстом. Модель предназначена для диалоговых помощников, вызова функций, программирования, математических рассуждений, анализа изображений и длинных документов. Контекстное окно — до 128 тыс. токенов. README заявляет поддержку множества языков, включая русский, английский, французский, немецкий, китайский, японский, арабский и другие. К сильным сторонам относятся мультимодальное понимание изображений, длинный контекст, многоязычность и возможность локального запуска после квантизации. Модель рассчитана на применение в системах Red Hat AI, а лицензия Apache 2.0 разрешает коммерческое использование и модификацию. Конкретные результаты могут зависеть от сценария и настройки; README отмечает низкую точность в SimpleQA среди приведённых текстовых оценок.

Qwen3.5-4B-MTP-GGUF — это GGUF-версия мультимодальной модели Qwen3.5-4B, разработанной командой Qwen компании Alibaba. Модель предназначена для локального и серверного инференса, включая агентские сценарии с вызовом инструментов, генерацию кода, OCR, разбор документов и визуальные вопросы и ответы. Она поддерживает работу с текстом, изображениями и видео. Модель содержит около 4 млрд параметров и использует гибридную архитектуру Gated DeltaNet и Gated Attention. Заявлено контекстное окно 262 тыс. токенов с возможностью расширения более чем до 1 млн токенов, словарь из 248 тыс. токенов и поддержка 201 языка. Формат MTP интегрирует multi-token prediction для ускорения спекулятивного декодирования без отдельной draft-модели. Доступны варианты от BF16/F16 до квантованных Q2_K–Q8_0; размер наиболее компактных файлов начинается примерно от 1,96 ГБ. Сильные стороны модели — компактный размер, мультимодальность, длинный контекст и возможность запуска на потребительском оборудовании; для 4-битной квантизации заявлено около 3 ГБ видеопамяти. Ограничения включают возможное снижение качества при агрессивной квантизации и то, что заявленные показатели производительности приведены в README без независимой проверки. Распространение модели указано по лицензии Apache 2.0.

Blossom-V7.1-35B-A3B — открытая мультимодальная модель общего назначения от разработчиков семейства Blossom, дообученная на базе Qwen3.6-35B-A3B. Она принимает текст и изображения и предназначена для диалогов, ответов на вопросы, математики, рассуждений, программирования, веб-разработки, визуализации данных и агентных сценариев с вызовом инструментов. Модель построена на архитектуре Qwen3.5 MoE; в названии варианта указано 35B-A3B. Поддерживает режимы рассуждения medium и max, вызов инструментов с промежуточным рассуждением и контекст до 262 144 токенов, при этом для лучших результатов рекомендуется до 131 072 токенов. Доступны веса Safetensors; README также описывает запуск через Transformers, vLLM и llama.cpp для соответствующих вариантов. Для многоходового диалога нужно сохранять полные сообщения ассистента, включая поля рассуждений и вызовы инструментов. Модель рассчитана на локальное развёртывание и гибридный CPU/GPU-инференс. Для корректной работы требуется встроенный шаблон чата Blossom; замена его на шаблон Qwen может нарушить работу. Лицензия — Apache-2.0. В README указано, что обучающие данные планируют выпустить позднее.

Calcium-Opus-20B-v1 — диалоговая языковая модель на архитектуре Qwen2, созданная на основе Qwen/Qwen2.5-14B-Instruct и дообученная для рассуждений, математики, программирования и следования инструкциям. По метаданным модель содержит 18,4 млрд параметров, использует Transformers и формат safetensors; заявленное в README контекстное окно до 128K токенов расходится с указанным в метаданных пределом 4096 токенов, поэтому фактический размер контекста следует уточнить для конкретной версии. Модель предназначена для диалоговых помощников, генерации и анализа текста, решения математических задач, написания и отладки кода, работы с таблицами и JSON, а также создания длинных материалов. README заявляет поддержку более 29 языков, включая русский и английский; метаданные карточки указывают английский. Заявлены генерация до 8K токенов за один ответ и интерфейс вызова инструментов. Лицензия Apache-2.0. Качество может различаться между языками; возможны ошибки в длинных ответах, повторы и неверные выводы при неоднозначных или состязательных запросах. Модель не обладает актуальными знаниями о событиях после обучения и требует значительных вычислительных ресурсов.

Sarvam-105B — созданная Sarvam AI языковая модель с архитектурой Mixture-of-Experts и MLA-style attention. По README, у неё 10,3 млрд активных параметров, 128 экспертов с маршрутизацией top-8 и контекст до 128 тыс. токенов; метаданные Hugging Face указывают общий размер 9,7 млрд параметров. Модель предназначена для генерации текста и диалогов, сложных рассуждений, математики, программирования и агентных сценариев, включая веб-поиск и техническую диагностику. При обучении особое внимание уделялось индийскому контексту и 22 языкам Индии. В метаданных перечислены английский и ряд языков Южной Азии; карточка заявляет сильные результаты на тестах рассуждений и агентных задач. Для запуска README описывает использование Transformers и варианты развёртывания через vLLM и SGLang, включая специальные настройки. Модель распространяется по лицензии Apache 2.0.

StepFun разработала Step 3.7 Flash — мультимодальную модель со смесью экспертов (MoE), предназначенную для высоконагруженных рабочих процессов. Она содержит 198 млрд параметров, из которых около 11 млрд активируются на каждом токене; включает языковую часть на 196 млрд параметров и визуальный энкодер на 1,8 млрд. Модель принимает изображения и текст, поддерживает контекст до 256 тыс. токенов и три уровня рассуждений: низкий, средний и высокий. Модель предназначена для понимания изображений, анализа больших документов, многошагового поиска и проверки фактов, оркестрации инструментов и API, а также для задач разработки ПО — например, поиска ошибок в репозиториях и подготовки исправлений. Заявленная скорость генерации достигает 400 токенов в секунду. Карточка описывает её как модель для производственных нагрузок; доступны варианты развёртывания через облачные платформы и локальные средства инференса. Репозиторий использует библиотеку Transformers и формат Safetensors. Лицензия — Apache-2.0. В метаданных указан английский язык; README не подтверждает поддержку других естественных языков.

Step-3.7-Flash-FP8 — мультимодальная vision-language модель компании StepFun. Это разреженная архитектура Mixture-of-Experts (MoE) с 198 млрд параметров: языковая часть содержит 196 млрд параметров, а визуальный энкодер — 1,8 млрд. На каждый токен активируется около 11 млрд параметров. Модель поддерживает изображения, текст и контекст до 256 тысяч токенов, а также три уровня рассуждений: низкий, средний и высокий. В README указан английский язык, при этом в примере системного сообщения заявлена поддержка китайского, английского и многих других языков. Модель предназначена для высокочастотных производственных и агентских сценариев, объединяющих восприятие, поиск, проверку информации и рассуждение. Она подходит для анализа крупных финансовых отчётов, многошагового поиска с cross-source verification, работы с интерфейсами, wireframe, GUI и графиками, преобразования визуальных материалов в структурированный код, оркестрации внешних API и длительных рабочих процессов, а также для инженерных задач с многофайловыми репозиториями, поиска ошибок и подготовки патчей. Заявленная пропускная способность достигает 400 токенов в секунду. Сильные стороны модели — визуальное заземление и проверка данных, устойчивость к adversarial traps в многошаговой оркестрации, взаимодействие с инструментами и пригодность для высокопроизводительных coding-пайплайнов. Ограничения следует оценивать по приведённым бенчмаркам: результаты Terminal-Bench 2.1 и GDPVal-AA уступают абсолютным лидерам соответствующих сравнений. Модель доступна через StepFun Open Platform, OpenRouter и NVIDIA NIM; поддерживаются vLLM, SGLang, Hugging Face Transformers и llama.cpp. Указана лицензия Apache-2.0. Для локального запуска требуются высокопамятные системы; в README приведены устройства с объёмом unified memory не менее 128 ГБ.

NVIDIA DeepSeek-V4-Pro-0813-nvfp4-DSpark — это NVFP4-квантизированная версия языковой модели DeepSeek-V4-Pro-0813, разработанной DeepSeek AI и подготовленной с использованием NVIDIA Model Optimizer. NVIDIA указывает, что модель не является новой самостоятельной разработкой NVIDIA: это релиз на базе nvidia/DeepSeek-V4-Pro-0813-NVFP4 с дополнительно квантизированной головой DSpark для speculative decoding. Модель предназначена для коммерческого и некоммерческого использования. Модель представляет собой авторегрессионную Transformer-модель с архитектурой Mixture-of-Experts, гибридным вниманием Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общее число параметров составляет около 1,65 трлн, из которых активируется около 49 млрд. Модель работает с текстом на входе и выходе, поддерживает многоходовые диалоги, системные инструкции, структурированный JSON, вызов функций и инструментов, а также выдачу рассуждений при включении соответствующего режима. Максимальная длина контекста — 1 млн токенов; предусмотрены уровни интенсивности рассуждений low, high и max. Языковой охват явно не указан. Модель ориентирована на сложное рассуждение, агентные приложения, использование инструментов, математику, разработку программного обеспечения и корпоративных AI-ассистентов. К сильным сторонам относятся большой контекст, высокая вычислительная ёмкость MoE, поддержка speculative decoding через DSpark и оптимизация под NVIDIA GPU. Ограничения включают зависимость от специализированной аппаратной и программной инфраструктуры: заявлена совместимость с NVIDIA Blackwell B200, Linux, SGLang и vLLM; характеристики работы на другой аппаратуре не указаны. Данные исходного обучения не раскрыты, а перед промышленным внедрением требуется дополнительное тестирование на прикладных данных. Модель распространяется по лицензии MIT. Указана версия NVIDIA Model Optimizer v0.47.0rc1; опубликованный релиз датирован 9 сентября 2026 года.

Dolphin 2.9.1 Yi 1.5 34B — диалоговая языковая модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и командой Cognitive Computations. Это полновесное дообучение базовой модели 01-ai/Yi-1.5-34B с архитектурой семейства Llama и 33,9 млрд параметров. Модель принимает текст и генерирует текст; для диалога используется шаблон ChatML. Контекст при обучении составлял 8 192 токена. Модель предназначена для инструктивных диалогов, написания и анализа кода, решения математических задач, вызова функций и начальных агентных сценариев. В карточке заявлена высокая податливость к запросам: авторы описывают Dolphin как uncensored и рекомендуют добавлять собственный слой выравнивания перед предоставлением модели пользователям. Модель обучалась в том числе на данных, сгенерированных GPT-4. Лицензия Apache 2.0 разрешает коммерческое использование. Модель может выдавать нежелательный или небезопасный контент; качество и безопасность результатов следует оценивать с учётом конкретного применения.

Карточка модели sagnikdas-ml/gemma-4-12B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

Карточка модели utkarsh2439/gemma-4-12B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

Карточка модели Cup3/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

Карточка модели Pound1320/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

GigaChat 3.1 Lightning — компактная instruct-модель семейства GigaChat 3.1 от ai-sage. Это модель класса Mixture-of-Experts с архитектурой DeepSeek V3: 10 млрд параметров, из которых при генерации активны 1,8 млрд. В этой версии веса представлены в BF16; используются Multi-head Latent Attention для сокращения KV-кэша и Multi-Token Prediction, которое может ускорять декодирование. Контекст составляет до 262 144 токенов. Модель предназначена для многоязычных диалогов и инструкций, рассуждений, программирования, вызова функций и развёртывания в прикладных продуктах. Карточка указывает поддержку русского и английского; обучающий корпус семейства охватывает 10 языков. Среди описанных сценариев — работа с поиском и цитированием, интерпретация кода с учётом файлов и диалоги с инструментами. Репозиторий использует Transformers и формат safetensors. Разработчик сообщает об улучшениях на задачах математики, программирования и других сложных областях, а также о высокой скорости генерации; приведённые результаты зависят от бенчмарка и конфигурации оборудования. Лицензия — MIT. Модель может ошибаться, а заявленные характеристики скорости требуют подходящей инфраструктуры и поддержки MTP в используемом движке.

davidsyoung/GLM-5.3-EXL3-TR3-3.42bpw — это квантизированная версия GLM-5.3 от zai-org, подготовленная в формате EXL3/TR3 с использованием смешанной схемы trellis-квантизации. Базовая модель представляет собой MoE-архитектуру glm_moe_dsa размером 755B параметров: 78 слоёв, 256 маршрутизируемых экспертов на слой и дополнительный MTP-компонент. Заявлены английский и китайский языки, а назначение модели — генерация текста, сложное программирование, рассуждения и задачи с длинным контекстом. Средний размер квантизации весов составляет 3,42 bpw: маршрутизируемые эксперты используют комбинацию K3 и K4, а внимание, эмбеддинги, нормализации, lm_head и ряд других компонентов сохранены в BF16. Квантизация выполнена без калибровочных данных; заявлено небольшое отклонение от BF16-учителя по измеренному KLD. Модель рассчитана на запуск через совместимый стек exllamav3-b12x или sparkinfer с четырьмя GPU, TP4 и FP8 KV-кэшем. Указан проверенный профиль с envelope до 393 216 токенов, но это измеренный безопасный режим, а не гарантированный архитектурный максимум. Сильными сторонами являются высокая степень сжатия, сохранение значительной части компонентов в BF16, поддержка очень длинного контекста и подтверждённая работоспособность в сценариях кодирования, структурированного вывода, tool use и извлечения данных из длинных документов. Ограничение — специальный смешанный K3/K4 runtime: модель несовместима с обычной загрузкой vanilla exllamav3, а использование стандартного загрузчика может приводить к некорректной генерации. Лицензия указана как glm-5.3; подробные условия следует уточнять в лицензии базовой модели.

Карточка модели crusoeai/gpt-oss-120b-BF16 на Hugging Face совпадает с карточкой unsloth/gpt-oss-120b-BF16, поэтому описание составлено по ней. unsloth/gpt-oss-120b-BF16 — вариант модели gpt-oss-120b от Unsloth, основанный на openai/gpt-oss-120b. Это генеративная языковая модель с архитектурой MoE; карточка описывает исходную gpt-oss-120b как модель на 117 млрд параметров, из которых активно 5,1 млрд, а метаданные этого репозитория указывают 2,1 млрд параметров. Модель предназначена для диалога, сложных рассуждений, агентных сценариев и задач разработчиков. Она поддерживает настройку уровня рассуждений и работу с вызовом функций, веб-поиском, выполнением Python-кода и структурированными ответами. Контекстное окно — 131 072 токена. Для корректной работы требуется формат диалога Harmony; в README также отмечено, что цепочку рассуждений не следует показывать конечным пользователям. Репозиторий содержит веса Safetensors и рассчитан на Transformers. Лицензия — Apache 2.0, допускающая коммерческое использование.

Карточка модели hchitte/gpt-oss-120b-fused на Hugging Face совпадает с карточкой unsloth/gpt-oss-120b-BF16, поэтому описание составлено по ней. unsloth/gpt-oss-120b-BF16 — вариант модели gpt-oss-120b от Unsloth, основанный на openai/gpt-oss-120b. Это генеративная языковая модель с архитектурой MoE; карточка описывает исходную gpt-oss-120b как модель на 117 млрд параметров, из которых активно 5,1 млрд, а метаданные этого репозитория указывают 2,1 млрд параметров. Модель предназначена для диалога, сложных рассуждений, агентных сценариев и задач разработчиков. Она поддерживает настройку уровня рассуждений и работу с вызовом функций, веб-поиском, выполнением Python-кода и структурированными ответами. Контекстное окно — 131 072 токена. Для корректной работы требуется формат диалога Harmony; в README также отмечено, что цепочку рассуждений не следует показывать конечным пользователям. Репозиторий содержит веса Safetensors и рассчитан на Transformers. Лицензия — Apache 2.0, допускающая коммерческое использование.

Карточка модели Rampage1219hf/Hermes-4.3-36B на Hugging Face совпадает с карточкой NousResearch/Hermes-4.3-36B, поэтому описание составлено по ней. Hermes 4.3 36B — языковая модель для диалогов и следования инструкциям, разработанная Nous Research на основе ByteDance-Seed/Seed-OSS-36B-Base. Это плотная архитектура Seed OSS с 31,7 млрд параметров и контекстом до 524 288 токенов; модель распространяется в формате safetensors и рассчитана прежде всего на английский язык. Модель предназначена для рассуждений и ответов общего назначения, включая задачи по математике, программированию, STEM, логике и творческому письму. Она поддерживает гибридный режим рассуждений, вызов инструментов, а также формирование структурированных ответов и JSON по заданной схеме. Для диалогов используется шаблон чата Hermes на основе формата Llama 3. По описанию разработчика, при дообучении использовался корпус примерно из 5 млн примеров и 60 млрд токенов, с акцентом на проверяемые цепочки рассуждений и точное соблюдение формата. Модель выпущена под лицензией Apache-2.0. Для запуска на сервере с несколькими GPU разработчик рекомендует движки инференса вроде SGLang или vLLM; качество и скорость зависят от настроек и аппаратного обеспечения.