II.10Разработка и эксплуатация AI/ML-систем

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter111 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter207 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели wycliffearapcheruiyot/Qwen3-4B-Instruct-2507 на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Instruct-2507, поэтому описание составлено по ней. Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это обновлённая версия Qwen3-4B в режиме без рассуждений: модель обучена следовать инструкциям и вести диалог, а также поддерживает интерфейс вызова инструментов. В репозитории указано 4,0 млрд параметров, метаданные Hugging Face указывают 3,7 млрд; нативная длина контекста составляет 262 144 токена. Модель предназначена для генерации ответов, понимания текста, логических и математических задач, вопросов по естественным наукам, программирования и работы с инструментами. Большое окно контекста подходит для анализа длинных документов и диалогов; заявлена поддержка нескольких языков и улучшенное покрытие редких знаний. Модель принимает текст и выдаёт текст. В README отмечены улучшения следования инструкциям, рассуждений, генерации текста и работы с длинным контекстом. Модель работает только в режиме без рассуждений и не выводит блоки рассуждений. Лицензия — Apache-2.0.

Calcium-Opus-20B-v1 — диалоговая языковая модель на архитектуре Qwen2, созданная на основе Qwen/Qwen2.5-14B-Instruct и дообученная для рассуждений, математики, программирования и следования инструкциям. По метаданным модель содержит 18,4 млрд параметров, использует Transformers и формат safetensors; заявленное в README контекстное окно до 128K токенов расходится с указанным в метаданных пределом 4096 токенов, поэтому фактический размер контекста следует уточнить для конкретной версии. Модель предназначена для диалоговых помощников, генерации и анализа текста, решения математических задач, написания и отладки кода, работы с таблицами и JSON, а также создания длинных материалов. README заявляет поддержку более 29 языков, включая русский и английский; метаданные карточки указывают английский. Заявлены генерация до 8K токенов за один ответ и интерфейс вызова инструментов. Лицензия Apache-2.0. Качество может различаться между языками; возможны ошибки в длинных ответах, повторы и неверные выводы при неоднозначных или состязательных запросах. Модель не обладает актуальными знаниями о событиях после обучения и требует значительных вычислительных ресурсов.

unsloth/gemma-4-12b-it — инструкционная мультимодальная модель от Unsloth на базе Google Gemma 4 12B IT. Она предназначена для диалога, рассуждений, агентных сценариев, генерации и исправления кода, а также понимания изображений и видео. Архитектура Gemma 4 использует чередование локального скользящего и глобального внимания; для варианта 12B заявлено контекстное окно до 256K токенов. Модель поддерживает вызов инструментов и работу с аудио, включая распознавание речи и перевод речи в текст. Модель подходит для ответов по изображениям и документам, OCR, анализа диаграмм и кадров видео, транскрибации речи, суммаризации и генерации текста. В карточке Gemma 4 указана поддержка более 35 языков «из коробки» и предобучение более чем на 140 языках. Возможны фактические ошибки, смещения данных и трудности с нюансами языка и сложными открытыми задачами. Репозиторий использует формат safetensors; лицензия — Apache 2.0.

Gemma 4 26B A4B IT от Google DeepMind — мультимодальная диалоговая модель семейства Gemma 4, представленная в репозитории Unsloth. Это производная версия google/gemma-4-26B-A4B-it; веса опубликованы в формате safetensors, лицензия — Apache-2.0. Модель принимает текст и изображения и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, понимания графиков и интерфейсов, генерации и исправления кода, суммаризации и агентных сценариев с инструментами. В семействе Gemma 4 заявлено контекстное окно до 256K токенов для вариантов 26B A4B и 31B; модель использует гибридное локальное и глобальное внимание. README указывает поддержку более 35 языков и предварительное обучение более чем на 140 языках, но не перечисляет языки по отдельности. Ограничения включают возможные фактические ошибки, смещения обучающих данных и трудности с неоднозначными формулировками или сложными открытыми задачами. Аудиовозможности из README относятся только к вариантам E2B и E4B и здесь не заявлены.

Gemma-4-26B-A4B-it-F32-GGUF — мультимодальная instruction-tuned модель, основанная на Gemma-4-26B-A4B-it от Google и представленная пользователем prithivMLmods в формате GGUF. Она предназначена для генерации и понимания текста и изображений, включая рассуждение, программирование, OCR и распознавание рукописного текста, разбор документов, анализ пользовательских интерфейсов и диаграмм, обнаружение объектов с указанием их расположения, агентские сценарии, function calling и работу со структурированными данными. Модель использует архитектуру Mixture-of-Experts с 26 млрд общих параметров и примерно 3,8–4 млрд активных параметров на один проход: задействуются 8 экспертов и 1 общий эксперт из 128. Указаны 30 слоёв, словарь размером 262 тысячи токенов, поддержка более 140 языков и контекст до 256 тысяч токенов со sliding window 1024 токена. Поддерживаются текстовые и графические входы с переменным соотношением сторон и разрешением; доступны настраиваемые режимы рассуждения. Модель ориентирована на запуск через llama.cpp и vLLM на GPU NVIDIA или AMD, а репозиторий содержит варианты BF16, F16, F32, Q8_0 и мультимодальные проекционные файлы. Сильными сторонами являются мультимодальность, большой контекст, широкий набор задач и сниженная вычислительная нагрузка по сравнению с плотными моделями сопоставимого качества благодаря MoE. Ограничения включают значительные требования к памяти: размер файла F32 составляет около 101 ГБ, BF16 и F16 — около 50,5 ГБ, а качество и потребление ресурсов зависят от выбранного варианта квантования. Модель распространяется по лицензии Apache 2.0.

Карточка модели Abobs132/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.

Granite-3.2-2B-Instruct — инструкционная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это плотная авторегрессионная модель на 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.1-2b-instruct для задач рассуждения и выполнения инструкций; режим рассуждения можно включать по необходимости. Модель работает с текстом, поддерживает диалог и интерфейс вызова инструментов, имеет контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache 2.0. Модель предназначена для общих инструкционных задач и интеграции в ассистентов: ответов на вопросы, суммаризации длинных документов и встреч, извлечения и классификации текста, RAG, задач с кодом и вызова функций. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Среди сильных сторон — длинный контекст, управляемое рассуждение и многоязычный диалог. К ограничениям относятся унаследованные от Granite-3.1-2B-Instruct ограничения и этические соображения; README не приводит их подробнее.

Карточка модели RedHatAI/granite-3.2-2b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.2-2b-instruct, поэтому описание составлено по ней. Granite-3.2-2B-Instruct — инструкционная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это плотная авторегрессионная модель на 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.1-2b-instruct для задач рассуждения и выполнения инструкций; режим рассуждения можно включать по необходимости. Модель работает с текстом, поддерживает диалог и интерфейс вызова инструментов, имеет контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache 2.0. Модель предназначена для общих инструкционных задач и интеграции в ассистентов: ответов на вопросы, суммаризации длинных документов и встреч, извлечения и классификации текста, RAG, задач с кодом и вызова функций. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Среди сильных сторон — длинный контекст, управляемое рассуждение и многоязычный диалог. К ограничениям относятся унаследованные от Granite-3.1-2B-Instruct ограничения и этические соображения; README не приводит их подробнее.

Hermes 4 405B — большая плотная языковая модель Nous Research для диалогов и следования инструкциям, созданная на основе Meta Llama 3.1 405B с дополнительным постобучением. Модель содержит около 403,7 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Основной язык карточки — английский. Модель предназначена для диалогового помощника и сложных задач рассуждения, включая математику, программирование, STEM, логику и творческое письмо. Она поддерживает режим рассуждения, вызов инструментов и функций, а также генерацию структурированных ответов, в том числе JSON по заданной схеме. Вызовы инструментов требуют подходящего шаблона диалога и обработки специального формата вывода. Модель распространяется под лицензией Llama 3.1 Community License. Это крупная модель, для обслуживания которой README рекомендует многокарточные серверные конфигурации и движки вывода вроде vLLM или SGLang. Утверждения о качестве и результатах на бенчмарках приведены разработчиком; карточка не предоставляет подробных таблиц результатов.

Карточка модели muhamad-geosurge/invert-polarity-e90e533f-da28-4c2d-a9ff-aef6d003f9f6 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Qwen3-235B-A22B — большая языковая модель семейства Qwen3 от команды Qwen, разработанная Alibaba. Это причинная языковая модель архитектуры Mixture of Experts: всего 235 млрд параметров, из которых при генерации активируются 22 млрд; используются 128 экспертов, из них активны 8. Модель доступна в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для диалогов и генерации текста, следования инструкциям, рассуждений, математики, программирования, творческого письма, перевода и сценариев с вызовом внешних инструментов. В одном чекпойнте можно переключать режимы рассуждения и обычного ответа. README заявляет поддержку более 100 языков и диалектов. Контекст в README указан как 32 768 токенов нативно и до 131 072 с YaRN; метаданные каталога указывают нативную длину 40 960 токенов. Модель принимает текст и выдаёт текст. Репозиторий лицензирован по Apache-2.0. Для практического использования следует учитывать большой общий размер модели и требования к инфраструктуре; README не приводит конкретных аппаратных требований или оценок качества для отдельных задач.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter319 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Qwen3.5-4B-f32-GGUF — это набор GGUF-файлов с версиями модели Qwen3.5-4B, разработанной командой Alibaba Qwen и представленной в репозитории prithivMLmods. Модель представляет собой плотную мультимодальную causal language model примерно с 4 млрд параметров и встроенным vision-энкодером. Она предназначена для генерации и понимания текста, анализа изображений и видео, OCR, решения математических задач, программирования и агентских сценариев. Архитектура включает 32 слоя с гибридной схемой Gated DeltaNet и Gated Attention, размером скрытого состояния 2560 и словарём на 248 тысяч токенов для 201 языка. Заявлена поддержка контекста до 262 тысяч токенов с возможностью расширения свыше 1 млн токенов, а также переключаемый режим рассуждений для выбора между более глубоким анализом и быстрой генерацией. В комплект входят варианты BF16, F16, F32, Q8_0 и отдельные мультимодальные проекционные файлы mmproj; размеры файлов варьируются примерно от 367 МБ до 16,8 ГБ. К сильным сторонам относятся мультимодальность без необходимости в отдельном VL-компоненте, большой контекст, многоязычность и возможность запуска на ограниченных ресурсах: в README указано около 8 ГБ VRAM для BF16 и примерно 3 ГБ для 4-битной версии. К ограничениям относятся различия в качестве и размере квантованных вариантов, а также компромисс между скоростью и качеством рассуждений. Модель распространяется по лицензии Apache 2.0.

Qwen3.6-35B v2 — это мультимодальная модель типа Mixture of Experts (MoE), разработанная oktayd на базе Qwen3.6-35B-v2-MoE-Ablit-Heretic-Uncensor-Hermes-MTP-Vision-FT. Модель распространяется в формате Ollama и предназначена для работы с текстом и изображениями, включая анализ скриншотов, документов, диаграмм и сцен. Модель ориентирована на диалог, объяснение научных и технических вопросов, рассуждения, программирование, отладку, создание контента, ролевые сценарии, tool calling и агентские рабочие процессы. Она также сфокусирована на бизнес-задачах, повседневной работе, визуальном вопросно-ответном взаимодействии, OCR и работе с документами. Заявлена поддержка различных стилей общения, включая прямой, неформальный и творческий; в обучении использовались многоязычные материалы, однако конкретный перечень языков не указан. Архитектура содержит около 35 миллиардов параметров, из которых примерно 3 миллиарда активируются для каждого токена; маршрутизация выбирает 8 из 256 экспертов. Это снижает вычислительную нагрузку по сравнению с полным запуском всех параметров, но не уменьшает требования к хранению весов и доступной RAM или VRAM до уровня 3B-модели. Доступны разные варианты квантования и размеры GGUF, что упрощает локальный запуск. Ограничения включают возможность ошибок, повторов и неточных ответов; README не указывает размер контекста и точные языковые характеристики. Лицензия модели — Apache-2.0.

Bagel 34B v0.5 — это дообученная jondurbin модель на базе 01-ai/yi-34b-200k, созданная для диалогов и широкого круга инструктивных задач. Модель использует плотную архитектуру семейства Llama с причинным языковым моделированием, содержит 33,9 млрд параметров и рассчитана на контекст до 200 000 токенов. Модель обучалась на наборах для вопросов и ответов, рассуждений, математики, программирования, суммаризации, ролевого общения, работы с контекстом и вызова функций. Для обучения использовались SFT- и DPO-данные; карточка описывает несколько форматов запросов, а шаблон токенизатора по умолчанию использует формат Llama 2. Это текстовая модель, которая принимает текст и генерирует текст. В метаданных указана лицензия other, без уточнения её условий.

Карточка модели compressa-ai/Compressa-Qwen2.5-14B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-14B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-14B-Instruct — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель с архитектурой Qwen2ForCausalLM, 14,7 млрд параметров, RoPE, SwiGLU, RMSNorm и групповой обработкой запросов внимания. Репозиторий содержит веса в формате Safetensors и предназначен для генерации текста в диалоговом формате. Модель подходит для чат-ботов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. В README заявлена поддержка более 29 языков, в том числе русского и английского. Метаданные указывают контекст в 32 768 токенов; README сообщает о возможности расширения контекста до 131 072 токенов с YaRN и генерации до 8 192 токенов. Модель также заявлена как улучшенная для программирования и математики, но результаты зависят от запроса и не гарантируют точности. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; её статический коэффициент масштабирования в vLLM может снижать качество на коротких входах. Лицензия Apache-2.0 допускает использование на её условиях.

Карточка модели Iambackup/gemma-4-12B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

Карточка модели katiyardinesh/gemma-4-31B-it-custom на Hugging Face совпадает с карточкой google/gemma-4-31B-it, поэтому описание составлено по ней. Gemma 4 31B IT — мультимодальная инструкционно-настроенная модель Google DeepMind на плотной архитектуре Gemma 4, предназначенная для диалогов и генерации текста по текстовым и визуальным запросам. Она принимает текст и изображения и выдаёт текст; поддерживает анализ изображений, рассуждения, программирование и работу с инструментами. Для этой версии заявлено контекстное окно до 256 тыс. токенов. Семейство Gemma 4 обучено на более чем 140 языках, однако для этой карточки отдельный перечень поддерживаемых языков не приведён. Модель подходит для ответов по изображениям и документам, распознавания текста на изображениях, анализа диаграмм и интерфейсов, а также для создания и редактирования текста и кода. Семейство Gemma 4 использует гибридное внимание с локальными и глобальными слоями, рассчитанное на работу с длинным контекстом. Аудиовход в README указан только для вариантов E2B, E4B и 12B, поэтому его не следует приписывать версии 31B. Лицензия — Apache 2.0.

Карточка модели ArchiveStudio/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели OsGo/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

unsloth/gemma-4-E4B — дообученная Unsloth версия мультимодальной модели Gemma 4 E4B от Google DeepMind. Она принимает текст и изображения и формирует текстовые ответы для диалога, рассуждений, программирования и анализа визуального содержимого. Архитектура Gemma4ForConditionalGeneration использует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для семейства E4B заявлено контекстное окно до 128 тысяч токенов; карточка также описывает распознавание изображений, документов, графиков, экранов и рукописного текста, а для E4B — аудиоввод, распознавание речи и перевод речи в текст. Модель подходит для вопросов по изображениям и документам, извлечения визуальной информации, генерации и исправления кода, суммаризации и агентных сценариев с вызовом инструментов. Семейство поддерживает более 35 языков, однако конкретный перечень для этой версии не приведён. Модель распространяется в формате safetensors по лицензии Apache 2.0. Ответы могут содержать фактические ошибки; также возможны смещения, трудности с языковыми нюансами и сложными открытыми задачами.

PhalaCloud/GLM-5.2-W4AFP8 — это квантизированная версия GLM-5.2, разработанного zai-org. Модель предназначена для генерации текста, рассуждений, точного следования инструкциям, работы с длинным контекстом и вызова инструментов. Указаны поддерживаемые языки English и Chinese; модель работает в текстовом режиме. Модель сохраняет полный объём 753 млрд параметров и использует архитектуру Mixture-of-Experts. Маршрутизируемые экспертные веса квантизированы до 4 бит с group size 128 и FP8-активациями, а отдельные компоненты, включая attention и MTP-слой, остаются в FP8 или BF16. На одном узле с 8 GPU H200 поддерживается контекст до 1 млн токенов. Квантизация рассчитана на снижение потребления памяти без измеримой потери качества относительно FP8-версии; заявлена поддержка EAGLE speculative decoding. По приведённым тестам модель показывает высокие результаты в reasoning, instruction following, long-context reasoning и tool calling, а также извлекает данные из контекста длиной около 983 тысяч токенов. Основные ограничения — необходимость GPU Hopper с SM90, проверенная совместимость только с SGLang версии 0.5.13.post1 или новее и непроверенная работа с vLLM и другими движками. Модель распространяется по лицензии MIT, унаследованной от GLM-5.2.

Карточка модели unsloth/granite-3.2-2b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.2-8b-instruct, поэтому описание составлено по ней. Granite-3.2-8B-Instruct — плотная языковая модель IBM Granite Team с 8,2 млрд параметров, дообученная на базе ibm-granite/granite-3.1-8b-instruct для выполнения инструкций и задач рассуждения. Модель поддерживает управляемый режим рассуждения, который можно включать по необходимости, и работает через библиотеку Transformers; доступны веса в формате safetensors. Модель предназначена для диалоговых помощников и общих прикладных сценариев: суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Контекст — до 131 072 токенов, что подходит для анализа длинных документов и стенограмм. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель распространяется по лицензии Apache 2.0. README указывает, что к ней применимы этические ограничения и ограничения Granite-3.1-8B-Instruct; конкретные ограничения в карточке не перечислены.

Mungert/granite-3.2-8b-instruct-GGUF — это GGUF-версия Granite-3.2-8B-Instruct, разработанная командой Granite компании IBM и преобразованная пользователем Mungert с помощью llama.cpp. Модель содержит около 8 миллиардов параметров и предназначена для генерации текста, выполнения инструкций и задач, требующих рассуждений, с поддержкой управляемого режима thinking. Модель подходит для создания AI-ассистентов, суммирования документов и встреч, классификации и извлечения текста, ответов на вопросы, Retrieval-Augmented Generation (RAG), программирования, function calling, многоязычного диалога и работы с длинным контекстом. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Точная длина контекста для этой сборки в README не указана. Сильной стороной является сочетание возможностей рассуждения, многоязычности и адаптации к длинным документам. Сборка использует GGUF и экспериментальный подход к квантованию: отдельные важные слои переводятся на более высокую точность, что, по описанию автора, может повысить точность при сохранении относительно низкого битового уровня, но увеличивает размер файла. Ограничения включают зависимость характеристик от выбранного варианта квантования и отсутствие в карточке подробных бенчмарков, требований к аппаратному обеспечению и точного размера контекста. Модель распространяется по лицензии Apache 2.0.

genevaquant/Hermes-4-70B-u — дообученная модель genevaquant на базе NousResearch/Hermes-4-70B, построенная на плотной архитектуре Llama 3.1 с 69,5 млрд параметров. Она предназначена для диалогов и генерации текста, включая рассуждения, математику, программирование, задачи STEM и создание ответов в заданном формате; модель поддерживает контекст до 131 072 токенов. Модель использует формат чата Llama и поддерживает режим рассуждений, вызов инструментов и структурированный вывод, в том числе JSON по заданной схеме. В карточке указана лицензия Llama 3. Отдельных оценок качества именно этой версии genevaquant карточка не приводит; для работы требуются значительные вычислительные ресурсы, соответствующие модели на 70 млрд параметров.

Карточка модели muhamad-geosurge/invert-polarity-ecd192a7-0f41-4a16-9478-ebe36160e035 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Qwen3-14B-GGUF — квантизированная версия языковой модели Qwen3-14B, разработанной Qwen и подготовленной в формате GGUF пользователем bartowski на основе llama.cpp. Модель предназначена для генерации текста, следования инструкциям, многошаговых диалогов, творческого письма, ролевых сценариев, программирования, математических и общеинтеллектуальных задач, а также для агентских сценариев. Модель поддерживает режимы рассуждения и без рассуждения; режим /no_think позволяет отключить рассуждение, добавив эту команду в конец запроса. Заявлена поддержка более 100 языков и диалектов. Максимальная длина контекста составляет до 131 072 токенов с YaRN, при этом значение по умолчанию — 32 000 токенов. Формат GGUF удобен для локального запуска через совместимые инструменты, включая llama.cpp и LM Studio. К сильным сторонам относятся улучшенные способности к математике, программированию, здравому смыслу и работе с инструкциями, а также поддержка различных режимов генерации и широкого набора языков. Ограничения связаны с возможными неточностями, вредным или неподходящим содержанием, а также с тем, что квантизация и локальная среда выполнения могут влиять на качество и скорость. В README лицензия модели не указана, поэтому условия использования необходимо уточнять по лицензии оригинальной Qwen3-14B и конкретной сборки.

Карточка модели tangyunbo/Qwen3-4B-RL-multiscope-fromscratch-iter297 на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Instruct-2507, поэтому описание составлено по ней. Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это обновлённая версия Qwen3-4B в режиме без рассуждений: модель обучена следовать инструкциям и вести диалог, а также поддерживает интерфейс вызова инструментов. В репозитории указано 4,0 млрд параметров, метаданные Hugging Face указывают 3,7 млрд; нативная длина контекста составляет 262 144 токена. Модель предназначена для генерации ответов, понимания текста, логических и математических задач, вопросов по естественным наукам, программирования и работы с инструментами. Большое окно контекста подходит для анализа длинных документов и диалогов; заявлена поддержка нескольких языков и улучшенное покрытие редких знаний. Модель принимает текст и выдаёт текст. В README отмечены улучшения следования инструкциям, рассуждений, генерации текста и работы с длинным контекстом. Модель работает только в режиме без рассуждений и не выводит блоки рассуждений. Лицензия — Apache-2.0.