I.3Извлечение и структурирование данных

Карточка модели Openintelligent123/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Gemma 4 E4B-it — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям и диалога. Это плотная модель семейства Gemma 4; репозиторий использует Transformers и формат safetensors. Для варианта E4B заявлено контекстное окно 128 тысяч токенов и поддержка более 35 языков в практическом использовании, при предобучении на более чем 140 языках. Модель принимает текст, изображения, видео и аудио, а выдаёт текст. Она предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, понимания видео, распознавания речи и перевода речи в текст. Поддерживает режим рассуждений и вызов инструментов; гибридное внимание сочетает локальные окна и глобальное внимание. Модель подходит для локального запуска на устройствах с ограниченными ресурсами, а также для чат-ботов, помощников и мультимодальных приложений. Возможности распознавания аудио заявлены для вариантов E2B и E4B. Как и другие генеративные модели, она может ошибаться в ответах и интерпретации входных данных. Лицензия — Apache 2.0.

Granite-3.0-8B-Instruct — языковая модель команды Granite компании IBM для ответов на инструкции и создания диалоговых ассистентов, в том числе для бизнес-приложений. Она дообучена на базе ibm-granite/granite-3.0-8b-base с использованием открытых наборов инструкций, синтетических данных, supervised fine-tuning, выравнивания с помощью обучения с подкреплением и объединения моделей. Модель представляет собой плотный decoder-only трансформер на 8,2 млрд параметров с архитектурой Granite; в ней используются GQA, RoPE, SwiGLU и RMSNorm. Она принимает текст и генерирует текст, поддерживает структурированный формат чата и интерфейс вызова инструментов. Длина контекста — 4096 токенов. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Качество на языках помимо английского может быть ниже; ответы могут быть неточными, предвзятыми или небезопасными, поэтому для конкретного применения нужны проверка и настройка. Лицензия — Apache 2.0.

unsloth/granite-4.1-30b — версия модели Granite-4.1-30B, опубликованная Unsloth с исправлениями шаблона чата. Исходную модель разработала команда Granite компании IBM; это плотный авторегрессионный трансформер с архитектурой decoder-only, GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель содержит 28,9 млрд параметров и поддерживает контекст до 131 072 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Модель предназначена для диалогов и следования инструкциям, создания ассистентов и агентов с вызовом инструментов, а также для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG и задач с кодом, включая Fill-in-the-Middle. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Для версии Unsloth README отдельно отмечает исправления шаблона чата; для llama.cpp рекомендуется использовать параметр --jinja. Вариант Unsloth основан на ibm-granite/granite-4.1-30b и обозначен в метаданных как дообучение. Модель распространяется по лицензии Apache 2.0. По данным карточки, обучающие инструкции в основном были на английском, поэтому качество на других поддерживаемых языках может быть ниже. Модель может выдавать неточные, предвзятые или небезопасные ответы; для конкретных сценариев нужны проверка и настройка безопасности.

Qwen2.5-32B-Instruct-GPTQ-Int8 — инструкцияно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen при Alibaba Cloud. Это каузальная текстовая модель для генерации текста и диалоговых сценариев, включая ответы на инструкции, написание длинных текстов, программирование, математические задачи, работу со структурированными данными и формирование структурированных ответов, в том числе JSON. Модель содержит около 32,5 млрд параметров, из которых 31 млрд приходятся на непараметрическую часть без эмбеддингов, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV-внимании; применяется Grouped Query Attention с 40 головами Q и 8 головами KV. Модель поддерживает текстовый ввод и вывод, более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Заявленная максимальная длина контекста составляет 131 072 токена, а генерации — 8192 токена; для контекстов свыше 32 768 токенов требуется настройка YaRN. GPTQ-квантизация до 8 бит снижает требования к памяти и подходит для локального или серверного развертывания, однако квантизация может влиять на качество по сравнению с исходной версией в формате bfloat16. При использовании YaRN со статическим коэффициентом масштабирования производительность на коротких текстах может ухудшаться. Для работы рекомендуется актуальная версия библиотеки Transformers, а для длинного контекста — vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-7B-Instruct-GGUF — инструкционная языковая модель, разработанная командой Qwen. Это GGUF-версия модели Qwen2.5-7B-Instruct, предназначенная для диалоговых приложений, генерации текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, в том числе русский, английский, китайский, французский, немецкий, испанский, японский и корейский. Модель использует архитектуру causal language model на базе transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Она содержит 7,61 млрд параметров, 28 слоёв и механизм GQA с 28 головами Q и 4 головами KV. Полная длина контекста GGUF-версии составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Сильные стороны модели — улучшенные следование инструкциям, кодирование, математика, генерация длинных текстов, понимание таблиц и устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — контекст до 131 072 токенов не поддерживается напрямую: для такого расширения README рекомендует использовать не-GGUF версии, а текущая конфигурация с YARN поддерживается только в vLLM. Модель распространяется по лицензии Apache-2.0.

DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

Карточка модели Terom/gemma-4-12B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google DeepMind разработала Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальную инструкционную модель с плотной архитектурой Gemma4UnifiedForConditionalGeneration, полученную на основе google/gemma-4-12B-it с применением обучения с учётом квантования (QAT). Несмотря на обозначение Q4_0, в этом варианте используются веса половинной точности, извлечённые из QAT-конвейера; он предназначен для последующей компиляции и исследовательской работы. Репозиторий содержит веса в формате safetensors. Модель принимает текст и изображения, а также аудио и видеокадры; генерирует текст. Она подходит для диалога, рассуждений, анализа документов и изображений, распознавания речи, работы с видео, написания и исправления кода и вызова инструментов. Вариант 12B поддерживает контекст до 256 тысяч токенов; семейство Gemma 4 обучено на более чем 140 языках, а карточка заявляет поддержку более 35 языков для мультимодальных задач. Среди заявленных возможностей — понимание документов и PDF, OCR, распознавание рукописного текста, анализ диаграмм и интерфейсов, а также распознавание речи и перевод аудио в текст. Это открытая модель с лицензией Apache 2.0. Указанные в карточке возможности относятся к семейству Gemma 4; отдельные показатели качества для данного чекпойнта не приведены.

Gemma 4 31B — мультимодальная модель с открытыми весами, разработанная Google DeepMind и опубликованная под лицензией Apache 2.0. Вариант 31B использует плотную архитектуру Gemma4 и предназначен для работы с текстом и изображениями с генерацией текстовых ответов. Семейство поддерживает контекст до 256 тыс. токенов; для Gemma 4 заявлена многоязычная подготовка более чем на 140 языках. Модель подходит для диалога, рассуждений, написания и исправления кода, суммаризации и ответов на вопросы по изображениям и документам. Заявленные визуальные сценарии включают OCR, распознавание рукописного текста, анализ диаграмм, интерфейсов и последовательностей видеокадров, а встроенный вызов функций позволяет использовать её в агентных процессах. README описывает аудиоввод только для вариантов E2B, E4B и 12B, поэтому его нельзя приписывать модели 31B. Качество ответов и точность распознавания могут зависеть от языка, сложности входных данных и сценария; характеристики производительности для этого репозитория отдельно не приведены. Условия распространения — Apache 2.0.

Granite-4.1-30B-Base — базовая авторегрессионная языковая модель IBM Granite Team для генерации текста и широкого круга задач преобразования текста. Это плотный decoder-only Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; модель содержит 28,9 млрд параметров и распространяется в формате safetensors для Transformers. Карточка описывает обучение с нуля примерно на 15 трлн токенов и расширение контекста до 512 тыс. токенов, тогда как метаданные репозитория указывают нативное контекстное окно 131 072 токена. Модель рассчитана на суммаризацию, классификацию и извлечение информации, ответы на вопросы, длинную генерацию и дополнение кода, включая Fill-in-the-Middle. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Это базовая модель без выравнивания безопасности; для прикладных сценариев её можно дообучать под специализированные задачи. Лицензия Apache 2.0.

Карточка модели RedHatAI/granite-4.1-8b на Hugging Face совпадает с карточкой ibm-granite/granite-4.1-8b, поэтому описание составлено по ней. Granite-4.1-8B — языковая модель с 8,4 млрд параметров, разработанная командой Granite компании IBM. Это плотный декодерный трансформер с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель дообучена на основе Granite-4.1-8B-Base с помощью supervised fine-tuning и обучения с подкреплением; доступна в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для следования инструкциям и создания диалоговых помощников, в том числе агентов с вызовом инструментов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Качество на многоязычных задачах может уступать английскому; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для конкретных сценариев рекомендуется проводить проверку безопасности и настройку.

Карточка модели muhamad-geosurge/invert-polarity-020ea1c8-1396-4ffe-8a30-ce8fe2279341 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели muhamad-geosurge/invert-polarity-13bbcea2-8c44-4df7-9f5f-16ca57bee025 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Mistral Large 2 (версия mistral-large-2407) — флагманская модель компании Mistral AI. Это модель с доступными весами, распространяемая на проприетарных условиях. Модель предназначена для генерации текста в диалогах, рассуждений, написания кода и формирования JSON. В карточке она описана как универсальная модель для этих задач и других сценариев работы с текстом. Конкретные сведения об архитектуре, размере, поддерживаемых языках и контекстном окне в предоставленных материалах отсутствуют. Условия использования определяются проприетарной лицензией; перед внедрением следует проверить её актуальные требования.

unsloth/Qwen2.5-32B-Instruct — это инструктивная плотная языковая модель на 32 млрд параметров семейства Qwen2.5, распространяемая Unsloth в формате safetensors для библиотеки Transformers. Она предназначена для диалога и генерации текста, включая следование инструкциям, программирование, математику и создание структурированных ответов, например JSON. Модель принимает текст и выдаёт текст; её архитектура — Qwen2ForCausalLM с RoPE, SwiGLU, RMSNorm и групповым запросным вниманием. Метаданные указывают контекст до 32 768 токенов, а README описывает возможность расширения до 131 072 токенов с помощью YaRN; такая настройка может снизить производительность на коротких запросах. README заявляет поддержку более 29 языков, включая русский, английский, китайский, французский, немецкий, испанский, японский и арабский. Модель основана на Qwen/Qwen2.5-32B-Instruct и помечена метаданными как дообучение. Лицензия — Apache-2.0.

unsloth/Qwen2.5-7B-Instruct — инструктивная языковая модель семейства Qwen2.5, опубликованная Unsloth как производная от Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров; карточка указывает архитектуру Qwen2 и поддержку Transformers, а README описывает 28 слоёв, RoPE, SwiGLU, RMSNorm и механизм группового внимания GQA. Метаданные указывают контекст 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Она подходит для ответов на вопросы, написания и анализа кода, математических задач, создания длинных текстов и выдачи структурированных ответов, включая JSON. Поддерживает английский, русский, китайский и ряд других языков; заявлена поддержка более 29 языков. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. README описывает возможность работы с более длинным контекстом через YaRN, но отмечает, что статическое масштабирование может ухудшить качество или производительность на коротких запросах. Модель выпущена под лицензией Apache-2.0.

Qwen2.5-7B-Instruct-GPTQ-Int4 — квантизированная 4-битная instruction-tuned языковая модель семейства Qwen2.5, разработанная командой Qwen. Модель предназначена для диалоговых приложений, генерации текста, следования инструкциям, работы со структурированными данными и JSON, а также задач программирования и математики. Она поддерживает более 29 языков, включая английский, китайский, русский, французский, немецкий, испанский, японский, корейский и арабский. Модель является causal language model на архитектуре Transformer с RoPE, SwiGLU, RMSNorm и смещениями в QKV внимания. Она содержит 7,61 млрд параметров, 28 слоёв и использует GQA с 28 головами Q и 4 головами KV. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако исходная конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких текстах. Квантизация GPTQ Int4 уменьшает требования к памяти и делает модель более подходящей для локального или эффективного GPU-развёртывания, но может влиять на качество по сравнению с исходной версией в формате bfloat16. Для использования рекомендуется актуальная версия библиотеки Transformers; для длинного контекста рекомендуется vLLM. Модель распространяется по лицензии Apache-2.0.

Step 3.7 Flash — мультимодальная vision-language модель, разработанная StepFun. Она предназначена для высокочастотных производственных нагрузок и агентных сценариев, объединяющих восприятие изображений, поиск, проверку информации, рассуждения и взаимодействие с инструментами. Модель подходит для анализа больших финансовых отчётов, многошагового поиска с верификацией по нескольким источникам, параллельной работы coding-агентов, обработки пользовательских интерфейсов, диаграмм и других визуальных материалов. Модель построена на разреженной архитектуре Mixture-of-Experts (MoE) и содержит около 198 млрд параметров: примерно 196 млрд приходятся на языковую часть и 1,8 млрд — на vision encoder. На каждый токен активируется около 11 млрд параметров. Поддерживается контекст длиной до 256 тысяч токенов, изображения и текст, а также три уровня рассуждения — low, medium и high, позволяющие выбирать баланс между скоростью, стоимостью и глубиной анализа. В README указан английский язык; заявленная мультимодальность обеспечивает понимание изображений, визуальное заземление, анализ интерфейсов и преобразование визуальных данных в структурированный код. Сильные стороны модели — высокая пропускная способность до 400 токенов в секунду, работа с длинным контекстом, устойчивое выполнение многошаговых агентных процессов, использование внешних API, визуальная проверка данных и задачи программной инженерии. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к инфраструктуре при локальном развёртывании; заявленные результаты также зависят от конкретных бенчмарков и сценариев. Модель распространяется по лицензии Apache-2.0 и поддерживает Transformers, vLLM, SGLang и llama.cpp; доступна через StepFun Open Platform, OpenRouter и NVIDIA NIM, а также может развёртываться в облачных, дата-центровых и локальных средах.

CohereLabs/command-a-plus-05-2026-w4a4 — квантизированная версия открытой модели Command A+, разработанная Cohere и Cohere Labs. Модель предназначена для агентных и многошаговых сценариев, задач, требующих рассуждений, корпоративных приложений и многоязычного диалога. Она принимает текстовые и графические входы, а генерирует текст, поэтому может использоваться для общения, анализа изображений, обработки документов и работы с инструментами. Модель содержит 25 млрд активных параметров и 218 млрд параметров всего; в карточке она описана как MoE-модель с поддержкой vision-входов. Контекстное окно составляет до 128K входных токенов. Заявлена поддержка языков, включая английский, русский, китайский, японский, арабский, немецкий, французский, испанский и ряд других. Вариант W4A4 использует 4-битное квантование весов и активаций экспертов MoE, при этом внимание и KV-кэш сохраняются в полной точности; применяется Quantization-Aware Distillation для снижения потерь качества. Главное преимущество варианта W4A4 — меньшие требования к памяти, более высокая скорость и меньшая задержка при сопоставимом с другими вариантами качестве. Для запуска указаны ориентиры от одной GPU NVIDIA B200 или двух H100, а для vLLM требуется версия не ниже 0.25.0 и дополнительная библиотека cohere_melody. Ограничения включают высокие аппаратные требования и необходимость совместимого программного стека. Модель распространяется по лицензии Apache 2.0.

Карточка модели noraziroh97/diffusiongemma-26B-A4B-it на Hugging Face совпадает с карточкой google/diffusiongemma-26B-A4B-it, поэтому описание составлено по ней. DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

coder3101/gemma-4-31B-it-heretic — дообученная версия Gemma 4 31B IT, основанная на google/gemma-4-31B-it. Модель создана сообществом coder3101; по меткам heretic, uncensored, decensored и abliterated она позиционируется как версия с ослабленными ограничениями на ответы. Архитектура — плотная мультимодальная Gemma4ForConditionalGeneration; репозиторий содержит веса Safetensors и предназначен для работы через Transformers. Модель принимает текст и изображения и генерирует текст. Подходит для диалогов, ответов на вопросы по изображениям и документам, распознавания текста на изображениях, анализа диаграмм, написания и исправления кода, суммаризации и задач с длинным контекстом. В README семейства заявлена поддержка более 35 языков и контекст до 256K токенов для версии 31B; аудиообработка описана только для меньших вариантов Gemma 4, поэтому к этой модели её не относим. Гибридное чередование локального и глобального внимания рассчитано на эффективную обработку длинных последовательностей. Модель может ошибаться в фактах, упускать языковые нюансы и отражать смещения обучающих данных; ослабленные ограничения могут повышать риск нежелательных ответов. Лицензия — Apache-2.0.

Это мультимодальная инструктивная модель Gemma 4 E2B IT с весами, полученными из конвейера обучения с учётом квантования (QAT). Её разработала Google DeepMind; репозиторий опубликован Unsloth. Вариант Q4_0 содержит веса половинной точности, извлечённые из QAT-конвейера, и предназначен для последующей компиляции и исследовательской работы; это не готовая квантованная сборка GGUF. Модель принимает текст и изображения и выдаёт текст. Она подходит для диалога, рассуждений, программирования, анализа изображений и документов, включая OCR, а также для вызова инструментов. Семейство Gemma 4 поддерживает длинный контекст: для E2B заявлено до 128K токенов, а семейство обучалось на более чем 140 языках. В README аудиовозможности указаны для E2B, однако входная модальность видео для данного репозитория отдельно не подтверждена. QAT нацелен на сохранение качества, близкого к bfloat16, при снижении требований к памяти в соответствующих квантованных вариантах. Этот репозиторий предоставляет извлечённые полутонные веса для пользовательской компиляции, поэтому сам по себе не гарантирует компактный запуск без дополнительной обработки. Лицензия — Apache 2.0.

Granite-3.2-2B-Instruct — инструкционная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это плотная авторегрессионная модель на 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.1-2b-instruct для задач рассуждения и выполнения инструкций; режим рассуждения можно включать по необходимости. Модель работает с текстом, поддерживает диалог и интерфейс вызова инструментов, имеет контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache 2.0. Модель предназначена для общих инструкционных задач и интеграции в ассистентов: ответов на вопросы, суммаризации длинных документов и встреч, извлечения и классификации текста, RAG, задач с кодом и вызова функций. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Среди сильных сторон — длинный контекст, управляемое рассуждение и многоязычный диалог. К ограничениям относятся унаследованные от Granite-3.1-2B-Instruct ограничения и этические соображения; README не приводит их подробнее.

Granite-4.1-8B-Base — базовая языковая модель IBM Granite Team, обученная с нуля. Это плотный декодерный трансформер на 8,4 млрд параметров для генерации текста и других задач преобразования текста; поддерживает дополнение кода по схеме Fill-in-the-Middle с использованием специальных префиксных и суффиксных токенов. В архитектуре используются GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги. README сообщает о контекстном окне до 512 тыс. токенов после расширения на заключительном этапе обучения, тогда как метаданные указывают нативный контекст в 131 072 токена. Модель подходит для суммаризации, классификации и извлечения информации, ответов на вопросы, автодополнения кода и генерации с длинным контекстом. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Модель не прошла выравнивание по безопасности и может выдавать проблемный контент, ошибочную информацию или воспроизводить фрагменты обучающих данных. Для приложений с повышенными требованиями к безопасности разработчик рекомендует использовать её вместе с Granite Guardian.

Карточка модели Gaurav1872/Qwen2.5-14B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-14B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-14B-Instruct — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель с архитектурой Qwen2ForCausalLM, 14,7 млрд параметров, RoPE, SwiGLU, RMSNorm и групповой обработкой запросов внимания. Репозиторий содержит веса в формате Safetensors и предназначен для генерации текста в диалоговом формате. Модель подходит для чат-ботов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. В README заявлена поддержка более 29 языков, в том числе русского и английского. Метаданные указывают контекст в 32 768 токенов; README сообщает о возможности расширения контекста до 131 072 токенов с YaRN и генерации до 8 192 токенов. Модель также заявлена как улучшенная для программирования и математики, но результаты зависят от запроса и не гарантируют точности. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; её статический коэффициент масштабирования в vLLM может снижать качество на коротких входах. Лицензия Apache-2.0 допускает использование на её условиях.

RedHatAI/Qwen2.5-14B-Instruct-FP8-dynamic — производная FP8 dynamic-квантизованная версия Qwen2.5-14B-Instruct, опубликованная Red Hat AI. Исходная модель разработана командой Qwen и представляет собой инструкционно дообученную авторегрессионную языковую модель для генерации текста и диалогового взаимодействия. Модель предназначена для чат-ботов, следования инструкциям, генерации длинных и структурированных ответов, включая JSON, а также для задач программирования, математики, анализа таблиц и других текстовых сценариев. Это текстовая, не мультимодальная модель с архитектурой Qwen2ForCausalLM; в исходной версии около 14,7 млрд параметров. Заявлена поддержка контекста до 128K токенов и генерации до 8K токенов. Модель мультиязычная; среди явно указанных языков есть английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество варианта RedHatAI — FP8 dynamic-квантизация, рассчитанная на уменьшение требований к памяти и ускорение инференса при сохранении назначения исходной instruct-модели. Ограничения включают типичные для языковых моделей риск ошибок, галлюцинаций и зависимости качества от формулировки запроса; конкретные результаты тестирования именно этой квантизованной версии в найденном репозитории не приведены. Для исходной Qwen2.5-14B-Instruct указана лицензия Apache 2.0; отдельная карточка модели RedHatAI лицензионные условия явно не описывает.

unsloth/Qwen2.5-7B-Instruct-unsloth-bnb-4bit — это 4-битная динамически квантованная версия инструкционно настроенной языковой модели Qwen2.5-7B-Instruct, подготовленная Unsloth на базе модели Qwen/Qwen2.5-7B-Instruct. Модель предназначена для диалогов, следования инструкциям, генерации текста, работы с кодом и математическими задачами, а также формирования структурированных ответов, включая JSON. Модель является каузальной текстовой LLM примерно с 7 млрд параметров и работает с текстовыми данными. Заявлена поддержка контекста до 128 тысяч токенов и генерации до 8 тысяч токенов. Qwen2.5 поддерживает более 29 языков, среди которых китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество этой версии — сниженное потребление памяти благодаря 4-битной квантизации; Unsloth заявляет, что динамический подход сохраняет точность лучше стандартной 4-битной квантизации. Ограничениями являются зависимость качества от последствий квантизации и отсутствие поддержки мультимодальных входов: в предоставленных данных модель описана как текстовая. Модель распространяется по лицензии Apache-2.0. README также содержит несогласованный фрагмент о базовой версии Qwen2.5-0.5B, поэтому сведения о конкретной архитектуре и точном числе слоёв для данной 7B-версии не указаны.

Qwen3.5-9B-f32-GGUF — мультимодальная причинная языковая модель с 9 млрд параметров, основанная на Qwen3.5-9B и разработанная командой Alibaba Qwen. Данная версия распространяется в формате GGUF и предназначена для локального и серверного инференса с использованием llama.cpp, vLLM или SGLang. Модель обрабатывает текст, изображения и видео и рассчитана на OCR, визуальные вопросы и ответы, анализ документов, программирование, математические задачи, многоязычное рассуждение и создание мультимодальных агентов. Архитектура включает интегрированный vision encoder, гибридную схему Gated DeltaNet и Gated Attention, 32 слоя, скрытую размерность 4096, словарь из 248 тысяч токенов для 201 языка и нативный контекст до 262 тысяч токенов с возможностью расширения свыше 1 млн с помощью YaRN. Для обработки визуальных данных используется DeepStack ViT, включая временную динамику видео. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, длинный контекст, поддержка большого числа языков и возможность запуска на одном RTX 4090: около 18 ГБ в BF16 или 5 ГБ в 4-битном представлении. Ограничения включают требования к значительным вычислительным и видеоресурсам для полноразмерных вариантов, а также зависимость мультимодального инференса от отдельного файла mmproj. В репозитории доступны варианты BF16, F16, F32 и Q8_0, а также соответствующие мультимодальные проекции. Лицензия — Apache 2.0.

Jamba2 Mini — компактная языковая модель, разработанная AI21 Labs для надёжных корпоративных сценариев. Она использует архитектуру Jamba, сочетающую слои SSM и Transformer с разреженной экспертной моделью (MoE), и содержит 7,2 млрд параметров по метаданным. Модель предназначена для генерации текста и диалогов, ответов на вопросы, следования инструкциям и работы с длинными документами; поддерживает контекст до 262 144 токенов. Модель обучалась на основе предобучения Jamba 1.5 с последующим дообучением на длинных документах, коде, математике и веб-текстах, а также этапами SFT, DPO и обучения с подкреплением. Разработчик сообщает о настройке на точное следование инструкциям и опору на предоставленный контекст. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование. Для запуска через vLLM в README рекомендуется версия 0.12.0 или выше.

Карточка модели dylanHGJGJ/diffusiongemma-26B-A4B-it на Hugging Face совпадает с карточкой google/diffusiongemma-26B-A4B-it, поэтому описание составлено по ней. DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.