I.6Перевод и языковая адаптация

Карточка модели RedHatAI/diffusiongemma-26B-A4B-it на Hugging Face совпадает с карточкой google/diffusiongemma-26B-A4B-it, поэтому описание составлено по ней. DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

unsloth/gemma-4-12b — мультимодальная версия Gemma 4 12B, подготовленная Unsloth на базе google/gemma-4-12B. Это плотная модель семейства Gemma 4 с архитектурой Gemma4UnifiedForConditionalGeneration, предназначенная для обработки изображений и текста и генерации текстовых ответов. В карточке указаны гибридное внимание с локальными скользящими окнами и глобальными слоями, поддержка контекста до 256K токенов для Gemma 4 12B, а также возможности понимания изображений и видео, распознавания текста на изображениях, работы с кодом и вызова инструментов. Модель подходит для диалогов, анализа документов и графиков, распознавания объектов, чтения экранов интерфейсов, генерации и исправления кода, а также для агентных сценариев со структурированным вызовом инструментов. Семейство Gemma 4 поддерживает более 35 языков «из коробки»; README также указывает аудиовозможности для 12B, включая распознавание речи и перевод речи в текст. Формат файлов этого репозитория — safetensors. Лицензия — Apache-2.0. Качество ответов зависит от формулировки запроса и охвата обучающих данных; модель может ошибаться в фактах, испытывать трудности с тонкими языковыми нюансами и сложными открытыми задачами, а также воспроизводить смещения данных. README описывает возможности семейства Gemma 4 в целом, поэтому отдельные заявления о сценариях следует сверять с поведением именно этого чекпойнта.

Gemma-4-26B-A4B-text-base — текстовая версия модели Gemma 4, опубликованная wyattearp на основе Google Gemma-4-26B-A4B-it. Веса языкового трансформера сохранены без изменений, а компоненты обработки изображений и аудио удалены. Это модель типа MoE с 26 млрд параметров и примерно 4 млрд активных параметров на токен; она выдаёт текст и предназначена для генерации, диалогов, рассуждений, программирования и вызова инструментов. Длина контекста — 262 144 токена. Репозиторий содержит веса BF16 в формате safetensors для использования с Transformers и vLLM. Удаление мультимодальных компонентов упрощает языковый инференс и снижает требования к памяти, но модель не обрабатывает изображения или аудио. В README описана проблема совместимости парсера вызова инструментов в vLLM и связанное с ней исправление. Лицензия — Gemma.

QuantTrio/gemma-4-31B-it-AWQ — это квантизированная версия инструкционно дообученной мультимодальной модели google/gemma-4-31B-it, разработанной Google DeepMind. Репозиторий QuantTrio содержит AWQ-квантизацию, выполненную методом data-free quantization без калибровочного датасета. Модель принимает текст и изображения и генерирует текст, поэтому предназначена для диалогов, анализа изображений, генерации текста, программирования, рассуждений и агентских сценариев с вызовом инструментов. Базовая модель относится к плотной архитектуре Gemma 4 и содержит около 30,7 млрд параметров, 60 слоёв и словарь размером 262 тысячи токенов. Она использует гибридный механизм внимания с чередованием локального sliding-window attention и глобального внимания; размер локального окна составляет 1024 токена. Заявленное контекстное окно — до 256 тысяч токенов. Для мультимодальной обработки используется визуальный энкодер примерно на 550 млн параметров; аудио для версии 31B не заявлено. Семейство Gemma 4 поддерживает более 140 языков, однако отдельные характеристики языкового покрытия именно этой сборки в README не уточняются. К сильным сторонам относятся большой контекст, поддержка изображений, возможности рассуждения, кодирования, native function calling и оптимизация для эффективного серверного развёртывания через vLLM. AWQ-квантизация уменьшает размер модели: указанный размер файлов составляет около 20 GiB, что может снизить требования к видеопамяти по сравнению с полной точностью. Ограничениями являются возможная потеря качества из-за квантизации, необходимость совместимых версий vLLM и Transformers, CUDA 12.8 и конфигурации с tensor parallelism; фактические требования зависят от выбранных параметров запуска и оборудования. Модель распространяется по лицензии Apache 2.0 с дополнительными условиями лицензии Gemma 4, ссылка на которую указана в README.

GLM-4.5-FP8 — открытая большая языковая модель семейства GLM-4.5, разработанная организацией Z.ai (Zhipu AI). Это вариант GLM-4.5 с точностью FP8, предназначенный для генерации текста, рассуждений, программирования и создания интеллектуальных агентов, включая сценарии с использованием инструментов. Модель построена по архитектуре Mixture-of-Experts (MoE) и содержит 355 млрд параметров, из которых активно используются 32 млрд. Она поддерживает гибридное рассуждение в двух режимах: thinking mode для сложных задач и работы с инструментами и non-thinking mode для быстрых прямых ответов. В карточке указаны языки English и Chinese; модель интегрируется с Transformers, vLLM и SGLang. Размер контекста в предоставленных данных не указан. Сильные стороны модели — сочетание возможностей рассуждения, программирования и агентных задач, а также сниженная точность FP8, потенциально позволяющая эффективнее использовать вычислительные ресурсы по сравнению с полноточными вариантами. В README приведены высокие результаты на TAU-Bench, AIME 24 и SWE-bench Verified, однако конкретные требования к аппаратному обеспечению и ограничения производительности для данной конфигурации в предоставленном фрагменте не раскрыты. Модель распространяется по лицензии MIT и допускает коммерческое использование и вторичную разработку.

cyankiwi/GLM-4.7-Flash-AWQ-4bit — 4-битная AWQ-квантизованная версия GLM-4.7-Flash, разработанной командой GLM и распространяемой организацией zai-org. Это языковая модель для генерации текста, рассуждений, программирования и агентских сценариев, включая взаимодействие с инструментами и решение задач, требующих многошагового планирования. Модель построена по архитектуре MoE с конфигурацией 30B-A3B: общий размер составляет около 30 млрд параметров, при этом на каждом шаге активируется примерно 3 млрд. Указаны поддерживаемые языки English и Chinese, библиотека Transformers и текстовая модальность. В README приведены настройки генерации с максимальной длиной нового вывода до 131 072 токенов, однако размер контекстного окна явно не указан. Для локального запуска заявлена совместимость с Transformers, vLLM и SGLang; для этой версии также требуется учитывать поддержку AWQ-квантизации используемым фреймворком. Сильными сторонами являются сочетание производительности и эффективности при локальном развертывании, а также результаты на задачах рассуждений, программирования, веб-поиска и взаимодействия с инструментами. Ограничениями выступают возможные потери качества из-за 4-битной квантизации и необходимость актуальных версий программного обеспечения для поддержки модели. В README указана лицензия MIT.

Карточка модели RedHatAI/granite-3.2-2b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.2-2b-instruct, поэтому описание составлено по ней. Granite-3.2-2B-Instruct — инструкционная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это плотная авторегрессионная модель на 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.1-2b-instruct для задач рассуждения и выполнения инструкций; режим рассуждения можно включать по необходимости. Модель работает с текстом, поддерживает диалог и интерфейс вызова инструментов, имеет контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache 2.0. Модель предназначена для общих инструкционных задач и интеграции в ассистентов: ответов на вопросы, суммаризации длинных документов и встреч, извлечения и классификации текста, RAG, задач с кодом и вызова функций. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Среди сильных сторон — длинный контекст, управляемое рассуждение и многоязычный диалог. К ограничениям относятся унаследованные от Granite-3.1-2B-Instruct ограничения и этические соображения; README не приводит их подробнее.

Granite-3.3-2B-Instruct — языковая модель IBM Granite Team с 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.3-2b-base для следования инструкциям и решения задач, требующих рассуждений. Это плотная авторегрессионная модель для генерации текста с контекстом до 131 072 токенов; поддерживает чат и интерфейс вызова инструментов. Модель предназначена для ассистентов и бизнес-приложений. Она подходит для ответов на вопросы, суммаризации длинных документов и встреч, классификации и извлечения текста, RAG, задач по математике и программированию, а также многоязычного диалога. README указывает поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. По данным разработчика, модель улучшена в рассуждениях, выполнении инструкций, математике и программировании; для структурирования ответа доступны специальные маркеры рассуждений и итогового ответа. Это генеративная языковая модель, поэтому результаты могут содержать ошибки; ограничения базовой Granite-3.3-2B-Base также применимы. Лицензия — Apache 2.0.

Nemotron-3-Super-120B-A12B-BF16 — языковая модель NVIDIA для диалога, рассуждений и создания агентных систем. Она предназначена для разработчиков чат-ботов, RAG-систем и совместно работающих ИИ-агентов, а также для автоматизации больших потоков задач, например обработки ИТ-заявок. Модель поддерживает сложное следование инструкциям и работу с длинным контекстом. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и внимания в гибриде LatentMoE; также используются Multi-Token Prediction для ускорения генерации и 12 млрд активных параметров при 120 млрд общих. Карточка указывает контекст до 1 млн токенов, тогда как метаданные Hugging Face — 262 144 токена. Модель принимает текст и генерирует текст; заявлены английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель ориентирована на высокую пропускную способность, агентные сценарии, код, рассуждения и мультиязычный диалог. Карточка заявляет коммерческую готовность, но метаданные указывают лицензию «other», поэтому перед использованием следует проверить её условия. В опубликованном репозитории формат весов указан как safetensors; карточка описывает обучение с NVFP4, но это не означает, что репозиторий представляет квантизованную версию.

Карточка модели Gensyn/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. unsloth/Qwen2.5-7B-Instruct — инструктивная языковая модель семейства Qwen2.5, опубликованная Unsloth как производная от Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров; карточка указывает архитектуру Qwen2 и поддержку Transformers, а README описывает 28 слоёв, RoPE, SwiGLU, RMSNorm и механизм группового внимания GQA. Метаданные указывают контекст 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Она подходит для ответов на вопросы, написания и анализа кода, математических задач, создания длинных текстов и выдачи структурированных ответов, включая JSON. Поддерживает английский, русский, китайский и ряд других языков; заявлена поддержка более 29 языков. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. README описывает возможность работы с более длинным контекстом через YaRN, но отмечает, что статическое масштабирование может ухудшить качество или производительность на коротких запросах. Модель выпущена под лицензией Apache-2.0.

unsloth/Seed-OSS-36B-Instruct-GGUF — GGUF-вариант инструкционной большой языковой модели Seed-OSS-36B-Instruct, разработанной командой ByteDance Seed. Модель предназначена для генерации текста, диалоговых приложений, задач рассуждения, работы с длинным контекстом, использования инструментов и агентских сценариев, включая решение технических вопросов и задач разработки. Серия оптимизирована преимущественно для международных многоязычных применений, однако точный перечень поддерживаемых языков в карточке не указан. Модель содержит 36 млрд параметров и использует архитектуру causal language model с RoPE, GQA-вниманием, RMSNorm и активацией SwiGLU. Она имеет 64 слоя, 80/8/8 QKV-голов, размер головы 128, скрытый размер 5120 и словарь на 155 тысяч токенов. Нативная длина контекста заявлена до 512 тысяч токенов. Пользователь может гибко управлять бюджетом рассуждения, регулируя длину процесса вывода и балансируя качество и эффективность. К сильным сторонам относятся развитые способности к рассуждению, агентским задачам, работе с инструментами и обработке длинного контекста при сохранении универсальных возможностей. Ограничения включают высокие требования к вычислительным ресурсам, связанные с размером модели и контекстом; конкретные требования для данного GGUF-файла и точные характеристики квантования в README не указаны. Модель распространяется по лицензии Apache-2.0.

unsloth/diffusiongemma-26B-A4B-it — мультимодальная модель диалогового взаимодействия на архитектуре DiffusionGemma, опубликованная Unsloth на основе google/diffusiongemma-26B-A4B-it. Она использует схему блочной авторегрессии: кодирует контекст в KV-кеш, затем параллельно уточняет блоки токенов диффузионным методом. В репозитории указаны веса safetensors и лицензия Apache-2.0. Модель предназначена для чата, генерации и дополнения текста и кода, пошаговых рассуждений, вызова инструментов, а также анализа изображений и видео. Для визуальных задач README перечисляет OCR, чтение документов и PDF, понимание графиков и интерфейсов, распознавание рукописного текста и описание видеокадров. Заявлены контекст до 256 тысяч токенов и поддержка более 35 языков; базовая модель описана как основанная на Gemma 4. README заявляет ускоренную генерацию за счёт параллельного денойзинга блоков токенов и адаптации числа шагов инференса к сложности задачи. Ограничения включают возможные фактические ошибки, предвзятость данных и трудности с неоднозначными или сложными запросами. Эти заявленные характеристики относятся к карточке модели; лицензия репозитория — Apache-2.0.

AtomicChat/gemma-4-31B-it-assistant-GGUF — квантизированная в формат GGUF версия модели google/gemma-4-31B-it-assistant, подготовленная Atomic Chat на основе оригинальных весов Google. Модель предназначена для локальной и полностью офлайн-генерации текста, работы в чат-сценариях, решения задач рассуждения, программирования, анализа документов и других задач, поддерживаемых базовой моделью. Для запуска доступны варианты Q4_K_S, Q4_K_M, Q5_K_M, Q8_0 и F16; рекомендуется Q4_K_M как компромисс между размером, скоростью и качеством. Модель содержит 30,7 млрд параметров и 60 слоёв. Это плотный decoder-only трансформер с гибридным вниманием: sliding-window с окном 1024 токена и глобальным вниманием; используется 32 attention heads и 16 KV heads. Заявленная длина контекста — до 256 тысяч токенов, словарь содержит 262 тысячи токенов. Базовая модель поддерживает текст и изображения, однако представленный репозиторий содержит только текстовые GGUF-кванты без vision projector. Семейство Gemma 4 ориентировано на развитое рассуждение и поддерживает настраиваемые режимы размышления. Сильными сторонами являются большой контекст, высокая заявленная производительность базовой модели в задачах общего тестирования, математики, программирования и мультимодального анализа, а также возможность эффективного локального запуска благодаря квантизации и калибровке importance matrix. Ограничения связаны с потерями качества по сравнению с полной точностью, зависимостью требований к памяти от выбранного варианта квантизации и отсутствием обработки изображений в файлах этого репозитория. Приведённые результаты бенчмарков относятся к базовой модели Google, а не к независимым измерениям этих квантизированных файлов. Для корректного применения чат-шаблона Gemma 4 при запуске в llama.cpp требуется параметр --jinja. Модель распространяется по лицензии Apache 2.0.

GLM-4-9B-Chat-1M — диалоговая языковая модель семейства GLM-4, разработанная Zhipu AI. Этот репозиторий содержит версию весов для Transformers; модель имеет плотную архитектуру GLM с примерно 8,9 млрд параметров и поддерживает контекст до 1 048 576 токенов. Для работы требуется Transformers версии 4.46.0 или новее. Модель предназначена для многошагового диалога и генерации текста, включая рассуждения по длинным документам. Карточка семейства GLM-4-9B-Chat описывает вызов инструментов, веб-поиск и выполнение кода; метаданные также отмечают интерфейс вызова инструментов. GLM-4 поддерживает 26 языков, а в метаданных этой модели указаны английский и китайский. В README сообщается о результатах на задачах семантики, математики, рассуждений, программирования и знаний, превосходящих Llama-3-8B в приведённых оценках; данных о независимой проверке этих сравнений нет. Указанная в метаданных лицензия — other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Модель является дообученной версией THUDM/glm-4-9b-chat-1m.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-mlx-oQ8e — мультимодальная версия модели GLM-5.3-Flash с открытыми от цензуры весами. Исходную архитектуру разработала Zhipu AI (ZAI), uncensored-веса предоставила dealignai, а смешанную MLX-квантизацию oQ8e подготовила Solstice-AI. Модель предназначена для генерации и анализа текста, программирования, математического и общего рассуждения, а также понимания изображений и видео. Указаны языки English и Chinese. Модель основана на разреженной MoE-архитектуре с 320 млрд общих параметров, 288 экспертами и примерно 18 млрд активных параметров на токен. Она поддерживает контекст до 1 048 576 токенов, мультимодальное понимание изображений и видео и запуск на Apple Silicon через MLX. Используется смешанная точность около 8,6 бит на вес: критичные для маршрутизации и вывода слои сохраняются в 8-битном формате, vision tower и мультимодальный aligner — в BF16, а отдельные таблицы — в BF16/FP32. В комплект входит DFlash2 для speculative decoding, заявленное ускорение — до 3 раз. Сильными сторонами являются большой контекст, сочетание текстовых и визуальных возможностей, высокая заявленная производительность в программировании, математике и видеоанализе, а также оптимизация для чипов Apple M2–M5. Ограничения включают значительный размер модели и зависимость от совместимого оборудования и MLX; заявленная uncensored-настройка может требовать самостоятельного контроля безопасности при использовании. Лицензия — MIT.

HivenetQuant/Qwen3.8-27B-NVFP4 — квантованная версия мультимодальной модели Qwen/Qwen3.8-27B, опубликованная HivenetQuant. Модель предназначена для работы с текстом и изображениями, включая визуальное понимание, генерацию текста и кода, рассуждения, tool calling и ускоренное авторегрессионное декодирование с помощью MTP speculative decoding. В основе используется модель размером 27B параметров. Квантование выполнено по схеме NVFP4 W4A4: веса и активации основного квантованного слоя представлены в FP4 с блочными масштабами FP8 и group size 16. Чувствительные attention- и recurrent-слои DeltaNet сохранены в FP8, а vision encoder, MTP head, lm_head, нормы и router layers — в BF16. Контекст до 262 144 токенов проверен в конфигурации с vLLM и FP8 KV cache. Модель ориентирована на GPU NVIDIA Blackwell с нативной поддержкой FP4, например RTX 5090. Сильными сторонами являются заметное ускорение по сравнению с FP16, сохранение мультимодальных возможностей и MTP, а также близкие к FP16 результаты на проверенных задачах. В опубликованном сравнении разница обычно составляла менее двух процентных пунктов, однако это оценка деградации на репрезентативных выборках, а не полное измерение абсолютных возможностей базовой модели. Ограничения включают зависимость от совместимого оборудования и настроек vLLM, а также возможное снижение качества из-за квантования, особенно на отдельных задачах. Модель распространяется по лицензии Apache-2.0.

MrFuzzihead/Qwen3.8-35B-A3B-Distill-APEX-GGUF — это набор GGUF-квантизаций модели Qwen3.8-35B-A3B-Distill, разработанной Empero и квантизированной MrFuzzihead методом APEX при участии команды LocalAI. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, включая сценарии генерации текста, рассуждений, программирования, следования инструкциям, вызова функций и агентного использования. В основе лежит разреженная Mixture-of-Experts-архитектура примерно на 35 млрд параметров, из которых для каждого токена активируются 8 из 256 маршрутизируемых экспертов, а также общий эксперт. Модель использует 40 слоёв с гибридной схемой Gated DeltaNet и Gated Attention; полный attention применяется только в 10 слоях, что снижает нагрузку на KV-кэш. Заявлен нативный контекст до 262 144 токенов. Базовая модель мультимодальная и сохраняет vision tower, однако дистилляция выполнялась только для текста, а визуальные возможности не были проверены. Поддерживаются отдельные vision-проектор и MTP-компоненты для мультимодальности и спекулятивного декодирования. Ключевая особенность — APEX-квантизация с разной точностью для типов тензоров и позиций слоёв, учитывающая разреженность MoE. Доступны варианты размером примерно от 10,9 до 25,3 ГБ, рассчитанные на видеокарты с 12–24 ГБ памяти и различные компромиссы между качеством, размером и скоростью. I-варианты используют importance matrix на разнообразных данных, включая диалоги, код, рассуждения, вызов инструментов и агентные трассы, и ориентированы на более высокую точность. Модель использует постоянно включённое дистиллированное пошаговое рассуждение с блоком <think>, поэтому адаптивного переключателя уровня рассуждений нет. Распространяется по лицензии Apache-2.0.

unsloth/Qwen3-Next-80B-A3B-Instruct-GGUF — GGUF-версия инструкционной причинной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для генерации текста, диалогов, программирования, следования инструкциям, решения задач, работы с агентскими сценариями и обработки очень длинного контекста. Она поддерживает только instruct-режим без блоков рассуждений <think></think> в ответах. Модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, а также разреженную смесь экспертов MoE. Всего модель содержит 80 млрд параметров, из которых около 3 млрд активируются для обработки каждого токена; 48 слоёв, 512 экспертов и 10 активируемых экспертов. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. В README языки и точные характеристики GGUF-квантизации не указаны. К сильным сторонам относятся высокая параметрическая эффективность, потенциально высокая скорость инференса, поддержка ультрадлинного контекста и хорошие результаты в задачах знаний, рассуждений, программирования, следования инструкциям и написания текстов. Ограничения включают отсутствие режима thinking и необходимость учитывать аппаратные требования, связанные с общим размером модели; конкретные требования к памяти зависят от варианта квантизации GGUF. Модель распространяется по лицензии Apache-2.0.

BTL-4 Compact — текстовая GGUF-версия модели BTL-4 от Bad Theory Labs, распространяемая для запуска в llama.cpp, Ollama и LM Studio. Это квантованная модель класса Mixture of Experts, предназначенная для генерации текста, программирования, работы с технической документацией, агентных сценариев и использования инструментов. Модель поставляется одним файлом размером 9,96 ГБ и не требует загрузки или восстановления базовой модели. Модель содержит 35,1 млрд параметров, из которых около 2,1 млрд активны для каждого токена. Архитектура включает 40 слоёв: 30 слоёв с линейным вниманием и 10 слоёв с полным вниманием; в каждом слое 256 экспертов, из которых для токена выбираются 8. Нативный контекст составляет 262 144 токена. Сборка является текстовой: vision tower исключён. Слой multi-token prediction отключён, но это не мешает обычной работе модели. Главное преимущество BTL-4 Compact — сочетание большого общего числа параметров с относительно низкими вычислительными затратами и возможностью запуска на пользовательском оборудовании. Квантование выполнено с эффективностью 2,30 бита на вес; заявленное сохранение измеренного поведения полной модели составляет 94,1% на тесте из 118 заданий. Ограничения включают потерю качества из-за сильного квантования, отсутствие обработки изображений и чувствительность агентных сценариев к настройкам шаблона чата и формата рассуждений. Для корректной работы требуется версия llama.cpp с поддержкой qwen3_5_moe и определённые параметры запуска. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Карточка модели dg845/diffusiongemma-test на Hugging Face совпадает с карточкой google/diffusiongemma-26B-A4B-it, поэтому описание составлено по ней. DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

Falcon3-10B-Instruct — инструкция-ориентированная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Она предназначена для диалогов и выполнения инструкций, включая задачи рассуждения, понимания языка, программирования и математики. Модель основана на причинном декодере Transformer с 40 блоками, архитектурой GQA, SwiGLU и RMSNorm; содержит 9,9 млрд параметров и работает с контекстом до 32 тыс. токенов. Она дообучена на разговорных, STEM-, программных, безопасностных данных и примерах вызова функций. Поддерживает английский, французский, испанский и португальский языки; репозиторий содержит веса Safetensors для Transformers. Модель подходит для создания диалоговых помощников, анализа и генерации текста, помощи с кодом и решения математических задач. Качество зависит от задачи, а результаты бенчмарков в карточке отражают оценки на момент выпуска. Лицензия — TII Falcon-LLM License 2.0.

Granite-4.2-30B — большая языковая модель IBM Granite Team для рассуждений, диалога и работы с инструментами. Это дообученная на основе ibm-granite/granite-4.1-30b-base плотная decoder-only Transformer-модель с архитектурой GraniteForCausalLM и 28,9 млрд параметров. Она поддерживает режимы полного, отключённого и облегчённого рассуждения, а также контекст до 131 072 токенов. Модель предназначена для ответов на сложные вопросы, математики, программирования, многошаговых задач и агентных сценариев с вызовом инструментов. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. README заявляет архитектурные компоненты GQA, RoPE, SwiGLU и RMSNorm; веса представлены в формате safetensors и используются через Transformers. Лицензия Apache 2.0 допускает коммерческое и академическое применение. Производительность на других языках может уступать английской; ответы могут содержать ошибки, предвзятость или небезопасные сведения, а промежуточные рассуждения не всегда отражают итоговый ответ.

YashasviMantha/Qwen3-4B-Instruct-2507-heretic — версия Qwen3-4B-Instruct-2507, созданная с помощью Heretic v1.4.0. Это плотная причинно-языковая модель примерно на 3,7 млрд параметров для генерации текста в диалоговом и инструктивном режиме. Она принимает текст и генерирует текст; поддерживает многоязычные запросы, работу с кодом и инструментами, а также контекст до 262 144 токенов. Модель использует только режим без рассуждений (non-thinking). Модель предназначена для ответов на вопросы, следования инструкциям, логических и математических задач, написания и разбора кода, а также работы с длинными документами и инструментами. Это декensored-версия исходной модели: в приведённом сравнении она отказала в 16 из 100 запросов, тогда как исходная — в 100 из 100; это может означать ослабленные ограничения на ответы. Доступны веса в формате safetensors, библиотека Transformers и лицензия Apache-2.0.

Lucebox/Qwen3.8-27B-IQ4_XS-fast-GGUF — квантизированная GGUF-версия базовой модели Qwen/Qwen3.8-27B, подготовленная для проекта lucebox. Файл создан на основе IQ4_XS с imatrix-калибровкой от bartowski и полностью переквантизирован в IQ4_XS для снижения объёма и ускорения декодирования. Разработчик исходной модели — Qwen; сборку и оптимизацию файла выполнил Lucebox. Модель предназначена для генерации текста, программирования, математических задач и мультимодальных сценариев с анализом изображений. При использовании отдельного проектора Qwen3.8-27B-mmproj-Q8_0.gguf поддерживает ввод изображений через OpenAI-совместимый формат сообщений, до четырёх изображений за запрос. В README указан максимальный контекст до 131 072 токенов при соответствующей конфигурации сервера. Размер файла составляет 13,54 GiB. Для ускорения текстовой генерации предусмотрена совместная работа с черновой моделью DFlash2 и speculative decoding. Главное преимущество версии — более высокая скорость по сравнению с Unsloth UD-IQ4_XS: на указанном AMD Radeon AI PRO R9700 измерено 37,4 токена/с при обычном декодировании и 174,5 токена/с в сквозном тесте с draft-моделью. Компромисс — немного более низкое качество: относительно Q8_0 зафиксированы рост perplexity на 1,9%, top-1 agreement 92%, результат HumanEval 144/164 и GSM8K 171/200. Показатели зависят от оборудования, настроек и сценария; для задач, чувствительных к качеству, README рекомендует UD-IQ4_XS. Модель распространяется по лицензии Apache-2.0.

Athena-1 3B — дообученная языковая модель для следования инструкциям, созданная на базе Qwen/Qwen2.5-3B-Instruct. Модель разработана для диалогов и генерации текста в компактных приложениях; она имеет архитектуру Qwen2 с 3,1 млрд параметров и поддерживает контекст до 32 768 токенов, а длина генерируемого ответа может достигать 8 000 токенов. Модель предназначена для создания чат-ботов, генерации и объяснения кода, решения математических задач, анализа документов и работы со структурированными данными, включая JSON и таблицы. README заявляет поддержку более 29 языков, в том числе английского, русского, китайского, французского, испанского, немецкого и японского; метаданные карточки отдельно подтверждают английский язык. Модель работает с текстом и может выдавать структурированные текстовые ответы. Это компактная модель для сценариев, где важны скорость и умеренные вычислительные ресурсы. Указанная лицензия — other; конкретные условия лицензии в предоставленных данных не раскрыты.

Calcium-Opus-14B-Elite2-R1 — плотная языковая модель семейства Qwen2, разработанная PrithivMLmods и дообученная на синтетических данных на основе DeepSeek R1 для усиления рассуждений. Модель содержит 14 млрд параметров, принимает текст и предназначена для генерации ответов, следования инструкциям и многошагового решения задач. Метаданные указывают контекст до 131 072 токенов; карточка заявляет поддержку до 128K токенов и генерацию ответов до 8K токенов. Модель рассчитана на логические и математические задачи, программирование, работу со структурированными данными, создание длинных текстов и многоязычные диалоги. Карточка заявляет поддержку более 29 языков, а метаданные явно отмечают английский. Лицензия — Apache 2.0. Для эффективного вывода нужны значительные вычислительные ресурсы; качество может различаться между языками, длинные ответы могут содержать несогласованности, а знания ограничены данными обучения и могут быть неактуальными.

DeepSeek-V2-Chat — диалоговая языковая модель компании DeepSeek AI на архитектуре Mixture-of-Experts (DeepSeekMoE) с механизмом внимания MLA. В README указаны 236 млрд параметров всего и 21 млрд активируемых на каждом токене; метаданные репозитория сообщают 18,1 млрд параметров. Модель дообучена методами supervised fine-tuning и reinforcement learning на базе предварительно обученной DeepSeek-V2. Модель предназначена для диалога, генерации текста, ответов на вопросы, рассуждений и задач по программированию. Она поддерживает контекст до 128 тысяч токенов по README; механизм MLA сокращает KV-кэш. В README приведены результаты оценки на английских и китайских тестах и описаны сильные результаты в открытой генерации и кодировании. Для локального запуска в BF16 README требует восемь GPU по 80 ГБ. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с лицензией репозитория.

Это квантованная версия NVFP4 модели Qwen3.6-35B-A3B, подготовленная WhiskyAKM в формате GGUF для llama.cpp и других совместимых движков. В основе лежит WhiskyAKM/Qwen3.6-35B-A3B-GGUF, происходящая от Qwen/Qwen3.6-35B-A3B. Исходная мультимодальная модель разработана командой Qwen и использует архитектуру Mixture-of-Experts с гибридным линейным и полным вниманием: всего 35 млрд параметров, из которых на токен активируются 3 млрд. Модель принимает текст, изображения и видео и генерирует текст. Она предназначена для диалога, рассуждений, агентного программирования, анализа изображений и видео, а также вызова инструментов; контекст достигает 262 144 токенов и может расширяться примерно до 1 млн с YaRN. Для мультимодального ввода требуется файл проектора mmproj.gguf. Модель поддерживает более 140 языков. NVFP4 снижает размер весов для инференса, но требует совместимой сборки llama.cpp с поддержкой этого формата. Лицензия репозитория — Apache-2.0.

Qwen3-VL-32B-Thinking-FP8 — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-32B-Thinking с мелкозернистым квантованием и размером блока 128; согласно описанию, её показатели почти идентичны исходной BF16-модели. Модель распространяется через Hugging Face и предназначена для обработки текста, изображений и видео. Модель ориентирована на визуальное понимание и рассуждение, OCR, анализ документов, STEM- и математические задачи, пространственное восприятие, понимание динамики видео, генерацию кода и взаимодействие с графическими интерфейсами и инструментами. Она поддерживает контекст длиной 256K токенов с возможностью расширения до 1M, а OCR заявлен для 32 языков, однако полный перечень языков не указан. К архитектурным особенностям относятся Interleaved-MRoPE для временных и пространственных представлений, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками для анализа видео. К сильным сторонам относятся развитое мультимодальное рассуждение, распознавание текста в сложных условиях, понимание пространственных отношений, длинных документов и продолжительных видеозаписей, а также возможности визуального агента. Ограничение состоит в том, что на момент публикации README библиотека Transformers не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

vmo247/vmo-gemma-4-26b-a4b-ft — мультимодальная модель, дообученная на базе Google Gemma 4 26B A4B. Она построена на архитектуре Gemma 4 для генерации текста по текстовым и графическим запросам и поддерживает диалоговый режим и анализ изображений. Вариант 26B A4B относится к MoE-моделям семейства; для Gemma 4 этого размера заявлено контекстное окно до 256K токенов и поддержка более 140 языков на уровне семейства. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, анализа графиков и интерфейсов, а также для диалогов, рассуждений, написания и исправления кода. В карточке этой производной модели не приведены отдельные результаты оценки качества; возможности видео и аудио, упомянутые для семейства Gemma 4, не подтверждены для данного 26B-варианта. Распространяется по лицензии Apache 2.0.