I.6Перевод и языковая адаптация

RedHatAI/gemma-4-E2B-it — инструктивный вариант мультимодальной модели Gemma 4, опубликованный Red Hat AI; семейство разработано Google DeepMind. Модель основана на google/gemma-4-E2B и предназначена для диалогов, генерации и редактирования текста, рассуждений, программирования и анализа мультимодальных данных. Она использует плотную архитектуру Gemma 4 и распространяется в формате Safetensors по лицензии Apache 2.0. Версия E2B принимает текст, изображения, видео и аудио и генерирует текстовые ответы. Для небольших моделей семейства заявлено контекстное окно до 128 тысяч токенов; поддерживаются многие языки. Возможности включают понимание изображений и документов, распознавание речи, перевод речи в текст, вызов инструментов и генерацию кода. Гибридное внимание и компактный размер семейства рассчитаны в том числе на локальное выполнение на устройствах с ограниченными ресурсами. Модель может ошибаться в ответах, распознавании и интерпретации мультимодальных входов; качество следует проверять для конкретного языка и сценария. README описывает возможности семейства Gemma 4 в целом, поэтому отдельные детали, не подтверждённые для E2B, не следует считать гарантированными.

ISTA-DASLab/Qwen3.8-27B-3Bit-GSQ — это квантованная версия Qwen/Qwen3.8-27B, опубликованная ISTA-DASLab и созданная с применением метода GSQ (Gumbel-Softmax Quantization). Модель предназначена для рассуждений, программирования, научных и общих текстовых задач, многоязычного понимания, обработки длинного контекста и агентских сценариев. В контрольную выборку для квантования также входили математические, кодовые, научные, мультиязычные и длинноконтекстные данные. Веса transformer-корпуса квантованы до 3 бит с размером группы 128. Слой эмбеддингов и LM head квантованы отдельно до 4 бит методом RTN с размером группы 64 для сохранения качества вывода и эмбеддингов. Контрольная точность на AIME 2025 составила 100%, а на GPQA Diamond — 91,41% в одном прогоне; авторы предупреждают о значительной вариативности таких результатов. Чекпойнт поддерживает vision-компоненты, однако они не калибровались на мультимодальных данных, поэтому качество работы с изображениями может быть ограничено. Размер составляет около 11,83 ГБ с vision-компонентами и 10,90 ГБ в text-only режиме. Для сервинга через vLLM требуется версия 0.27.1 и специальный патч для поддержки квантованных embedding-весов. Спекулятивное декодирование не поддерживается: компоненты MTP удалены из опубликованного чекпойнта. Лицензия — Apache-2.0.

cyankiwi/Qwen3.8-27B-AWQ-BF16-INT4 — квантованная версия Qwen3.8-27B, разработанного командой Qwen. Модель представляет собой плотную причинную языковую модель с vision-энкодером, предназначенную для работы с текстом, изображениями и видео. Она поддерживает интеграцию через Hugging Face Transformers, vLLM, SGLang и другие совместимые инструменты. Модель рассчитана на программирование, профессиональные и исследовательские задачи, обработку документов и STEM-диаграмм, а также долгие агентские сценарии с планированием и взаимодействием со средой. Доступно управление режимом рассуждений: его можно отключать и настраивать глубину через reasoning_effort, а контекст рассуждений из предыдущих сообщений — сохранять с помощью preserve_thinking. Языковая часть содержит 27 млрд параметров, 64 слоя и имеет архитектуру с чередованием Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена, с возможным расширением до 1 000 000 токенов. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер файлов модели — около 28,85 ГБ. К сильным сторонам относятся мультимодальность, поддержка видео, гибкое управление рассуждениями и ориентация на сложные многошаговые задачи. Ограничения конкретной квантованной сборки и результаты бенчмарков в предоставленных данных подробно не указаны. Модель распространяется по лицензии Apache-2.0.

C4AI Command A в репозитории unsloth — производная версия модели Cohere Command A, разработанной Cohere и Cohere For AI. Это авторегрессионная плотная трансформерная языковая модель на 111,1 млрд параметров для диалога, генерации текста, корпоративных сценариев, работы с документами и агентных приложений. Модель поддерживает вызов инструментов через диалоговый шаблон и специально обучена выполнять заключительный этап RAG, включая ответы с цитатами по переданным фрагментам документов. Модель принимает и генерирует только текст. Её контекстное окно составляет 262 144 токена. Архитектура использует скользящее внимание с окном 4096 токенов в трёх слоях и глобальное внимание в четвёртом; обучение включало контролируемую настройку и обучение предпочтениям. Заявлена поддержка 23 языков, включая русский, английский, французский, китайский и арабский. Модель подходит для многоязычного чата, ответов с опорой на документы, суммаризации, извлечения информации и задач с использованием инструментов. Для запуска требуются значительные вычислительные ресурсы, несмотря на заявленную разработчиками возможность развёртывания на двух GPU. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; также требуется соблюдать политику допустимого использования C4AI.

Cogito v1 preview 32B — инструктивно дообученная языковая модель Deep Cogito для генерации текста и диалогов. Она построена на плотной архитектуре Qwen2 и содержит 32 млрд параметров; базовая модель — Qwen/Qwen2.5-32B. Модель принимает и выдаёт текст, поддерживает контекст до 131 072 токенов и обучена более чем на 30 языках. Модель может отвечать напрямую или включать режим расширенного рассуждения. Она предназначена для следования инструкциям, программирования, задач STEM, общего помощника и вызова инструментов; заявлена поддержка одиночных и параллельных вызовов. Разработчик сообщает о результатах выше сопоставимых по размеру моделей на отраслевых тестах, однако подробности оценок вынесены в отдельную публикацию. Модель распространяется под лицензией Apache 2.0, допускающей коммерческое использование. Это предварительная версия; качество ответов и рассуждений может зависеть от задачи, языка и выбранного режима.

DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

cyankiwi/gemma-4-26B-A4B-it-AWQ-4bit — это 4-битно квантованная версия Gemma 4 26B A4B instruction-tuned, подготовленная cyankiwi на базе модели Google DeepMind. Квантование выполнено в формате AWQ, а калибровочный набор ориентирован на STEM-задачи и агентские сценарии. Размер модели составляет 17,19 ГБ. Модель предназначена для генерации текста, программирования, рассуждений, агентских рабочих процессов и мультимодального понимания изображений и текста. Архитектура базовой модели — Mixture-of-Experts; для варианта 26B A4B заявлено 26 млрд общих параметров и около 4 млрд активных параметров. Для средних моделей Gemma 4 заявлено контекстное окно до 256K токенов. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Ключевые преимущества — уменьшенное потребление памяти благодаря AWQ-квантованию, поддержка длинного контекста, мультимодальный ввод и возможности Gemma 4 в области рассуждений, кодирования и вызова функций. Ограничением является возможная потеря качества по сравнению с полной точностью, характерная для 4-битных квантованных моделей; конкретные требования к видеопамяти и результаты бенчмарков в README не указаны. Лицензия — Apache 2.0.

Nemotron-H-4B-Instruct-128K — языковая модель NVIDIA для диалогов, следования инструкциям и вызова инструментов. Она дообучена на базе nvidia/Nemotron-H-4B-Base-8K и сочетает архитектуру Nemotron-Hybrid с преимущественно слоями Mamba-2 и MLP и четырьмя слоями Attention. Модель содержит 4 млрд параметров и поддерживает контекст до 128 тысяч токенов. Модель предназначена для одно- и многоходового общения, генерации кода и ответов на математические и научные запросы. Она поддерживает английский, немецкий, испанский, французский, итальянский, корейский, португальский, русский, японский и китайский языки. Для запуска NVIDIA указывает NeMo 24.12, Linux и ускорители H100 80 ГБ или A100; модель рассчитана на системы с GPU NVIDIA. Модель прошла несколько этапов дообучения для математики, программирования, естественных наук, чата, инструкций и вызова инструментов, а также предпочтительную настройку. Данные предварительного обучения актуальны по сентябрь 2024 года. NVIDIA позиционирует модель для исследований и разработок; лицензия указана как other, поэтому конкретные условия использования следует уточнить на странице модели.

Mungert/NVIDIA-Nemotron-Nano-12B-v2-GGUF — это GGUF-версия языковой модели NVIDIA-Nemotron-Nano-12B-v2, разработанной NVIDIA Corporation и преобразованной с использованием llama.cpp. Модель дообучена на базе NVIDIA-Nemotron-Nano-12B-v2-Base и предназначена для генерации текста, диалогов, следования инструкциям и решения задач с рассуждением, включая программирование, математические задачи, чат-ботов, RAG-системы и AI-агентов. Модель имеет гибридную архитектуру Mamba2-Transformer (Nemotron-Hybrid), включающую преимущественно слои Mamba-2 и MLP, а также четыре attention-слоя. Она поддерживает текстовый ввод и вывод, контекст до 128K токенов и управление бюджетом рассуждений во время инференса. В карточке указана поддержка английского, немецкого, испанского, французского, итальянского и японского языков; в разделе о вводе дополнительно перечислены корейский, португальский, русский и китайский языки. Модель имеет размер 12B параметров. Сильными сторонами являются сочетание возможностей рассуждения и обычного диалога, большой контекст, возможность отключать или ограничивать рассуждения, а также оптимизация GGUF-представления с повышением точности отдельных важных слоёв при квантовании. Ограничения включают возможное снижение точности при отключении рассуждений и увеличение размера файлов из-за повышения точности отдельных слоёв; конкретные характеристики производительности зависят от выбранного варианта квантования. Использование разрешено для коммерческих целей в соответствии с NVIDIA Open Model License Agreement.

cyankiwi/NVIDIA-Nemotron-Nano-9B-v2-AWQ-4bit — четырёхбитная AWQ-квантизованная версия NVIDIA-Nemotron-Nano-9B-v2, разработанная NVIDIA Corporation. Это текстовая большая языковая модель общего назначения, предназначенная для диалогов, следования инструкциям, генерации текста и кода, рассуждений, создания чат-ботов, RAG-систем, AI-агентов и других приложений на основе ИИ. Модель использует гибридную архитектуру Nemotron-Hybrid, сочетающую преимущественно слои Mamba-2 и MLP с четырьмя слоями Attention. Она поддерживает управляемый бюджет рассуждений: разрешение промежуточного reasoning обычно повышает качество на сложных задачах, но увеличивает расход токенов; отключение reasoning сокращает вывод с некоторым снижением точности. Модель принимает и генерирует текст, поддерживает контекст до 128K токенов. В README заявлена поддержка английского, немецкого, испанского, французского, итальянского и японского языков; в разделе параметров ввода также перечислены китайский, корейский, португальский и русский. Модель обучалась с использованием Megatron-LM и NeMo-RL, а её данные имеют отсечку сентября 2024 года. К сильным сторонам относятся сочетание возможностей рассуждения и обычного диалогового режима, большой контекст, поддержка управления бюджетом «мышления» и оптимизация для NVIDIA GPU. Ограничения включают текстовую модальность, зависимость от GPU-ускоренной инфраструктуры и потенциальное снижение качества при отключении reasoning или слишком малом бюджете рассуждений. Для запуска указаны Linux, Transformers и совместимость с NVIDIA A10G, A100 и H100-80GB; также заявлен runtime NeMo 25.07.nemotron-nano-v2. Использование регулируется NVIDIA Open Model License Agreement; для trial-сервиса дополнительно указаны NVIDIA API Trial Terms of Service.

Это Flax-представление Qwen3-4B-Instruct-2507, опубликованное Benjamin Minixhofer на Hugging Face. Модель разработана командой Qwen как причинная языковая модель для диалогов и генерации текста по инструкциям; репозиторий содержит веса в формате Flax. Базовая версия имеет около 4 млрд параметров, 36 слоёв и контекст до 262 144 токенов. Модель предназначена для следования инструкциям, понимания текста, ответов на вопросы, логических и математических задач, программирования и вызова инструментов. Она работает в режиме без цепочки рассуждений в специальных блоках, поддерживает многоязычные сценарии и длинный контекст. Карточка базовой модели указывает лицензию Apache-2.0; метаданные репозитория Flax лицензию отдельно не приводят.

GigaChat3-10B-A1.8B-GGUF — квантованный формат модели семейства GigaChat, разработанный командой ai-sage. Это диалоговая текстовая модель для генерации ответов, работы с вопросами и ответами, программированием, математическими и академическими задачами. Модель поддерживает русский и английский языки; в обучающих данных также использовались ещё 10 языков, включая китайский, арабский, узбекский и казахский. Модель основана на архитектуре Mixture-of-Experts с 10 млрд общих и 1,8 млрд активных параметров. Она использует Multi-head Latent Attention для снижения требований к памяти за счёт сжатия KV-кэша и Multi-Token Prediction, ускоряющую генерацию при спекулятивной или параллельной генерации. Заявлен размер контекста до 32 768 токенов. Обучение проводилось на 20 трлн токенов, включая синтетические данные, код, математику, книги и академические источники. К сильным сторонам относятся высокая скорость инференса, сравнительно небольшое число активных параметров и результаты на русскоязычных и англоязычных тестах, включая MMLU, RUBQ, MATH и задачи программирования. Ограничения включают зависимость производительности от режима инференса и аппаратной конфигурации, а также возможное снижение качества при некорректной настройке llama.cpp для обработки tool calling. Модель распространяется по лицензии MIT и предназначена для запуска в формате GGUF, в частности через llama.cpp.

Qwen-14B-Chat 是阿里云开发的 Qwen（通义千问）系列对话模型，基于预训练的 Qwen-14B，并通过对齐训练构建为 AI 助手。它采用稠密 Transformer 架构，包含约 21.8B 个参数，支持最长 8192 个 token 的上下文，使用约 15 万 token 的词表，并结合 RoPE、SwiGLU 和 RMSNorm。模型面向中文和英文对话，可用于回答问题、理解指令、协助编程与数学推理，也经过工具使用能力评测。README 报告了中文理解、英文理解、代码、数学和长上下文任务的评测结果，并描述了 BF16、Int8 与 Int4 版本的基准表现。模型以 safetensors 格式发布，运行说明建议使用 PyTorch 与 Transformers，并推荐 FlashAttention 以提升推理效率、降低显存占用。提供的资料 не содержат сведений о лицензии, поэтому условия распространения здесь не уточняются. Как и другие генеративные языковые модели, ответы могут быть ошибочными; приведённые оценки зависят от бенчмарка и условий запуска.

ddalcu/Qwen3.8-Flash-Next-MLX-Serve-mixed-4-8bit — это квантованный пакет модели Qwen/Qwen3.8-Flash-Next, подготовленный для mlx-serve. Модель основана на экспериментальной архитектуре Qwen4 с разреженным вниманием, Mixture-of-Experts, GDN, n-gram embedding и встроенной MTP-головой. Пакет также содержит vision tower для обработки изображений и видео. Модель предназначена для генерации текста, включая работу с кодом, длинными контекстами, диалогами, изображениями и видео, а также для сценариев с инструментами через XML-формат вызовов Qwen3.8. Заявлен нативный контекст до 262 000 токенов. Разреженное внимание после первых 2048 токенов выбирает наиболее релевантные блоки, благодаря чему стоимость внимания не растёт линейно с длиной контекста. Механизм MTP может ускорять декодирование, особенно на коде, но включается отдельно и не используется для запросов с изображениями. Полный состав оценивается в 180B параметров: 125B основной части, 51B n-gram embedding и 4B MTP-головы. Эксперты MoE хранятся в 4-bit, большинство остальных компонентов — в 8-bit, а отдельные параметры и vision tower — в bf16. Пакет рассчитан на Mac с 128 GB памяти и занимает около 75 GB резидентной памяти без учёта KV-кэша. Ограничения mlx-serve включают обработку только одного запроса одновременно, отсутствие пакетированного декодирования и возможное замедление холодного prefill длинных запросов из-за чтения n-gram-таблицы с SSD. Модель использует лицензию qwen-community-1.0; дополнительные условия следует уточнять в файле LICENSE.

aoiandroid/gemma-4-E2B-it-GGUF — GGUF-версия инструкционно дообученной мультимодальной модели Gemma 4 E2B, разработанной Google DeepMind и подготовленной в формате GGUF с использованием материалов Unsloth. Модель предназначена для локального запуска и решения задач генерации и понимания текста, рассуждений, программирования, агентских сценариев и работы с изображениями; для E2B также заявлена поддержка аудио. Она генерирует текст и поддерживает системные инструкции, вызов функций и настраиваемые режимы рассуждения. Модель имеет около 2,3 млрд эффективных параметров, или 5,1 млрд с учётом эмбеддингов, 35 слоёв и контекстное окно до 128 тысяч токенов. Архитектура использует гибридное внимание: локальное скользящее окно на 512 токенов чередуется с глобальным вниманием. Поддерживаются текст, изображения с переменным соотношением сторон и разрешением, а также аудио; семейство Gemma 4 в целом заявляет поддержку более 140 языков. Небольшой размер и формат GGUF ориентированы на эффективное выполнение на ноутбуках и мобильных устройствах, однако квантование может снижать точность по сравнению с полноразмерной версией, а конкретные требования к памяти и производительность зависят от выбранного файла квантования и среды запуска. Модель распространяется по лицензии Apache 2.0; при использовании также следует учитывать условия лицензии Gemma 4, указанной разработчиком.

AMAImedia/Kimi-K3-MXFP-GGUF — размещённая AMAImedia квантованная GGUF-сборка модели Kimi K3, представленной Moonshot AI. В карточке указаны архитектура MoE на основе Kimi Delta Attention и Attention Residuals, 2,8 трлн параметров и контекст до 1 млн токенов. Модель принимает текст и изображения; семейство также поддерживает видео. Заявлена поддержка множества языков, включая русский, английский, китайский, вьетнамский и японский. Модель предназначена для генерации текста и мультимодальных диалогов, в том числе для программирования, рассуждений и агентной работы с длинным контекстом. Автор карточки сообщает о квантизации GGUF UD-IQ1_S; такой вариант ориентирован на локальный запуск, но требует значительных ресурсов, а производительность и качество могут зависеть от оборудования и квантизации. В карточке приведена лицензия Apache-2.0; README упоминает лицензию Kimi K3, поэтому условия для этой конкретной сборки следует сверять с файлами лицензии репозитория.

Карточка модели yindeshuai/Phi-3.5-mini-instruct на Hugging Face совпадает с карточкой microsoft/Phi-3.5-mini-instruct, поэтому описание составлено по ней. Phi-3.5-mini-instruct — компактная языковая модель Microsoft из семейства Phi-3 для генерации текста и диалогов. Это плотная авторегрессионная модель на 3,7 млрд параметров, доступная в формате Safetensors и предназначенная для запуска в условиях ограниченных вычислительных ресурсов и низкой задержки. В README также описаны варианты с контекстом до 128 тыс. токенов; метаданные этой карточки указывают нативный контекст 4096 токенов, поэтому заявленную длину контекста для данного репозитория следует сверять с используемой конфигурацией. Модель дообучена следованием инструкциям и рассчитана на многоязычные диалоги, рассуждения, задачи по математике и логике, а также помощь с кодом. Её можно использовать как основу генеративных функций, для ответов на вопросы по длинным документам и их суммаризации. В карточке отмечены улучшения качества многоязычных многоходовых диалогов и рассуждений относительно Phi-3 Mini Instruct. Лицензия — MIT. Как и другие языковые модели, она может ошибаться и не оценивалась для всех возможных сценариев; перед применением в ответственных областях требуется проверка качества и безопасности. README также отмечает возможную уязвимость к длительным многоходовым jailbreak-атакам, в том числе на разных языках.

NVIDIA Qwen3.5-397B-A17B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.5-397B-A17B, разработанной Alibaba и подготовленной с помощью NVIDIA Model Optimizer. README отдельно уточняет, что модель не принадлежит и не разработана NVIDIA, а создана на основе сторонней модели. Она предназначена для коммерческого и некоммерческого использования, в том числе для AI-агентов, чат-ботов, RAG-систем и других приложений на базе искусственного интеллекта. Модель использует архитектуру Transformers и сеть Qwen3.5-397B-A17B с 397 млрд параметров, из которых активируется 17 млрд. Она поддерживает текстовые, графические и видео входы, включая строки, изображения RGB и видео в форматах MP4/WebM, а также контекст длиной до 262 тысяч токенов. Выходом служит текст. Квантизация NVFP4 применяется к весам и активациям линейных операторов в MoE-блоках трансформера. Ключевое преимущество модели — готовая к инференсу низкоразрядная версия, ориентированная на NVIDIA GPU и совместимая с архитектурой Blackwell. Для запуска заявлена поддержка SGLang и vLLM в Linux; версия Model Optimizer — 0.42.0. Ограничения включают высокие требования к аппаратным ресурсам и зависимость от поддерживаемой GPU-инфраструктуры; сведения о полном составе обучающих и тестовых данных, языках и некоторых аспектах базовой модели в README не раскрыты. Лицензия — Apache License 2.0.

Qwen3-VL-235B-A22B-Instruct-FP8 — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-235B-A22B-Instruct с мелкозернистой квантизацией и размером блока 128; заявлено, что её показатели почти идентичны исходной версии BF16. Модель предназначена для понимания и генерации текста по текстовым, визуальным и видеоданным. Модель подходит для анализа изображений и видео, OCR, распознавания объектов, пространственного рассуждения, STEM- и математических задач, визуального программирования, генерации Draw.io/HTML/CSS/JS по визуальным материалам, а также для взаимодействия с графическими интерфейсами и инструментами. Она поддерживает контекст длиной 256 тысяч токенов с возможностью расширения до 1 миллиона, обработку длительных видео с временной индексацией и OCR на 32 языках. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся развитое визуальное восприятие, мультимодальное рассуждение, анализ пространственных отношений, работа с длинными документами и видео, а также устойчивый OCR для изображений с низким качеством, наклоном и редкими символами. README не содержит детальных числовых результатов тестов, полного перечня поддерживаемых языков или требований к аппаратному обеспечению. На момент описания Transformers не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache 2.0.

WizardLM-2 8x22B — большая языковая модель семейства Mixtral, разработанная командой WizardLM в Microsoft AI. Это диалоговая модель с архитектурой Mixture of Experts (MoE), дообученная на базе mistral-community/Mixtral-8x22B-v0.1 с использованием синтетической обучающей системы. README указывает 141 млрд параметров; метаданные Hugging Face — 22B параметров. Указанный в метаданных контекст составляет 65 536 токенов. Модель предназначена для сложных диалогов, многоязычных запросов, рассуждений, написания текстов и кода, математических задач и сценариев с агентами. Для общения в README приведён шаблон системного промпта. Заявления о качестве основаны на оценках авторов, включая MT-Bench и сравнения предпочтений людей; они не гарантируют аналогичных результатов во всех задачах. Модель принимает текст и генерирует текст. README описывает поддержку нескольких языков, но не перечисляет их по отдельности. Лицензия — Apache 2.0.

Карточка модели dylanHGJGJ/diffusiongemma-26B-A4B-it на Hugging Face совпадает с карточкой google/diffusiongemma-26B-A4B-it, поэтому описание составлено по ней. DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

Карточка модели noraziroh97/diffusiongemma-26B-A4B-it на Hugging Face совпадает с карточкой google/diffusiongemma-26B-A4B-it, поэтому описание составлено по ней. DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

alphakek/gemma-4-E4B-it-heretic-mythos-v1 — производная мультимодальная модель на базе Google Gemma 4 E4B Instruct, опубликованная пользователем alphakek. По карточке, Gemma 4 использует плотную архитектуру с чередованием локального скользящего и глобального внимания. Базовая модель рассчитана на контекст до 128K токенов; метаданные указывают формат safetensors и библиотеку Transformers. Модель предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и работы с инструментами. Вариант E4B поддерживает смешанные текстовые и визуальные запросы, видео через последовательности кадров, а также аудиовход для распознавания речи и перевода речи в текст. Gemma 4 описана как многоязычная модель с поддержкой более 35 языков, но какие именно языки и возможности сохранены в этой производной версии, карточка не уточняет. Название и теги указывают на попытку ослабить встроенные ограничения ответов (heretic, uncensored, decensored, abliterated), однако README не описывает конкретную процедуру изменений или их влияние на качество и безопасность. Как и базовая модель, она может допускать фактические ошибки, испытывать трудности с неоднозначными запросами и отражать смещения обучающих данных. Лицензия репозитория — Apache-2.0.

unsloth/Qwen2.5-3B-Instruct-unsloth-bnb-4bit — это 4-битная квантизированная версия Qwen2.5-3B-Instruct, разработанная Unsloth на основе модели Qwen/Qwen2.5-3B-Instruct. Модель предназначена для диалогов, следования инструкциям, генерации текста, работы с кодом и математическими задачами, а также создания структурированных ответов, включая JSON. Модель относится к классу причинных языковых моделей и использует текстовую модальность. В семействе Qwen2.5 заявлена поддержка более 29 языков, включая английский, китайский, русский и другие. Для серии также заявлена работа с контекстом до 128K токенов и генерация до 8K токенов, однако конкретные параметры этой 3B-квантизированной версии в README подробно не указаны. Ключевая особенность сборки — формат Unsloth Dynamic 4-bit, предназначенный для снижения требований к памяти при сохранении лучшей точности по сравнению со стандартной 4-битной квантизацией. Модель подходит для локального запуска, чат-ботов, автоматизации текстовых задач, программирования, анализа данных и дообучения. К преимуществам относятся компактный размер, сниженное потребление памяти и возможности instruction-tuned модели. Ограничения связаны с меньшим размером по сравнению с крупными моделями и возможными потерями точности из-за квантизации; конкретные показатели качества в README не приведены. Указанная лицензия — Apache-2.0.

RobinsonLabs/Qwen3.5-REAP-262B-A17B-abliterated-GGUF — набор GGUF-квантизаций текстовой MoE-модели, опубликованный RobinsonLabs на основе OpenMOSE/Qwen3.5-REAP-262B-A17B. Базовая модель создана после pruning на 34% экспертов из Qwen3.5-397B-A17B: она содержит 262 млрд параметров, около 17 млрд активных на токен, 333 эксперта и выбирает 10 экспертов для каждого токена. Модель предназначена для генерации текста, рассуждений, программирования, математики, работы с фактами и выполнения инструкций. Архитектура qwen3_5_moe включает 60 декодерных слоёв: 45 слоёв с линейным вниманием DeltaNet и 15 слоёв с полным вниманием, а также скрытый размер 4096 и размерность головы 256. Заявлен нативный контекст до 262 144 токенов. Это только текстовый путь, без vision mmproj и MTP/NextN. Доступны варианты Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS, Q3_K_M, IQ3_M, IQ3_XS, IQ2_M, IQ2_XS и IQ2_XXS размером примерно от 69 до 186 ГБ; все варианты используют importance matrix. Модель подвергнута abliteration — снижению жёстких отказов на взрослом и творческом контенте с сохранением заявленных возможностей. По данным README, на проверочном наборе вредоносных запросов срабатывание отказов составило 1 из 25, способности оценены как сохранённые на уровне 5/5, а детские защитные ограничения сохранились в 10 из 10 случаев. Это не модель для содействия реальному правонарушению; результаты и поведение следует проверять самостоятельно, особенно у наиболее компактных IQ2-вариантов, поскольку они сильнее теряют точность. Лицензия — Apache-2.0.

vrfai/Qwen3.6-27B-FP8 — мультимодальная модель для работы с текстом и изображениями, созданная на основе Qwen/Qwen3.6-27B. Исходную модель разработала команда Qwen (Alibaba Group), а FP8-квантизацию выполнил vrfai с использованием llm-compressor от vLLM Project. Модель предназначена для диалогов, генерации и анализа текста, программирования, а также задач, требующих обработки визуальной информации. Поддерживаются режимы с рассуждением и без него; README не содержит полного перечня языков и точных характеристик исходной модели, включая размер контекста. Используется статическая квантизация W8A8 FP8: веса и активации основных компонентов представлены в FP8 с симметричной по-тензорной схемой, при этом чувствительные компоненты, включая vision encoder, DeltaNet/linear-attention, merger и lm_head, сохранены в BF16. Формат compressed-tensors обеспечивает поддержку в vLLM. Такой подход снижает требования к памяти при сохранении качества лучше, чем более агрессивная NVFP4-квантизация; заявленный размер модели составляет около 34 ГБ. Для работы требуется GPU NVIDIA Ampere, Hopper или Blackwell с поддержкой SM 89+, рекомендовано использование vLLM или Transformers. Модель распространяется по лицензии Apache-2.0. Ограничениями являются необходимость совместимого современного NVIDIA GPU, использование trust_remote_code в приведённых примерах и отсутствие в предоставленном README подробных результатов бенчмарков, точного контекстного окна и полного описания языковой поддержки.

RadixArk/Qwen3.8-27B-NVFP4 — квантизированная производная модели Qwen3.8-27B, разработанной Qwen. Квантизация выполнена RadixArk с использованием NVIDIA Model Optimizer по смешанной схеме NVFP4 W4A4; RadixArk не обучала и не дообучала исходную модель. Модель предназначена для развертывания в системах AI-агентов, чат-ботах, RAG-системах и других приложениях искусственного интеллекта. Это плотная мультимодальная Transformer-модель с 27 млрд параметров. Она принимает текст, изображения и видео, а генерирует текст; заявленная нативная длина контекста — до 262 144 токенов. Для MLP-слоёв и lm_head используется динамическая NVFP4 W4A4-квантизация с размером группы 16, веса внимания представлены в FP8, а тензоры MTP и vision сохраняют исходную точность BF16. Модель ориентирована на запуск через SGLang в Linux на GPU NVIDIA Blackwell; данный checkpoint был создан и проверен на GB300. К преимуществам относятся готовая низкобитная конфигурация, поддержка мультимодального ввода, длинного контекста и сценариев работы с инструментами, а также заявленные результаты 97,27% на GSM8K и 73,81% на подмножестве Terminal-Bench 2.1. Эти оценки получены в текстовом режиме на конфигурации из четырёх GPU NVIDIA B300/GB300 и не гарантируют аналогичные результаты в других условиях. Модель может выдавать неточные, неполные, нерелевантные или нежелательные ответы, поэтому перед использованием необходимы проверка и защитные меры. Распространяется по Apache License 2.0; сведения о возможностях, обучении и ограничениях унаследованы от исходной модели Qwen3.8-27B.

Gemma 2 27B Instruct — большая языковая модель Google из семейства Gemma, представленная в формате GGUF для запуска через llama.cpp и LM Studio. Квантование подготовлено bartowski на основе оригинальной модели google/gemma-2-27b-it. Модель предназначена для диалогового взаимодействия и универсальной генерации текста, включая работу с веб-текстами, программным кодом и математическими задачами. Модель содержит 27 миллиардов параметров и занимает промежуточное положение между моделями классов 8B и 70B, поэтому рассчитана на системы с умеренным объёмом видеопамяти. Она обучена на 13 триллионах токенов; обучающие данные включали преимущественно англоязычные веб-документы, код и математические материалы. Большой словарь способствует многоязычным возможностям и работе с кодом, однако точный перечень поддерживаемых языков и размер контекстного окна в README не указаны. Модель работает по шаблону Google Gemma Instruct и не поддерживает системный промпт. Для запуска рекомендуется LM Studio версии 0.2.27 или новее с пресетом Google Gemma Instruct. Модель является текстовой и не поддерживает мультимодальные входы или выходы. Использование регулируется лицензией Gemma; для доступа на Hugging Face необходимо принять условия лицензии Google. README также предупреждает, что модель может генерировать неточный, вредный или неприемлемый контент.

GLM-5.2-NVFP4 — квантизированная версия языковой модели GLM-5.2 от zai-org, опубликованная lukealonso. Модель предназначена для генерации текста, диалоговых сценариев, программирования, многошагового агентного взаимодействия, вызова инструментов и function calling. Она поддерживает английский и китайский языки и работает через библиотеку Transformers. В основе лежит Mixture-of-Experts-модель с 744 млрд параметров, из которых 40 млрд активируются для каждого токена. В каждом MoE-слое используются 256 экспертов, восемь из которых выбираются для обработки токена; также применяется архитектура DeepSeek Sparse Attention (DSA). Неквантизированная часть модели включает attention-веса, плотные MLP-слои и общие эксперты в формате BF16. MLP-проекции необщих MoE-экспертов квантизированы в NVFP4 — 4-битный формат с блочными FP8-масштабами для групп по 16 элементов. Ключевое преимущество модели — существенное снижение требований к памяти при сохранении специализированных экспертных весов и калибровке по естественной маршрутизации токенов. Калибровочные данные включали программирование, вызов инструментов, реальные пользовательские диалоги на разных языках и длинные последовательности свыше 8 тысяч токенов. Ограничения — необходимость мощной инфраструктуры: рекомендована конфигурация из восьми RTX PRO 6000 Blackwell по 96 ГБ с b12x MoE runner. Лицензия MIT.

Phi-3.5-MoE-instruct — языковая модель Microsoft для диалоговых и генеративных приложений. Она использует архитектуру смеси экспертов (MoE), обучена на синтетических данных и отфильтрованных общедоступных документах с акцентом на данные для рассуждений, а затем дообучена с помощью supervised fine-tuning, PPO и DPO. В метаданных указано 4 млрд параметров; README отдельно сообщает о 6,6 млрд активных параметров. Модель принимает текстовые запросы в формате чата и генерирует текст, включая код. Карточка заявляет поддержку нескольких языков и контекст до 128 тыс. токенов, тогда как метаданные каталога указывают 4096 токенов. Модель предназначена для общих генеративных систем и сценариев с ограничениями по памяти, вычислениям или задержке; особо отмечены рассуждения, код, математика и логика. Она выпущена под лицензией MIT. Результаты требуют проверки для конкретных задач: модель может ошибаться, а многошаговые jailbreak-запросы могут снижать устойчивость защитных механизмов.