II.8Инженерия данных и аналитика

Qwen3-30B-A3B-FP8 — языковая модель серии Qwen, разработанная командой Qwen. Это causal language model в формате FP8-квантизации, предназначенная для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, перевода и задач с использованием внешних инструментов и агентных сценариев. Модель построена по архитектуре mixture-of-experts (MoE): содержит 30,5 млрд параметров, из которых при обработке каждого токена активируется около 3,3 млрд; в ней 48 слоёв, 128 экспертов и 8 активируемых экспертов. Используется Grouped Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Модель поддерживает более 100 языков и диалектов, а также переключение между режимами рассуждения и обычной генерации. Сильные стороны модели — сочетание высокой ёмкости с меньшим числом активных параметров, развитое рассуждение, поддержка многоязычных инструкций, диалогов и инструментальных сценариев. Ограничения связаны с использованием FP8-квантизации: для распределённого вывода в Transformers известны проблемы, из-за которых может потребоваться настройка CUDA_LAUNCH_BLOCKING=1. Для работы нужны совместимые версии Transformers, vLLM или SGLang и соответствующее аппаратное обеспечение. Модель распространяется по лицензии Apache-2.0.

Qwen3-32B-FP8 — языковая модель с авторегрессионной архитектурой causal language model, разработанная командой Qwen. Это FP8-квантизованная версия Qwen3-32B с 32,8 млрд параметров, из которых 31,2 млрд приходятся на неприкрытые эмбеддингом параметры. Модель содержит 64 слоя и использует Grouped-Query Attention: 64 головы для запросов и 8 для ключей и значений. Она распространяется через Hugging Face Transformers и предназначена для генерации текста. Модель подходит для диалогов, следования инструкциям, творческого письма, ролевого взаимодействия, математических и логических задач, генерации кода, перевода, многоязычного общения и агентских сценариев с интеграцией внешних инструментов. Qwen3 поддерживает более 100 языков и диалектов, а также переключение между режимом рассуждений для сложных задач и нережимом рассуждений для более быстрых ответов. Нативная длина контекста составляет 32 768 токенов, а с использованием YaRN может достигать 131 072 токенов. FP8-квантизация с мелкозернистой схемой и размером блока 128 снижает требования к памяти и может повысить эффективность инференса, однако для распределённого запуска в Transformers указаны известные проблемы; при использовании нескольких устройств может потребоваться CUDA_LAUNCH_BLOCKING=1. Для развёртывания рекомендуются актуальные версии Transformers, SGLang или vLLM. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-32B-unsloth-bnb-4bit — 4-битная версия языковой модели Qwen3-32B, разработанной командой Qwen и подготовленной Unsloth. Это авторегрессионная causal language model с 32,8 млрд параметров, из которых 31,2 млрд не относятся к embedding, и 64 слоями. Модель поддерживает более 100 языков и диалектов, включая английский, и предназначена для работы через Transformers. Модель подходит для диалогов, следования инструкциям, генерации и анализа кода, математических и логических задач, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с использованием внешних инструментов. Она поддерживает переключение между thinking mode для сложного рассуждения и non-thinking mode для более быстрых ответов в рамках одной модели. Используется Grouped Query Attention: 64 головы для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска и дообучения, однако может сопровождаться потерей точности по сравнению с полноразмерными вариантами. Модель предназначена только для обработки текста; сведения о других модальностях в README отсутствуют. Лицензия — Apache-2.0, согласно ссылке на лицензию базовой модели Qwen/Qwen3-32B.

RedHatAI/Qwen3.8-27B-NVFP4 — квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen; базовая модель указана как Qwen/Qwen3.8-27B. Это плотная causal language model с vision encoder, предназначенная для генерации и анализа текста, программирования, профессиональных и исследовательских задач, многошагового планирования и агентских сценариев. Модель нативно поддерживает понимание изображений и видео, включая документы, STEM-диаграммы и длительные видеоматериалы. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов с применением RoPE scaling, например YaRN. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; предусмотрены режимы рассуждения с настраиваемой глубиной, отключением thinking mode и сохранением контекста рассуждений из предыдущих сообщений. Указанная сборка использует квантизацию NVFP4/FP4, при этом lm_head квантизирован в FP8. К сильным сторонам относятся компактность для модели такого класса, поддержка текста, изображений и видео, длинного контекста, программирования и автономного выполнения сложных задач. Ограничение данной сборки заключается в совместимости: согласно README, она работает только в vLLM и не поддерживается SGLang. Для запуска и качества генерации могут потребоваться специальные параметры семплирования и значительный лимит выходных токенов. Модель распространяется по лицензии Apache-2.0.

Gemma 4 26B A4B — мультимодальная модель с открытыми весами от Google DeepMind, относящаяся к семейству Gemma 4 и реализованная как модель класса Mixture-of-Experts. Она принимает текст и изображения и генерирует текст; поддерживает понимание изображений, рассуждения, генерацию и исправление кода, суммаризацию и вызов инструментов. Видео и аудио заявлены для семейства Gemma 4, но поддержка аудио указана только для вариантов E2B, E4B и 12B. Модель рассчитана на мультимодальные диалоги, анализ документов и изображений, задачи с длинным контекстом и агентные сценарии. Для вариантов Gemma 4 26B A4B заявлено контекстное окно до 256 тысяч токенов; семейство обучено более чем на 140 языках и имеет поддержку более 35 языков из коробки. Архитектура семейства сочетает локальное скользящее и глобальное внимание. Модель распространяется по лицензии Apache 2.0. Карточка не приводит отдельной оценки ограничений именно этого варианта; мультимодальные возможности видео и аудио нельзя приписывать 26B A4B по приведённым сведениям.

Granite-3.2-8B-Instruct — плотная языковая модель IBM Granite Team с 8,2 млрд параметров, дообученная на базе ibm-granite/granite-3.1-8b-instruct для выполнения инструкций и задач рассуждения. Модель поддерживает управляемый режим рассуждения, который можно включать по необходимости, и работает через библиотеку Transformers; доступны веса в формате safetensors. Модель предназначена для диалоговых помощников и общих прикладных сценариев: суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Контекст — до 131 072 токенов, что подходит для анализа длинных документов и стенограмм. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель распространяется по лицензии Apache 2.0. README указывает, что к ней применимы этические ограничения и ограничения Granite-3.1-8B-Instruct; конкретные ограничения в карточке не перечислены.

unsloth/Qwen3-14B-GGUF — GGUF-версия языковой модели Qwen3-14B, разработанной командой Qwen компании Alibaba Cloud и подготовленной для распространения Unsloth. Это причинно-следственная языковая модель с 14,8 млрд параметров, из которых 13,2 млрд не относятся к эмбеддингам; она включает 40 слоёв и использует Grouped-Query Attention с 40 головами запросов и 8 головами ключей и значений. Модель предназначена для диалогов, следования инструкциям, генерации кода, математического и логического рассуждения, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с интеграцией внешних инструментов. Она поддерживает более 100 языков и диалектов. Qwen3-14B позволяет переключаться между режимами рассуждения и без рассуждения, выбирая баланс между качеством решения сложных задач и скоростью ответа. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN заявлена поддержка до 131 072 токенов. Формат GGUF ориентирован на запуск через совместимые инструменты, включая llama.cpp и Ollama; README также указывает возможность использования через Open WebUI. Конкретные требования к оборудованию и производительность зависят от варианта квантования и среды запуска и в представленных данных не приведены. Модель распространяется по лицензии Apache-2.0.

QuixiAI/Qwen3-30B-A3B-AWQ — квантизированная в формате AWQ версия Qwen3-30B-A3B, разработанная командой Qwen и опубликованная Eric Hartford. Модель основана на causal language model с архитектурой mixture-of-experts (MoE) и предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, математики, программирования, перевода и агентских сценариев с интеграцией внешних инструментов. Модель поддерживает переключение между режимами рассуждения и обычной генерации, обучена на этапах pretraining и post-training и поддерживает более 100 языков и диалектов. Всего она содержит около 30,5 млрд параметров, из которых при обработке активируется около 3,3 млрд; в составе 48 слоёв, 128 экспертов, одновременно активируются 8, используется Grouped Query Attention с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN заявлена поддержка до 131 072 токенов. К сильным сторонам относятся сочетание высокой ёмкости MoE с меньшим числом активных параметров, развитые возможности рассуждения, программирования, многоязычного общения и работы в агентских задачах, а также наличие эффективного режима без рассуждений. AWQ-квантизация может снизить требования к памяти и упростить локальное развёртывание, однако конкретные требования к оборудованию и влияние квантизации на качество в карточке не указаны. Для работы рекомендуется использовать актуальные версии Transformers, SGLang или vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-FP8 — FP8-квантованная версия причинной языковой модели Qwen3-4B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, математических и логических рассуждений, программирования, творческого письма, многошаговых агентных сценариев и работы с внешними инструментами. Она поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд приходятся на параметры без учёта эмбеддингов, и включает 36 слоёв. Используется архитектура causal language model с группированным запросом внимания GQA: 32 головы для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Qwen3 поддерживает переключение между режимом рассуждений для сложных задач и нережимом рассуждений для более быстрой обработки обычных запросов. Суффикс FP8 указывает на мелкозернистое квантование FP8 с размером блока 128, что ориентировано на повышение эффективности инференса при сохранении совместимости с распространёнными фреймворками. Среди ограничений отмечены известные проблемы совместимости vLLM и особенности распределённого инференса в Transformers; для некоторых конфигураций требуется дополнительная настройка. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-397B-A17B — мультимодальная модель семейства Qwen от Alibaba, предназначенная для диалогов, рассуждений, работы с изображениями и видео, программирования и использования инструментов. Это постобученная причинная языковая модель с визуальным энкодером, гибридной архитектурой Gated Delta Networks и разреженной Mixture-of-Experts: всего 397 млрд параметров, из которых активируются 17 млрд. В модели 60 слоёв и 512 экспертов; одновременно задействуются 10 маршрутизируемых и один общий эксперт. Модель принимает текст, изображения и видео, а её основными результатами являются текстовые ответы и вызовы инструментов. Она поддерживает 201 язык и диалект. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. По умолчанию включён режим рассуждений; доступны интеграции с Transformers, vLLM, SGLang и KTransformers. Модель подходит для мультимодальных помощников, анализа визуального содержимого, сложных вопросов, программирования и агентных сценариев с вызовом инструментов. Эффективность вывода и пропускная способность зависят от используемого фреймворка и его версии. Веса и конфигурации опубликованы в формате Transformers/Safetensors под лицензией Apache-2.0.

unsloth/Qwen3-8B — плотная причинно-авторегрессионная языковая модель семейства Qwen3, основанная на Qwen/Qwen3-8B и опубликованная Unsloth. По карточке модели, она предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики и программирования; также поддерживает интерфейс вызова инструментов. Qwen3 позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают 7,6 млрд параметров и контекст до 40 960 токенов; модель распространяется в формате safetensors и рассчитана на использование с Transformers. Карточка базовой модели заявляет поддержку более 100 языков и диалектов, включая многоязычные инструкции и перевод. Модель может быть полезна для чат-ботов, генерации и редактирования текста, помощи с кодом и агентных сценариев с инструментами. Указана лицензия Apache-2.0. Заявленный в README базовой модели размер параметрического набора и длина контекста отличаются от значений метаданных этой записи, поэтому здесь приведены значения метаданных каталога.

Apertus-8B-Instruct-2509-GGUF — открытая мультиязычная языковая модель с 8 млрд параметров, разработанная Swiss AI и связанная со Swiss National AI Institute, ETH Zurich и EPFL. Это instruct-вариант модели Apertus для генерации и обработки текста, диалогов, работы с кодом и математическими задачами, а также агентских сценариев с использованием инструментов. Модель построена на архитектуре decoder-only Transformer, предварительно обучена на 15 трлн токенов данных веба, кода и математики, а затем дообучена с помощью supervised fine-tuning и выравнивания QRPO. Она поддерживает 1811 языков, контекст до 65 536 токенов и может запускаться через совместимые инструменты, включая Transformers, vLLM, SGLang и MLX. Формат GGUF предназначен для удобного локального развертывания, однако конкретный вариант квантования в предоставленных данных не указан. К сильным сторонам относятся открытые веса, раскрытые данные и детали обучения, широкий языковой охват, длинный контекст и акцент на соответствии требованиям обработки данных. Ограничения включают возможные ошибки и неточности, характерные для языковых моделей, а также высокие вычислительные требования по сравнению с небольшими моделями. Модель распространяется по лицензии Apache 2.0, но её использование также связано с отдельной политикой допустимого использования Apertus и требованиями по обработке персональных данных; разработчики рекомендуют регулярно применять фильтр выходных данных на основе актуальных запросов на удаление данных.

Карточка модели eyes-dot-ml/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.

Карточка модели mirvo/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.

RedHatAI/gpt-oss-120b-essential — вариант открытой по весам модели gpt-oss-120b, разработанной OpenAI и подготовленной Red Hat AI. Это генеративная текстовая модель для диалогов, текстовой генерации, задач с рассуждением, агентских сценариев и вызова инструментов. Модель поддерживает function calling, веб-поиск, выполнение Python-кода и Structured Outputs; поддержка tool calling валидирована. Указанный язык — английский. Модель построена на архитектуре Mixture of Experts и содержит около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Она использует посттренировочную MXFP4-квантизацию весов MoE и рассчитана на запуск на одном GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Для корректной работы требуется формат ответов harmony. В README не указана длина контекста. К сильным сторонам относятся настраиваемый уровень рассуждений — low, medium или high, возможность дообучения и пригодность для производственных и ресурсоограниченных развёртываний благодаря essential-комплектации без каталогов /Metal и /Original, уменьшающей профиль памяти. Полное предоставление цепочки рассуждений может помогать при отладке, но не предназначено для показа конечным пользователям. Модель валидирована в Red Hat OpenShift AI 2.25, Red Hat AI Inference Server 3.2.2 и vLLM 0.10.1.1. Распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

Granite-3.1-8B-Instruct — языковая модель IBM Granite Team для выполнения инструкций и создания диалоговых ассистентов. Это дообученная на базе Granite-3.1-8B-Base плотная авторегрессионная трансформерная модель на 8,2 млрд параметров; при обучении использовались supervised fine-tuning, выравнивание с помощью обучения с подкреплением и слияние моделей. Архитектура включает GQA, RoPE, SwiGLU и RMSNorm. Модель принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и вызова функций. Поддерживает диалоги на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. Лучше всего модель обучена следовать инструкциям на английском; качество на других языках может быть ниже. Она может выдавать неточные, предвзятые или небезопасные ответы. Лицензия — Apache 2.0.

Granite-3.3-8B-Instruct — плотная языковая модель с 8,2 млрд параметров, разработанная командой Granite компании IBM и дообученная на базе ibm-granite/granite-3.3-8b-base для следования инструкциям и улучшенного рассуждения. Она принимает текст и генерирует ответы, поддерживает диалог и интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Модель предназначена для общих задач ассистента и бизнес-приложений: ответов на вопросы, суммаризации длинных документов и встреч, классификации и извлечения текста, RAG, задач по математике и программированию, а также многоязычного диалога. В README заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель доступна в формате safetensors для Transformers. Лицензия — Apache 2.0. В README отмечено, что применимы этические ограничения и ограничения базовой модели Granite-3.3-8B-Base; подробности этих ограничений в предоставленных материалах не раскрыты.

unsloth/granite-3.3-8b-instruct-GGUF — GGUF-версия Granite-3.3-8B-Instruct, разработанная командой Granite компании IBM и доработанная для распространения Unsloth. Это языковая модель с 8 миллиардами параметров и контекстом до 128K токенов, предназначенная для генерации текста, следования инструкциям и задач, требующих рассуждений. Модель подходит для создания AI-ассистентов, обобщения длинных документов и встреч, вопросов и ответов, классификации и извлечения текста, Retrieval Augmented Generation (RAG), программирования, function calling и многоязычного диалога. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель поддерживает структурированное рассуждение с разделением внутренних рассуждений и итогового ответа с помощью тегов <think> и <response>. К сильным сторонам относятся улучшенные показатели в instruction following, математике, программировании и общих тестах, включая AlpacaEval-2.0 и Arena-Hard, а также возможность работы с длинным контекстом. README не содержит подробностей о конкретном формате квантования GGUF, требованиях к аппаратному обеспечению или известных ограничениях качества. Модель распространяется по лицензии Apache 2.0.

unsloth/Mistral-Small-3.2-24B-Instruct-2506-GGUF — это GGUF-квантизированная версия мультимодальной инструкционной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и опубликованной в формате GGUF командой Unsloth. Модель предназначена для диалоговых приложений, выполнения инструкций, анализа изображений и текста, программирования, STEM-задач, обработки документов и вызова функций или инструментов. Модель содержит 24 млрд параметров, поддерживает текстовые и визуальные входные данные, а также языки English, French, German, Spanish, Portuguese, Italian, Japanese, Korean, Russian, Chinese, Arabic, Persian, Indonesian, Malay, Nepali, Polish, Romanian, Serbian, Swedish, Turkish, Ukrainian, Vietnamese, Hindi и Bengali. Заявленная длина контекста — до 128K токенов. По сравнению с Mistral-Small-3.1 улучшены следование точным инструкциям, устойчивость к повторяющимся или бесконечным генерациям и надёжность function calling. GGUF-версия включает исправления chat template; для llama.cpp рекомендуется включать режим Jinja. Сильные стороны модели — широкий языковой охват, поддержка зрения, длинный контекст, улучшенные результаты в instruction following, программировании и вызове функций. В опубликованных тестах отдельные показатели зрения немного ниже, чем у версии 3.1, поэтому качество зависит от конкретного типа визуальной задачи. Для запуска требуются совместимые GGUF-инструменты, например llama.cpp или Ollama; рекомендуется низкая температура около 0,15. Модель распространяется по лицензии Apache-2.0.

NVIDIA Nemotron-3-Super-120B-A12B-BF16 — разговорная большая языковая модель NVIDIA для рассуждений, следования инструкциям и построения агентных систем. В карточке указаны 120 млрд параметров, из которых активно используются 12 млрд; архитектура LatentMoE сочетает слои Mamba-2, Mixture-of-Experts и внимания, а Multi-Token Prediction (MTP) предназначен для ускорения генерации. Метаданные каталога указывают архитектуру Nemotron-H и 6,6 млрд параметров, что расходится с числами в README; эти характеристики требуют осторожной интерпретации. Модель рассчитана на чат, сложные инструкции, код, математику, длинноконтекстные рассуждения и работу в совместных агентных сценариях, включая автоматизацию IT-заявок, RAG и обработку нескольких документов. README заявляет контекст до 1 млн токенов, тогда как метаданные указывают 262 144 токена. Поддерживаются английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель принимает текст и генерирует текст. Модель опубликована как BF16, но в README также описано обучение с NVFP4-квантизацией; формат файлов репозитория в метаданных — safetensors. Указана лицензия other, а README заявляет готовность к коммерческому использованию; конкретные условия лицензии следует сверять с карточкой. Модель версии v1.0 GA предназначена для практического применения.

Карточка модели Stage-org/Qwen3-4B-Instruct-2507 на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Instruct-2507, поэтому описание составлено по ней. Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это обновлённая версия Qwen3-4B в режиме без рассуждений: модель обучена следовать инструкциям и вести диалог, а также поддерживает интерфейс вызова инструментов. В репозитории указано 4,0 млрд параметров, метаданные Hugging Face указывают 3,7 млрд; нативная длина контекста составляет 262 144 токена. Модель предназначена для генерации ответов, понимания текста, логических и математических задач, вопросов по естественным наукам, программирования и работы с инструментами. Большое окно контекста подходит для анализа длинных документов и диалогов; заявлена поддержка нескольких языков и улучшенное покрытие редких знаний. Модель принимает текст и выдаёт текст. В README отмечены улучшения следования инструкциям, рассуждений, генерации текста и работы с длинным контекстом. Модель работает только в режиме без рассуждений и не выводит блоки рассуждений. Лицензия — Apache-2.0.

RedHatAI/DeepSeek-V4-Flash-BF16 — версия модели DeepSeek-V4-Flash, опубликованная Red Hat AI. Это языковая модель архитектуры DeepSeek V4 для генерации текста; README описывает семейство как MoE, обученное на более чем 32 трлн токенов с последующей настройкой для разных областей и объединением навыков дистилляцией. Модель предназначена для диалогов, рассуждений, планирования, агентных сценариев и задач программирования. Для серии заявлен контекст до 1 048 576 токенов, а карточка репозитория указывает 10,7 млрд параметров. В README для Flash описаны режимы рассуждения от быстрых ответов до более глубокого анализа. Семейство использует гибридное внимание CSA/HCA для эффективной работы с длинным контекстом. Репозиторий использует библиотеку Transformers и формат safetensors; лицензия — MIT. README указывает, что в релизе нет Jinja-шаблона чата и для кодирования сообщений и разбора ответов предоставляются отдельные скрипты.

unsloth/gemma-4-12b-it — инструкционная мультимодальная модель от Unsloth на базе Google Gemma 4 12B IT. Она предназначена для диалога, рассуждений, агентных сценариев, генерации и исправления кода, а также понимания изображений и видео. Архитектура Gemma 4 использует чередование локального скользящего и глобального внимания; для варианта 12B заявлено контекстное окно до 256K токенов. Модель поддерживает вызов инструментов и работу с аудио, включая распознавание речи и перевод речи в текст. Модель подходит для ответов по изображениям и документам, OCR, анализа диаграмм и кадров видео, транскрибации речи, суммаризации и генерации текста. В карточке Gemma 4 указана поддержка более 35 языков «из коробки» и предобучение более чем на 140 языках. Возможны фактические ошибки, смещения данных и трудности с нюансами языка и сложными открытыми задачами. Репозиторий использует формат safetensors; лицензия — Apache 2.0.

Карточка модели reckzit/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.

Карточка модели Terom/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Granite-4.1-8B — языковая модель с 8,4 млрд параметров, разработанная командой Granite компании IBM. Это плотный декодерный трансформер с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель дообучена на основе Granite-4.1-8B-Base с помощью supervised fine-tuning и обучения с подкреплением; доступна в формате Safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для следования инструкциям и создания диалоговых помощников, в том числе агентов с вызовом инструментов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом и многоязычного диалога. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Качество на многоязычных задачах может уступать английскому; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для конкретных сценариев рекомендуется проводить проверку безопасности и настройку.

unsloth/Meta-Llama-3.1-8B-bnb-4bit — 4-битно квантованная версия языковой модели Meta Llama 3.1 8B, подготовленная с использованием Unsloth. Базовую модель разработала Meta. Это авторегрессионная модель на оптимизированной архитектуре Transformer с Grouped-Query Attention (GQA), предназначенная для генерации текста и кода. Модель работает с многоязычным текстом на входе и генерирует многоязычный текст и код. Заявленная длина контекста составляет 128 тысяч токенов, данные обучения включают более 15 триллионов токенов, дата отсечения знаний — декабрь 2023 года. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель подходит для диалоговых сценариев, обработки текста, генерации кода и дообучения на собственных данных. Ключевое преимущество данной версии — 4-битное представление bnb 4bit, снижающее требования к памяти и упрощающее запуск и дообучение по сравнению с полноразмерной моделью. Ограничения включают текстовую модальность без обработки изображений и зависимость качества от квантования и доступных вычислительных ресурсов. Модель статична и не содержит знаний о событиях после даты отсечения. Для использования указана лицензия Llama 3.1 Community License — специальная коммерческая лицензия Meta.

unsloth/Qwen3-235B-A22B-GGUF — GGUF-версия модели Qwen3-235B-A22B, подготовленная Unsloth на основе разработки Qwen. Это каузальная языковая MoE-модель для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, перевода и агентских сценариев с интеграцией внешних инструментов. Модель содержит 235 млрд параметров, из которых 22 млрд активируются при обработке запроса. Она включает 94 слоя, архитектуру GQA с 64 головами внимания для Q и 4 для KV, 128 экспертов, из которых активируются 8. Нативная длина контекста составляет 32 768 токенов, а с использованием YaRN может достигать 131 072 токенов. Поддерживаются более 100 языков и диалектов. Модель позволяет переключаться между режимами рассуждения и обычной генерации, сочетая качество решения сложных задач с более эффективными ответами в общем диалоге. К сильным сторонам относятся развитые способности к рассуждению, программированию, многоязычному взаимодействию, следованию инструкциям и работе в агентских системах. GGUF-формат удобен для локального запуска через llama.cpp, Ollama, LM Studio и совместимые инструменты, однако модель остаётся крайне крупной и требует значительных вычислительных ресурсов; конкретные требования зависят от выбранной квантизации, сведения о которой в карточке не приведены. Модель предназначена для текстовых задач, данных о поддержке изображений или других модальностей нет. Указана лицензия Apache-2.0.

unsloth/Qwen3-32B-128K-GGUF — это GGUF-версия большой языковой модели Qwen3-32B, разработанной командой Qwen и опубликованной в формате GGUF командой Unsloth. Модель представляет собой причинную языковую модель с 32,8 млрд параметров, из которых 31,2 млрд не относятся к эмбеддингам. Архитектура включает 64 слоя и групповое обобщённое внимание (GQA) с 64 головами для Q и 8 для KV. Модель предназначена для диалогов, следования инструкциям, генерации и анализа кода, математического и логического рассуждения, творческого письма, ролевого взаимодействия, многошаговых диалогов, перевода и агентских сценариев с интеграцией внешних инструментов. Qwen3 поддерживает переключение между режимом рассуждения для сложных задач и нережимом рассуждения для более быстрых ответов. Заявлена поддержка более 100 языков и диалектов. Базовая длина контекста составляет 32 768 токенов, а с использованием YaRN она увеличена до 131 072 токенов. Модель сочетает широкий набор языковых и рассуждательных возможностей с поддержкой длинного контекста и локального запуска в GGUF-экосистеме. Ограничения включают значительный размер, потенциально высокие требования к памяти и вычислительным ресурсам, а также зависимость качества и скорости от конкретной GGUF-квантизации и настроек запуска. В README не приведены точные параметры квантизации, требования к оборудованию или результаты бенчмарков. Модель распространяется по лицензии Apache-2.0.

Карточка модели nicoplv/Qwen3.8-27B-oQ4e-fp16-mtp на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.