I.5Создание и редактирование текста

Карточка модели jed351/qwen3-30B-A3B-SFT-DPO на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B, поэтому описание составлено по ней. Qwen3-30B-A3B — языковая модель семейства Qwen3, разработанная командой Qwen. Это причинная модель с архитектурой mixture-of-experts: в README указаны 30,5 млрд параметров всего и 3,3 млрд активируемых параметров, 48 слоёв и 128 экспертов, из которых для обработки задействуются 8. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики, программирования, творческого письма, перевода и работы с внешними инструментами. В ней можно переключаться между режимами рассуждения и обычного ответа. Заявлена поддержка более 100 языков и диалектов. Метаданные указывают библиотеку Transformers, формат Safetensors и контекст 40 960 токенов; README описывает нативный контекст 32 768 токенов и расширение до 131 072 с YaRN. Модель дообучена на Qwen/Qwen3-30B-A3B-Base и распространяется по лицензии Apache-2.0. Указанные в README возможности рассуждения и работы с инструментами не заменяют внешнюю проверку ответов и корректную настройку интеграций.

Qwen3-32B — плотная причинно-следственная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалога, следования инструкциям, рассуждений, генерации кода, перевода и работы с внешними инструментами. В одной модели можно переключаться между режимом рассуждений для сложных задач и обычным режимом ответа. Модель содержит 29,7 млрд параметров по метаданным каталога; в README указано 32,8 млрд параметров, включая 31,2 млрд без эмбеддингов. Архитектура — Qwen3ForCausalLM, для запуска поддерживается Transformers. Нативный контекст составляет 40 960 токенов по метаданным каталога; README указывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Семейство поддерживает более 100 языков и диалектов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Модель подходит для многошагового диалога и сценариев с вызовом инструментов, а также для математических и логических рассуждений, творческого письма и программирования. Карточка заявляет сильные способности к следованию инструкциям и многоязычным задачам; качество конкретных ответов зависит от запроса и развертывания. В README не приведены конкретные ограничения или оговорки по безопасности.

NVIDIA Qwen3.8-2.4T-A95B-NVFP4 — квантизированная версия языковой модели Alibaba Qwen3.8-2.4T-A95B, подготовленная с помощью NVIDIA Model Optimizer. Модель предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также длительных агентных сценариев с использованием инструментов. Она принимает текстовые строки и формирует текстовые ответы, включая естественный язык, код, вызовы инструментов и структурированные данные в зависимости от конфигурации приложения. Модель использует архитектуру Transformers с гибридным механизмом внимания и блоками Mixture-of-Experts. Общее количество параметров составляет 2,4 трлн, из них активируется 95 млрд. Поддерживается контекст длиной до 1 млн токенов. Версия NVFP4 применяет 4-битное квантование весов и активаций линейных операторов в трансформерных блоках, что снижает требования к памяти по сравнению с 16-битным представлением. Предусмотрен запуск через vLLM и SGLang на GPU NVIDIA Blackwell; предпочтительная операционная система — Linux. Сильные стороны модели — большой контекст, масштабная MoE-архитектура, возможности в программировании, научном рассуждении, следовании инструкциям, извлечении информации из длинных контекстов и агентном использовании инструментов. Язык обучения и полный состав обучающих данных не раскрыты, а приведённые сведения об оценивании относятся преимущественно к текстовым задачам. Модель оптимизирована для систем с GPU NVIDIA, поэтому её применение на CPU или неподдерживаемом оборудовании может быть ограничено. Использование разрешено в коммерческих и некоммерческих целях на условиях NVIDIA Open Model Agreement; исходная модель разработана Alibaba, а не NVIDIA.

Карточка модели falloutxvats/Aero-Qwen3-32B на Hugging Face совпадает с карточкой Qwen/Qwen3-32B, поэтому описание составлено по ней. Qwen3-32B — плотная причинно-следственная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалога, следования инструкциям, рассуждений, генерации кода, перевода и работы с внешними инструментами. В одной модели можно переключаться между режимом рассуждений для сложных задач и обычным режимом ответа. Модель содержит 29,7 млрд параметров по метаданным каталога; в README указано 32,8 млрд параметров, включая 31,2 млрд без эмбеддингов. Архитектура — Qwen3ForCausalLM, для запуска поддерживается Transformers. Нативный контекст составляет 40 960 токенов по метаданным каталога; README указывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Семейство поддерживает более 100 языков и диалектов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Модель подходит для многошагового диалога и сценариев с вызовом инструментов, а также для математических и логических рассуждений, творческого письма и программирования. Карточка заявляет сильные способности к следованию инструкциям и многоязычным задачам; качество конкретных ответов зависит от запроса и развертывания. В README не приведены конкретные ограничения или оговорки по безопасности.

Карточка модели crusoeai/DeepSeek-V4-Flash-BF16 на Hugging Face совпадает с карточкой RedHatAI/DeepSeek-V4-Flash-BF16, поэтому описание составлено по ней. RedHatAI/DeepSeek-V4-Flash-BF16 — версия модели DeepSeek-V4-Flash, опубликованная Red Hat AI. Это языковая модель архитектуры DeepSeek V4 для генерации текста; README описывает семейство как MoE, обученное на более чем 32 трлн токенов с последующей настройкой для разных областей и объединением навыков дистилляцией. Модель предназначена для диалогов, рассуждений, планирования, агентных сценариев и задач программирования. Для серии заявлен контекст до 1 048 576 токенов, а карточка репозитория указывает 10,7 млрд параметров. В README для Flash описаны режимы рассуждения от быстрых ответов до более глубокого анализа. Семейство использует гибридное внимание CSA/HCA для эффективной работы с длинным контекстом. Репозиторий использует библиотеку Transformers и формат safetensors; лицензия — MIT. README указывает, что в релизе нет Jinja-шаблона чата и для кодирования сообщений и разбора ответов предоставляются отдельные скрипты.

RedHatAI/DeepSeek-V4-Flash-BF16 — версия модели DeepSeek-V4-Flash, опубликованная Red Hat AI. Это языковая модель архитектуры DeepSeek V4 для генерации текста; README описывает семейство как MoE, обученное на более чем 32 трлн токенов с последующей настройкой для разных областей и объединением навыков дистилляцией. Модель предназначена для диалогов, рассуждений, планирования, агентных сценариев и задач программирования. Для серии заявлен контекст до 1 048 576 токенов, а карточка репозитория указывает 10,7 млрд параметров. В README для Flash описаны режимы рассуждения от быстрых ответов до более глубокого анализа. Семейство использует гибридное внимание CSA/HCA для эффективной работы с длинным контекстом. Репозиторий использует библиотеку Transformers и формат safetensors; лицензия — MIT. README указывает, что в релизе нет Jinja-шаблона чата и для кодирования сообщений и разбора ответов предоставляются отдельные скрипты.

DeepSeek-V4-Pro — крупная языковая модель семейства DeepSeek-V4, разработанная DeepSeek AI. Это предварительная версия модели с архитектурой Mixture-of-Experts (MoE), предназначенная для работы с текстом, задачами рассуждения, программированием, обработкой больших документов и агентскими сценариями. Модель поддерживает контекст длиной до одного миллиона токенов. Модель содержит около 1,6 трлн параметров, из которых 49 млрд активируются при обработке отдельного токена. Она использует гибридную архитектуру внимания с механизмами Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections для повышения стабильности передачи сигналов. Обучение проводилось более чем на 32 трлн токенов с последующей донастройкой посредством SFT, reinforcement learning с GRPO и on-policy distillation. Доступна в смешанной точности FP4 и FP8: параметры MoE-экспертов используют FP4, а большинство остальных параметров — FP8. К сильным сторонам относятся эффективная работа с очень длинным контекстом, высокая ёмкость модели, развитые возможности в области знаний, программирования, рассуждений и агентских задач. По сравнению с DeepSeek-V3.2 в режиме контекста на один миллион токенов заявлено существенное снижение вычислительных затрат и объёма KV-кэша. Ограничения включают чрезвычайно большой общий размер модели и, как следствие, высокие требования к инфраструктуре; конкретные поддерживаемые языки и подробные системные требования в README не указаны. Модель распространяется по лицензии MIT.

Falcon3-10B-Instruct — инструкция-ориентированная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Она предназначена для диалогов и выполнения инструкций, включая задачи рассуждения, понимания языка, программирования и математики. Модель основана на причинном декодере Transformer с 40 блоками, архитектурой GQA, SwiGLU и RMSNorm; содержит 9,9 млрд параметров и работает с контекстом до 32 тыс. токенов. Она дообучена на разговорных, STEM-, программных, безопасностных данных и примерах вызова функций. Поддерживает английский, французский, испанский и португальский языки; репозиторий содержит веса Safetensors для Transformers. Модель подходит для создания диалоговых помощников, анализа и генерации текста, помощи с кодом и решения математических задач. Качество зависит от задачи, а результаты бенчмарков в карточке отражают оценки на момент выпуска. Лицензия — TII Falcon-LLM License 2.0.

Gemma 4 12B Unified — мультимодальная модель с открытыми весами, разработанная Google DeepMind и относящаяся к семейству Gemma 4. Она принимает текст, изображения, видео и аудио, а выдаёт текст; для аудио предусмотрены распознавание речи и перевод речи в текст. Единая архитектура позволяет обрабатывать аудио и изображения без отдельных энкодеров, что подходит для локального запуска на потребительских устройствах. Модель имеет плотную архитектуру и гибридное внимание, сочетающее локальные скользящие окна с глобальным вниманием; заявленное окно контекста для версии 12B — до 256 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, вызова инструментов, а также понимания изображений, видео и аудио. Среди визуальных сценариев — извлечение текста из документов, OCR, разбор PDF, диаграмм и экранных интерфейсов; для аудио доступны транскрипция и перевод речи в текст. Семейство поддерживает более 35 языков в обычном использовании и обучалось на более чем 140 языках, но README не перечисляет конкретные языки этой версии. Модель распространяется по лицензии Apache 2.0. Как и другие генеративные модели, она может давать ошибочные ответы; README также указывает, что приведённые сценарии использования не являются исчерпывающими.

Gemma 4 26B A4B IT — мультимодальная инструктивно дообученная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 26B A4B. Репозиторий содержит веса в формате safetensors и использует архитектуру Gemma4ForConditionalGeneration с поддержкой зрения и диалогового режима. Модель принимает текст и изображения и генерирует текст; варианты Gemma 4 этого размера рассчитаны на контекст до 256 тысяч токенов. Семейство поддерживает более 140 языков по данным карточки, а также включает механизмы рассуждения, вызова функций и гибридное внимание с локальными и глобальными слоями. Модель подходит для диалоговых ассистентов, генерации и исправления кода, рассуждений, суммаризации, ответов по изображениям и документам, OCR, анализа диаграмм, скриншотов и пользовательских интерфейсов, а также агентных сценариев с вызовом инструментов. Лицензия Apache 2.0. Указанная в карточке поддержка изображений не означает, что именно эта версия умеет обрабатывать видео или аудио: README относит аудиовход к вариантам E2B, E4B и 12B, а метаданные отмечают для этой модели только зрение.

Gemma 4 E4B-it — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям и диалога. Это плотная модель семейства Gemma 4; репозиторий использует Transformers и формат safetensors. Для варианта E4B заявлено контекстное окно 128 тысяч токенов и поддержка более 35 языков в практическом использовании, при предобучении на более чем 140 языках. Модель принимает текст, изображения, видео и аудио, а выдаёт текст. Она предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, понимания видео, распознавания речи и перевода речи в текст. Поддерживает режим рассуждений и вызов инструментов; гибридное внимание сочетает локальные окна и глобальное внимание. Модель подходит для локального запуска на устройствах с ограниченными ресурсами, а также для чат-ботов, помощников и мультимодальных приложений. Возможности распознавания аудио заявлены для вариантов E2B и E4B. Как и другие генеративные модели, она может ошибаться в ответах и интерпретации входных данных. Лицензия — Apache 2.0.

Hermes 4 405B — языковая модель Nous Research для диалогов и следования инструкциям, дообученная на базе Meta Llama 3.1 405B. Это плотная авторегрессионная модель с 403,7 млрд параметров, представленная в формате safetensors и рассчитанная на контекст до 131 072 токенов. Модель предназначена для работы в роли универсального ассистента: она ведёт диалог, рассуждает, помогает с математикой, программированием, STEM-задачами, логикой и творческим письмом. Поддерживает гибридный режим рассуждений, вызов функций и инструментов, а также генерацию структурированных ответов, включая JSON по заданной схеме. В карточке указана поддержка английского языка. Разработчик сообщает об улучшениях в рассуждениях, следовании форматам и управляемости после дообучения. Реальное качество может зависеть от запроса, шаблона чата и настроек генерации; работа с инструментами требует подходящего парсера и среды исполнения. Лицензия — Llama 3.

Hermes 4 405B — большая плотная языковая модель Nous Research для диалогов и следования инструкциям, созданная на основе Meta Llama 3.1 405B с дополнительным постобучением. Модель содержит около 403,7 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Основной язык карточки — английский. Модель предназначена для диалогового помощника и сложных задач рассуждения, включая математику, программирование, STEM, логику и творческое письмо. Она поддерживает режим рассуждения, вызов инструментов и функций, а также генерацию структурированных ответов, в том числе JSON по заданной схеме. Вызовы инструментов требуют подходящего шаблона диалога и обработки специального формата вывода. Модель распространяется под лицензией Llama 3.1 Community License. Это крупная модель, для обслуживания которой README рекомендует многокарточные серверные конфигурации и движки вывода вроде vLLM или SGLang. Утверждения о качестве и результатах на бенчмарках приведены разработчиком; карточка не предоставляет подробных таблиц результатов.

K2-Horizon-32B — плотная авторегрессионная языковая модель с архитектурой K2HorizonForCausalLM, разработанная IFM. Модель содержит 31,2 млрд параметров и предназначена для генерации текста в диалогах, решения задач на рассуждение, программирование и сценариев с агентами. Для работы с чатом и вызовом инструментов предусмотрены соответствующие парсеры; основной pipeline-тег — text-generation. Модель поддерживает контекст до 524 288 токенов и опубликована в формате Safetensors для Transformers. В карточке указаны английский язык и открытая публикация обучающих данных, рецепта и кода обучения. Указанная лицензия — Apache-2.0. Для заявленного качества авторы рекомендуют высокий уровень рассуждений; для обслуживания описаны конфигурации vLLM и SGLang, включая использование двух ускорителей H200.

unsloth/Kimi-K2-Instruct-BF16 — версия модели Kimi K2 Instruct, опубликованная Unsloth на Hugging Face и основанная на дообученной Moonshot AI модели moonshotai/Kimi-K2-Instruct. Это разговорная языковая модель с архитектурой семейства DeepSeek V3; README описывает исходную Kimi K2 как смесь экспертов с 1 трлн параметров и 32 млрд активируемых параметров, а метаданные этой версии указывают 37,9 млрд параметров. Модель предназначена для общих диалогов, рассуждений, программирования и работы с инструментами в агентных сценариях. Она принимает текст и генерирует текст; контекст составляет до 131 072 токенов. Карточка отмечает исправления шаблона чата и интерфейс вызова инструментов. Репозиторий использует safetensors и библиотеку Transformers. Лицензия указана как other, поэтому конкретные условия следует проверять в материалах репозитория и базовой модели.

Карточка модели ISTA-DASLab/Meta-Llama-3-8B-Instruct на Hugging Face совпадает с карточкой kuotient/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

casperhansen/mistral-nemo-instruct-2407-awq — это 4-битная AWQ-квантизированная версия Mistral-Nemo-Instruct-2407, опубликованная пользователем casperhansen на Hugging Face. Исходную модель разработали совместно Mistral AI и NVIDIA; она представляет собой instruction-tuned версию Mistral-Nemo-Base-2407 и предназначена для генерации текста, диалогов, следования инструкциям и вызова функций. Модель содержит около 12 млрд параметров и использует архитектуру Transformer с 40 слоями, размерностью 5120, 32 attention heads и 8 key-value heads в конфигурации GQA, активацией SwiGLU и словарём примерно на 128 тысяч токенов. Исходная модель обучалась с контекстом 128K токенов на многоязычных и программных данных; заявлена поддержка девяти языков, включая русский. AWQ-квантизация до 4 бит уменьшает требования к памяти и подходит для локального инференса через Transformers, vLLM и SGLang, но может немного снижать точность относительно исходной версии. Сильные стороны — большой контекст, многоязычность, работа с кодом, поддержка диалогового режима и function calling, а также более экономичный инференс благодаря квантизации. Ограничение исходной модели — отсутствие встроенных механизмов модерации, поэтому её ответы могут требовать дополнительного контроля. Для базовой Mistral-Nemo-Instruct-2407 указана лицензия Apache 2.0; отдельная карточка AWQ-репозитория не содержит дополнительного лицензионного описания.

Neuron-4B-Instruct — мультиязычная языковая модель с настройкой на выполнение инструкций, разработанная Neura Tech AI на основе Qwen/Qwen3-4B-Instruct-2507. Это плотная авторегрессионная модель семейства Qwen3 с архитектурой Transformer Decoder и примерно 3,7 млрд параметров. Модель предназначена для диалогов и работы в роли ИИ-ассистента: она помогает с программированием, рассуждениями, математическими задачами, творческим письмом, переводом и вызовом инструментов. Поддерживает контекст до 262 144 токенов и множество языков, включая английский, русский, китайский, хинди, японский, корейский, европейские и южноазиатские языки. Модель принимает текст и генерирует текст. Карточка приводит сравнительные результаты на тестах знаний, но они не гарантируют качество в конкретных задачах; ответы могут содержать ошибки. Распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-27B-GGUF — квантованный формат модели Qwen3.5-27B, разработанной командой Qwen; сборка и GGUF-варианты подготовлены Unsloth. Это мультимодальная причинная языковая модель с vision encoder, предназначенная для диалогов, анализа изображений, рассуждений, программирования, агентских сценариев, работы с длинным контекстом и вызова инструментов. Модель может использоваться локально и совместима с распространёнными средствами инференса для GGUF; README также рекомендует настройки для включения или отключения режима рассуждений. Модель содержит 27 млрд параметров, 64 слоя и использует гибридную архитектуру Gated Delta Networks, Gated Attention и разреженной Mixture-of-Experts; размер скрытого представления — 4096. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта, а также мультимодальный ввод. Unsloth указывает на применение Dynamic 2.0 GGUF и imatrix-данных для повышения качества в задачах диалога, программирования, длинного контекста и tool calling. Сильными сторонами являются сочетание языкового и визуального понимания, большой контекст, поддержка широкого набора языков и варианты для эффективного локального запуска. Ограничения включают необходимость подходящего GGUF-совместимого программного обеспечения и аппаратных ресурсов; конкретные требования зависят от выбранного уровня квантования. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-397B-A17B — мультимодальная модель семейства Qwen от Alibaba, предназначенная для диалогов, рассуждений, работы с изображениями и видео, программирования и использования инструментов. Это постобученная причинная языковая модель с визуальным энкодером, гибридной архитектурой Gated Delta Networks и разреженной Mixture-of-Experts: всего 397 млрд параметров, из которых активируются 17 млрд. В модели 60 слоёв и 512 экспертов; одновременно задействуются 10 маршрутизируемых и один общий эксперт. Модель принимает текст, изображения и видео, а её основными результатами являются текстовые ответы и вызовы инструментов. Она поддерживает 201 язык и диалект. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. По умолчанию включён режим рассуждений; доступны интеграции с Transformers, vLLM, SGLang и KTransformers. Модель подходит для мультимодальных помощников, анализа визуального содержимого, сложных вопросов, программирования и агентных сценариев с вызовом инструментов. Эффективность вывода и пропускная способность зависят от используемого фреймворка и его версии. Веса и конфигурации опубликованы в формате Transformers/Safetensors под лицензией Apache-2.0.

Qwen3.5-397B-A17B-FP8 — мультимодальная модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия постобученной модели Qwen3.5-397B-A17B в формате Hugging Face Transformers, предназначенная для локального и серверного вывода с использованием Transformers, vLLM, SGLang, KTransformers и совместимых инструментов. Модель сочетает языковую модель с vision encoder и поддерживает обработку текста и изображений. Она использует гибридную архитектуру Gated Delta Networks и разреженной Mixture-of-Experts: всего 397 млрд параметров, из которых активируется 17 млрд; предусмотрено 512 экспертов, из них для токена выбираются 10 маршрутизируемых и 1 общий. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Модель ориентирована на рассуждения, программирование, визуальное понимание, агентные сценарии и другие задачи общего назначения. Ключевое преимущество версии FP8 — снижение требований к ресурсам при сохранении показателей, близких к исходной модели; используется мелкозернистое FP8-квантизирование с размером блока 128. Ограничениями являются значительные требования к вычислительной инфраструктуре из-за общего размера модели, а также необходимость проверять фактическую совместимость и производительность конкретного стека инференса. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-2.4T-A95B-FP8 — каузальная языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия постобученной модели Qwen3.8-2.4T-A95B в формате Hugging Face Transformers. Модель предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также многошаговых агентских сценариев с планированием и обработкой обратной связи от среды. Модель содержит 2,4 трлн параметров, из которых при обработке активируется около 95 млрд. Она использует гибридную архитектуру из Gated DeltaNet, Gated Attention и Mixture of Experts: 92 слоя, 512 экспертов, 10 маршрутизируемых и 1 общий активируемый эксперт. Нативная длина контекста составляет 262 144 токена и может быть расширена примерно до 1 010 000 токенов. Поддерживаются настраиваемая глубина рассуждений через reasoning_effort и сохранение контекста рассуждений между сообщениями через preserve_thinking. Языки и точный перечень поддерживаемых модальностей в README не указаны; заявленный pipeline относится к генерации текста. К сильным сторонам относятся высокая вычислительная ёмкость, улучшенные возможности в кодировании, профессиональной работе, исследованиях и длительных агентских задачах, а также совместимость с vLLM, SGLang и TokenSpeed. К ограничениям относятся чрезвычайно большой общий размер модели и, как следствие, высокие требования к инфраструктуре для локального запуска; FP8-квантизация также требует совместимого программного и аппаратного стека. Модель распространяется по лицензии qwen3.8-max; в метаданных она обозначена как other, а полный текст условий находится в файле LICENSE.

unsloth/Qwen3.8-27B-FP8 — FP8-квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen. Это плотная каузальная языковая модель с vision encoder, предназначенная для генерации текста, программирования, профессиональных и исследовательских задач, долгих агентских сценариев, а также понимания изображений и видео, включая документы, STEM-диаграммы и продолжительные видеоматериалы. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов. Архитектура основана на сочетании Gated DeltaNet, Gated Attention и FFN; также используется Multi-Token Prediction. Доступны режимы с рассуждением и без него: глубину рассуждений можно регулировать параметром reasoning_effort, а контекст рассуждений в диалоге сохранять с помощью preserve_thinking. Указанные материалы совместимы с Hugging Face Transformers, vLLM, SGLang и TokenSpeed. К сильным сторонам относятся развитые возможности для кода, профессиональной работы, исследований, автономного планирования и выполнения многошаговых задач, а также нативная мультимодальность и близкая к исходной модели производительность после квантизации. Ограничения включают зависимость эффективности и пропускной способности от используемого inference-фреймворка, а также дополнительные вычислительные и временные затраты при включённом глубоком рассуждении. В README не указаны поддерживаемые языки. Модель распространяется по лицензии Apache-2.0. Репозиторий содержит веса и конфигурации в формате Hugging Face Transformers; для производственного или высоконагруженного развёртывания рекомендуются специализированные серверные движки, например vLLM или SGLang.

Карточка модели jed351/qwen3-8B-SFT-DPO на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Qwen-72B-Chat — диалоговая языковая модель Alibaba Cloud, созданная на основе Qwen-72B с применением методов выравнивания. Это плотная Transformer-модель семейства Qwen с 119,4 млрд параметров и контекстом до 32 768 токенов; в репозитории представлены веса Safetensors. Модель предназначена для многошагового диалога и генерации текста по системным инструкциям. Она подходит для ответов на вопросы, ролевого общения и смены стиля, а также для рассуждений, перевода, математических задач и генерации кода. В описании заявлена поддержка китайского, английского и других языков; обучение включало веб-тексты, книги, код и математические данные. Для запуска в BF16/FP16 требуется не менее 144 ГБ видеопамяти, для Int4 — не менее 48 ГБ. В README приведены результаты бенчмарков, но они не гарантируют качество на конкретных пользовательских задачах. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

DeepSeek-V2-Chat-0628 — улучшенная версия диалоговой модели DeepSeek-V2-Chat, разработанная DeepSeek. Она предназначена для общения по инструкциям и генерации текста, включая помощь с программированием, математическими задачами, переводом и ответами на вопросы по документам в сценариях RAG. Модель построена на архитектуре DeepSeek-V2 и содержит 18,1 млрд параметров; заявленная длина контекста — 163 840 токенов. В репозитории веса представлены в формате safetensors. В карточке сообщается об улучшении результатов относительно предыдущей версии на HumanEval, MATH и BBH, а также об оптимизации следования инструкциям в системной части диалога. Для запуска BF16 версии локально README указывает требования в 8 GPU по 80 ГБ памяти. Лицензия в метаданных обозначена как other, поэтому условия использования следует проверять в документах лицензии репозитория.

Dolphin 2.7 Mixtral 8X7B AWQ — квантизированная 4-битная версия языковой модели Dolphin 2.7 Mixtral 8X7B, разработанной Cognitive Computations и подготовленной TheBloke. Модель основана на архитектуре Mixtral и предназначена для генерации текста, выполнения инструкций, диалоговых сценариев и задач программирования. При обучении использовались наборы данных Dolphin, Airoboros, Dolphin Coder, OpenHermes, Magicoder, Capybara и другие. Основной язык модели — английский. Модель использует квантизацию AWQ с параметрами 4 бит, group size 128 и форматом GEMM. Максимальная заявленная длина последовательности составляет 8192 токена, размер файлов модели — около 24,65 ГБ. Предусмотрен шаблон запросов ChatML с отдельными ролями system, user и assistant. Квантизация уменьшает требования к памяти и ускоряет инференс при сохранении качества, однако может незначительно влиять на точность по сравнению с исходной версией в формате FP16. Для запуска поддерживаются AutoAWQ, vLLM, Transformers и text-generation-webui; для Mixtral AWQ подтверждена работа vLLM версии 0.2.6. AWQ-версии рассчитаны преимущественно на Linux и Windows с GPU NVIDIA, поэтому на macOS рекомендуется использовать формат GGUF. В README указано, что модель распространяется по лицензии Apache-2.0.

Dolphin-2.9.3-Yi-1.5-34B-32k-GGUF — это квантизированная GGUF-версия текстовой генеративной модели dolphin-2.9.3-Yi-1.5-34B-32k. Базовая модель — 01-ai/Yi-1.5-34B-32k, исходная модель опубликована cognitivecomputations, а квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогов, следования инструкциям, генерации и анализа текста, программирования, решения математических задач, function calling и агентских сценариев. При обучении использовались наборы данных Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, Orca Math, Locutusque Function Calling и Agent-FLAN. Поддерживается шаблон сообщений ChatML с ролями system, user и assistant. Модель имеет 34 миллиарда параметров и заявленный контекст до 32 тысяч токенов. Это текстовая модель без заявленной поддержки изображений или других модальностей; поддерживаемые языки в README не указаны. Доступно множество вариантов квантизации от Q8_0 и Q6_K до Q3 и IQ3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Более низкие варианты требуют меньше оперативной памяти, но заметно уступают по качеству; некоторые варианты обозначены как экспериментальные. Модель распространяется по лицензии Apache-2.0. Для запуска рекомендуется совместимый стек llama.cpp или другое программное обеспечение, поддерживающее формат GGUF и соответствующие схемы квантизации.

Карточка модели alekshandru/gemma-4-12B на Hugging Face совпадает с карточкой google/gemma-4-12B, поэтому описание составлено по ней. Gemma 4 12B Unified — мультимодальная модель с открытыми весами, разработанная Google DeepMind и относящаяся к семейству Gemma 4. Она принимает текст, изображения, видео и аудио, а выдаёт текст; для аудио предусмотрены распознавание речи и перевод речи в текст. Единая архитектура позволяет обрабатывать аудио и изображения без отдельных энкодеров, что подходит для локального запуска на потребительских устройствах. Модель имеет плотную архитектуру и гибридное внимание, сочетающее локальные скользящие окна с глобальным вниманием; заявленное окно контекста для версии 12B — до 256 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, вызова инструментов, а также понимания изображений, видео и аудио. Среди визуальных сценариев — извлечение текста из документов, OCR, разбор PDF, диаграмм и экранных интерфейсов; для аудио доступны транскрипция и перевод речи в текст. Семейство поддерживает более 35 языков в обычном использовании и обучалось на более чем 140 языках, но README не перечисляет конкретные языки этой версии. Модель распространяется по лицензии Apache 2.0. Как и другие генеративные модели, она может давать ошибочные ответы; README также указывает, что приведённые сценарии использования не являются исчерпывающими.

mattbucci/gemma-4-12B-AWQ — 4-битная AWQ-Marlin-квантизированная версия модели google/gemma-4-12B-it, подготовленная mattbucci. Это унифицированная безэнкодерная модель Gemma 4 с архитектурой Gemma4UnifiedForConditionalGeneration. Она поддерживает работу с текстом, рассуждениями, инструментами, изображениями и аудио; заявленный нативный контекст составляет около 262 тысяч токенов. Модель использует attention с global-MQA и сочетание скользящего и полного внимания в пропорции 5:1. Квантизация выполнена в формате int4 W4A16 с размером группы 128. Линейные слои текстового декодера переведены в AWQ int4, тогда как эмбеддеры изображений и аудио, нормализации и связанная с эмбеддингами матрица lm_head сохранены в BF16 для поддержки мультимодальных возможностей. Согласно README, модель демонстрирует результаты 80% на MMLU, 95% на HumanEval, 100% на тесте Needle@long-ctx и 100% на тесте использования инструментов до контекста 256K; также заявлена работоспособность с изображениями и качественное рассуждение. Веса занимают около 5,4 ГБ на ранг при использовании int4. Модель предназначена для ресурсоэффективного инференса задач генерации и понимания текста, программирования, длинноконтекстного анализа, вызова инструментов, а также обработки изображений и аудио. Для запуска через SGLang требуются back-port-патчи 042–048 из указанного репозитория; на GPU Ampere рекомендуется использовать attention-backend triton и отключить CUDA Graph. Ограничения включают зависимость от специальной версии архитектуры и дополнительных патчей серверного ПО. Модель распространяется на условиях Gemma Terms of Use и является производной от google/gemma-4-12B-it.