I.5Создание и редактирование текста

mlx-community/Dolphin-2.9.3-Mistral-Nemo-12b-bf16 — преобразованная в формат MLX версия Dolphin 2.9.3 на базе Mistral Nemo, подготовленная сообществом mlx-community. Это плотная языковая модель с архитектурой MistralForCausalLM и 12,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Модель дообучена на базе mistralai/Mistral-Nemo-Base-2407; среди датасетов указаны Dolphin-2.9, OpenHermes-2.5, наборы для программирования, математики, вызова функций и агентных сценариев. Каталог указывает контекст до 1 024 000 токенов. Репозиторий содержит веса safetensors, а README описывает конвертацию в MLX с помощью mlx-lm 0.16.1, поэтому модель рассчитана на запуск в экосистеме MLX. Подходит для ответов на вопросы, следования инструкциям, генерации кода и решения математических задач. В метаданных указана лицензия Apache-2.0. Практическая применимость заявленной длины контекста и качество на конкретных задачах отдельно не подтверждены в предоставленной карточке.

Dolphin-2.9-Llama3-70B-GGUF — это квантизированная версия языковой модели Dolphin 2.9 на базе Llama 3 с 70 млрд параметров. Исходную модель разработала cognitivecomputations, а квантизации в формате GGUF подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, программирование, математические задачи, агентские сценарии и function calling. В README указан английский язык; модальность — текстовая. Размер контекстного окна не указан. Доступны варианты квантизации от Q8_0 до IQ1_M с размером файлов примерно от 16,75 до 74,97 ГБ. Более качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS; варианты с меньшей разрядностью экономят память, но могут заметно снижать качество. Модель использует формат диалогового шаблона ChatML с ролями system, user и assistant. К сильным сторонам относятся большой размер модели, широкий набор обучающих данных для инструкций, кода, математики, диалогов и вызова функций, а также возможность локального запуска через llama.cpp при выборе подходящей квантизации. Ограничения — значительные требования к оперативной или видеопамяти, зависимость качества от выбранного варианта квантизации и отсутствие в README сведений о точной длине контекста и результатах стандартизированных оценок. Указанная лицензия — llama3.

bartowski/dolphin-2.9-llama3-8b-GGUF — это набор GGUF-квантизаций модели dolphin-2.9-llama3-8b, разработанной cognitivecomputations и подготовленной для локального запуска. Модель предназначена для генерации текста в диалоговых и инструкционных сценариях, включая ответы на вопросы, программирование, решение математических задач, function calling и агентские задачи. Обучение опиралось на наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, UltraChat, Orca Math и другие датасеты. Это текстовая модель на архитектуре Llama 3 с размером 8 млрд параметров. Репозиторий содержит версии от F16 до различных вариантов Q8, Q6, Q5, Q4, Q3 и IQ-квантизаций, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Квантизации выполнены с использованием llama.cpp и метода imatrix; для взаимодействия указан шаблон промпта ChatML. Поддержка мультимодальности, конкретные языки и размер контекстного окна в README не указаны. Сильной стороной модели является широкий набор обучающих данных и наличие множества вариантов для локального инференса, включая версии, оптимизированные для ARM. Более сильные квантизации обеспечивают лучшее качество, но требуют больше памяти, тогда как Q3-версии экономичнее, но заметнее теряют в качестве. Для запуска рекомендуется использовать совместимый инференс-движок, например llama.cpp или LM Studio. Лицензия обозначена как other, однако её точные условия в README не приведены.

Dolphin 2.9 Llama 3 8B GGUF — квантизированная версия модели cognitivecomputations/dolphin-2.9-llama3-8b, разработанная и обученная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations. Модель создана на базе Meta Llama 3 8B с использованием llama.cpp и полным дообучением всех параметров в формате ChatML. Указано, что обучение проводилось на последовательностях длиной 4 096 токенов, а базовая модель поддерживает контекст до 8 000 токенов. Модель предназначена для генерации текста, диалогов, выполнения инструкций, программирования, решения математических задач, начальных агентских сценариев и function calling. В обучении использовались наборы данных для диалогов, кода, инструкций, tool use и математических задач, включая Dolphin 2.9, OpenHermes 2.5, CodeFeedback, Dolphin Coder, UltraChat и Orca Math. Модель рассчитана на работу с текстом; поддерживаемые языки явно не указаны. К сильным сторонам относятся сочетание разговорных, инструкционных и кодовых навыков, а также начальная поддержка инструментов и вызова функций. Модель описана как uncensored и высоко послушная, поэтому перед предоставлением доступа через сервис рекомендуется самостоятельно добавить слой фильтрации и выравнивания; безопасность и корректность результатов не гарантируются. Лицензия указана как Meta Llama 3 Community License Agreement; коммерческое использование допускается только в пределах условий этой лицензии.

Droplychee разработала Droplychee-2.0-40B — плотную авторегрессионную трансформерную модель семейства Qwen, дообученную на многоязычных инструкциях. Она предназначена для диалогов, рассуждений, программирования, следования инструкциям и работы с длинными документами; поддерживает сценарии с агентами и вызов инструментов. Модель содержит 40 млрд параметров и использует расширение контекста YaRN с заявленной длиной до 1 000 000 токенов. В README заявлена поддержка более 40 языков; основное внимание при обучении и оценке уделено английскому и бенгальскому. Репозиторий распространяет веса в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. К сильным сторонам авторы относят многоязычный диалог, программирование, рассуждения и анализ длинного контекста. Качество на предельной длине контекста зависит от движка вывода, оборудования и настроек; опубликованные оценки выполнены командой разработчиков и не проверены независимой стороной. Возможны фактические ошибки и различия качества между языками и областями; результаты следует проверять.

EMMA-500 Llama 3 8B bi — многоязычная языковая модель MaLA-LM, полученная продолжительным предварительным обучением архитектуры Llama 3 8B. Модель насчитывает 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Вариант bi обучен на многоязычных монолингвальных данных и двуязычном переводном корпусе для более чем 2 500 языковых пар; серия охватывает 546 языков. Модель предназначена для генерации многоязычного текста, машинного перевода, рассуждений на основе здравого смысла и классификации текстов, в том числе для языков с ограниченными ресурсами. В обучающие данные входят тексты из книг, кода, инструкций и научных статей. Лицензия — Llama 3 Community License (llama3).

Gemma-4-21B — разреженная мультимодальная модель семейства Gemma 4, подготовленная 0xSero на основе google/gemma-4-26b-a4b-it. Авторы удалили 20% экспертов Mixture-of-Experts с помощью метода REAP от Cerebras: осталось 103 эксперта на слой, из которых активируются 8 на каждом токене. Всего в модели около 21,34 млрд параметров, формат весов — BF16; активное число параметров на токен осталось около 4 млрд. Модель предназначена для диалоговой генерации текста, рассуждений, программирования, математики и работы с изображениями. В архитектуре 30 трансформерных слоёв с чередованием скользящего и полного внимания; заявленное окно контекста — 262 144 токена. Модель поддерживает режим внутреннего рассуждения с разделением каналов thought и response. Карточка приводит результаты ограниченных сравнительных оценок, в которых качество генерации в целом было близко к исходной модели, но на отдельных задачах отмечалось заметное снижение точности. Для запуска указаны Transformers и vLLM; пример настройки vLLM ограничивает контекст 16 384 токенами. Лицензия — Gemma. Поддержка изображений указана в README, хотя основной pipeline-тег модели — text-generation.

Карточка модели Iambackup/gemma-4-26B-A4B на Hugging Face совпадает с карточкой vmo247/vmo-gemma-4-26b-a4b-ft, поэтому описание составлено по ней. vmo247/vmo-gemma-4-26b-a4b-ft — мультимодальная модель, дообученная на базе Google Gemma 4 26B A4B. Она построена на архитектуре Gemma 4 для генерации текста по текстовым и графическим запросам и поддерживает диалоговый режим и анализ изображений. Вариант 26B A4B относится к MoE-моделям семейства; для Gemma 4 этого размера заявлено контекстное окно до 256K токенов и поддержка более 140 языков на уровне семейства. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, анализа графиков и интерфейсов, а также для диалогов, рассуждений, написания и исправления кода. В карточке этой производной модели не приведены отдельные результаты оценки качества; возможности видео и аудио, упомянутые для семейства Gemma 4, не подтверждены для данного 26B-варианта. Распространяется по лицензии Apache 2.0.

Google DeepMind Gemma 4 26B A4B IT QAT Q4_0 Unquantized — мультимодальная instruction-tuned модель семейства Gemma 4, связанная с базовой моделью google/gemma-4-26B-A4B-it. Это контрольная точка QAT: веса извлечены из конвейера обучения с учётом квантования, но сами хранятся в формате safetensors; вариант предназначен для последующей компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и выдаёт текст. Она подходит для диалогов, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания текста на изображениях и вызова инструментов. Для варианта 26B A4B в карточке семейства заявлено контекстное окно до 256K токенов; аудиовозможности относятся только к меньшим моделям семейства. QAT-обучение нацелено на сохранение качества, близкого к bfloat16, при снижении требований к памяти в соответствующих вариантах квантованных контрольных точек. Этот репозиторий содержит unquantized QAT-веса, поэтому сам по себе не является готовым GGUF или мобильным квантованным вариантом. Карточка описывает возможности семейства в целом; отдельные показатели качества для этого чекпойнта не приведены.

Gemma 4 26B A4B IT QAT Q4_0 Unquantized — мультимодальная инструктивная модель семейства Gemma 4, разработанная Google DeepMind. Это вариант Gemma 4 26B A4B IT с весами, полученными из конвейера обучения с учётом квантования (QAT): веса сохранены в половинной точности, а не в готовом квантованном формате. Репозиторий предназначен для последующей компиляции и исследовательской работы с QAT-чекпойнтами. Модель принимает текст и изображения и генерирует текст. Она подходит для диалогов, рассуждений, программирования, анализа изображений, распознавания текста в документах и на изображениях, понимания диаграмм и интерфейсов, а также агентных сценариев с вызовом инструментов. Для варианта 26B A4B README указывает контекст до 256K токенов; семейство поддерживает более 140 языков в обучающих данных. Для Gemma 4 заявлены гибридное внимание с локальными и глобальными слоями и режим рассуждений; вариант 26B A4B относится к MoE-линейке семейства. QAT-чекпойнты призваны снижать требования к памяти при сохранении качества, близкого к bfloat16, однако этот конкретный репозиторий содержит не готовый GGUF или другой формат для прямого развёртывания, а веса для последующей обработки. Лицензия — Apache 2.0. Аудио для этой модели не заявлено: в README оно поддерживается только вариантами E2B, E4B и 12B.

coder3101/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic — производная мультимодальная модель Gemma 4, созданная coder3101 на основе google/gemma-4-26B-A4B-it-qat-q4_0-unquantized. Это диалоговая модель с архитектурой Gemma4ForConditionalGeneration и поддержкой анализа изображений; она принимает текст и изображения и выдаёт текст. Базовое семейство Gemma 4 разработано Google DeepMind. Модель предназначена для диалогов, рассуждений, программирования и понимания изображений. Возможные сценарии включают ответы на вопросы по изображениям, извлечение данных из документов, распознавание текста и объектов на изображениях, анализ диаграмм и интерфейсов, генерацию и исправление кода, составление резюме и работу с инструментами. В карточке базового семейства заявлена поддержка более 35 языков и контекст до 256 тысяч токенов для варианта 26B A4B; аудиовозможности указаны только для других размеров Gemma 4, а README описывает видео для семейства в целом, поэтому эти возможности не приписываются данной модели. Модель помечена как uncensored/decensored/abliterated, что указывает на изменение поведения относительно базовой модели, но подробности обучения и конкретные эффекты не раскрыты. Возможны фактические ошибки, смещения и трудности с нюансами языка; ответы следует проверять, особенно в сложных или критичных задачах. Лицензия — Apache-2.0.

AtomicChat/gemma-4-E2B-it-assistant-GGUF — это квантизированная в формат GGUF версия модели google/gemma-4-E2B-it-assistant, подготовленная командой Atomic Chat на основе оригинальных весов Google. Модель предназначена для локального и полностью автономного запуска, прежде всего для текстовой генерации, диалоговых ассистентов, рассуждений, программирования и обработки длинного контекста. Для работы в llama.cpp необходимо применять шаблон чата Gemma 4 через параметр --jinja. Модель имеет плотную decoder-архитектуру Gemma4AssistantForCausalLM с 35 слоями, гибридным вниманием — скользящее окно 512 токенов и глобальное внимание — четырьмя attention heads на одну KV head, словарём из 262 тысяч токенов и заявленным контекстом до 128K токенов. Эффективный размер составляет 2,3 млрд параметров, или 5,1 млрд с учётом embedding-параметров. Базовая модель поддерживает текст, изображения и аудио, однако представленные GGUF-файлы являются текстовыми и не содержат vision projector. Доступны варианты Q4_K_S, Q4_K_M, Q5_K_M, Q8_0 и F16; квантизация выполнена с importance matrix, что помогает сохранять качество исходной модели при меньшем размере. Сильными сторонами являются компактность, возможность офлайн-развёртывания, поддержка длинного контекста и несколько уровней компромисса между качеством, скоростью и требованиями к памяти. Ограничения этой версии — отсутствие мультимодальных возможностей базовой модели и потенциальная потеря качества при низкобитной квантизации; приведённые в README результаты относятся к исходной модели Google, а не к самостоятельным измерениям этой сборки. Модель распространяется по лицензии Apache-2.0.

Это мультимодальная инструктивная модель Gemma 4 E2B IT с весами, полученными из конвейера обучения с учётом квантования (QAT). Её разработала Google DeepMind; репозиторий опубликован Unsloth. Вариант Q4_0 содержит веса половинной точности, извлечённые из QAT-конвейера, и предназначен для последующей компиляции и исследовательской работы; это не готовая квантованная сборка GGUF. Модель принимает текст и изображения и выдаёт текст. Она подходит для диалога, рассуждений, программирования, анализа изображений и документов, включая OCR, а также для вызова инструментов. Семейство Gemma 4 поддерживает длинный контекст: для E2B заявлено до 128K токенов, а семейство обучалось на более чем 140 языках. В README аудиовозможности указаны для E2B, однако входная модальность видео для данного репозитория отдельно не подтверждена. QAT нацелен на сохранение качества, близкого к bfloat16, при снижении требований к памяти в соответствующих квантованных вариантах. Этот репозиторий предоставляет извлечённые полутонные веса для пользовательской компиляции, поэтому сам по себе не гарантирует компактный запуск без дополнительной обработки. Лицензия — Apache 2.0.

gemma4-E2B-it-qat-Q4-unsloth-heretic — модифицированная instruction-tuned модель семейства Gemma 4 E2B. Базовую модель разработала Google DeepMind, веса подготовлены в формате Unsloth, а данная сборка опубликована MobiusDevelopment и обработана инструментом Heretic. Из модели удалено встроенное поведение отказа отвечать на отдельные запросы («abliteration» или decensoring), при этом заявлено сохранение общих возможностей базовой модели. Модель предназначена для генерации текста, диалоговых и агентских сценариев, программирования, дополнения и исправления кода, function calling и задач, требующих обработки длинного контекста. Gemma 4 E2B поддерживает текстовые и графические входы, а также аудио; выводом является текст. Заявлены понимание изображений, OCR, анализ документов и PDF, интерфейсов и графиков, распознавание речи и перевод речи в текст, встроенный режим пошагового рассуждения и мультиязычная работа более чем со 140 языками. Архитектура использует гибридное внимание с чередованием локального sliding-window и глобального внимания, Per-Layer Embeddings и Proportional RoPE. Вариант E2B имеет 2,3 млрд эффективных параметров и 5,1 млрд параметров с учётом эмбеддингов, 35 слоёв, окно локального внимания 512 токенов, контекст до 128K токенов и словарь размером 262 тысяч токенов. Доступны bf16 safetensors для полной мультимодальной версии, текстовый GGUF Q4_K_M и отдельные vision/audio mmproj GGUF. Главная особенность и одновременно ограничение сборки — отсутствие встроенных отказов, поэтому её ответы требуют дополнительного контроля безопасности; качество после модификации может отличаться от базовой модели. Использование регулируется лицензией Gemma и условиями Google Gemma Terms of Use; в метаданных также указана лицензия Apache-2.0.

GigaChat 3.1 Lightning — компактная instruct-модель семейства GigaChat 3.1 от ai-sage. Это модель класса Mixture-of-Experts с архитектурой DeepSeek V3: 10 млрд параметров, из которых при генерации активны 1,8 млрд. В этой версии веса представлены в BF16; используются Multi-head Latent Attention для сокращения KV-кэша и Multi-Token Prediction, которое может ускорять декодирование. Контекст составляет до 262 144 токенов. Модель предназначена для многоязычных диалогов и инструкций, рассуждений, программирования, вызова функций и развёртывания в прикладных продуктах. Карточка указывает поддержку русского и английского; обучающий корпус семейства охватывает 10 языков. Среди описанных сценариев — работа с поиском и цитированием, интерпретация кода с учётом файлов и диалоги с инструментами. Репозиторий использует Transformers и формат safetensors. Разработчик сообщает об улучшениях на задачах математики, программирования и других сложных областях, а также о высокой скорости генерации; приведённые результаты зависят от бенчмарка и конфигурации оборудования. Лицензия — MIT. Модель может ошибаться, а заявленные характеристики скорости требуют подходящей инфраструктуры и поддержки MTP в используемом движке.

GLM-4.7-Flash — языковая модель семейства GLM от Z.ai, представленная как модель Mixture of Experts с конфигурацией 30B-A3B: около 30 млрд параметров всего и примерно 3 млрд активных на токен. Метаданные Hugging Face указывают 4,1 млрд параметров, поэтому сведения о размере в источниках расходятся. Модель распространяется в формате Safetensors и работает через Transformers; для локального запуска также заявлена поддержка vLLM и SGLang. Модель предназначена для генерации текста и диалогов, включая рассуждения, программирование и агентные сценарии. В карточке приведены результаты бенчмарков по математике, вопросам на научные знания и программированию; заявлено окно контекста 202 752 токена. Карточка указывает английский и китайский языки. Модель выпущена Z.ai под лицензией MIT. Производитель позиционирует её как вариант для относительно лёгкого локального развёртывания с балансом производительности и эффективности. Для vLLM и SGLang требуются версии из основных веток проектов.

QuantTrio/GLM-4.7-Flash-AWQ — квантованная версия модели GLM-4.7-Flash, разработанной командой GLM (Z.ai). Модель предназначена для генерации текста, рассуждений, программирования, решения задач и агентских сценариев, включая использование инструментов. Она поддерживает английский и китайский языки и рассчитана на работу с Transformers, vLLM и SGLang. В основе лежит MoE-архитектура размером 30B-A3B: общий объём параметров составляет около 30 млрд, при этом в вычислениях активируется примерно 3 млрд параметров. Версия AWQ занимает около 19 GiB и ориентирована на более эффективное локальное развёртывание. В README для запуска через vLLM указан максимальный контекст 32 768 токенов, а также поддержка tensor parallelism, expert parallelism, tool calling и speculative decoding. Приведённые результаты показывают сильные показатели в математике, общих знаниях, программировании, агентских задачах и веб-поиске, однако сравнительные результаты зависят от конкретного бенчмарка. Основные ограничения — необходимость актуальных версий vLLM и Transformers, поддержка модели только в основных ветках соответствующих проектов, требование CUDA 12.8 для указанной конфигурации и рекомендованный запуск с распределением на два GPU. Лицензия модели — MIT.

GLM-4.7-Flash-MXFP4-MOE-GGUF — квантизированная версия языковой модели GLM-4.7-Flash от Zhipu AI, опубликованная в формате GGUF. Это модель Mixture-of-Experts на архитектуре DeepSeek2 с Multi-head Latent Attention: около 30 млрд параметров всего, из которых примерно 3,2 млрд активируются на токен; используются 64 маршрутизируемых эксперта и один общий. В README указан контекст до 200 000 токенов. Модель предназначена для генерации текста и диалогов, включая рассуждения и программирование. Она поддерживает английский и китайский языки; режим рассуждений включён по умолчанию. В квантизации MXFP4 веса экспертов представлены в 4-битном формате, а остальные тензоры — в Q8_0; файл весов занимает 15,8 ГБ. README указывает на запуск через llama.cpp на GPU или CPU. Квантизация рассчитана на более эффективный вывод при небольшом снижении качества относительно исходной модели. Репозиторий распространяется по лицензии MIT.

Карточка модели nesoai/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели yemsrach3723/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

openai/gpt-oss-20b — открытая по весам языковая модель, разработанная OpenAI для задач рассуждения, агентных сценариев и универсального использования разработчиками. Она предназначена для локального запуска, специализированных решений и приложений, где важны сниженная задержка и умеренные требования к ресурсам, включая генерацию текста, вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель построена на архитектуре Mixture of Experts (MoE) и содержит 21 млрд параметров, из которых 3,6 млрд активны при обработке запроса. Она поддерживает настраиваемый уровень рассуждений — низкий, средний или высокий — и обучена работать с форматом ответов harmony, использование которого обязательно для корректной работы. Модель доступна для запуска через Transformers, vLLM, PyTorch/Triton, Ollama и LM Studio; благодаря квантованию весов MoE в формате MXFP4 она может работать примерно в пределах 16 ГБ памяти. К сильным сторонам относятся открытая настройка, возможность дообучения, агентные инструменты и гибкое управление балансом качества рассуждений и задержки. При этом модель является текстовой, а README не содержит сведений о поддерживаемых языках, размере контекстного окна, результатах оценивания и ограничениях качества. Полная цепочка рассуждений доступна разработчику для отладки и повышения доверия, но не предназначена для показа конечным пользователям. Лицензия Apache 2.0 допускает свободное использование, модификацию и коммерческое развертывание.

FastFlowLM/GPT-OSS-20B-NPU2 — текстовая генеративная модель на базе openai/gpt-oss-20b, разработанной OpenAI. Она предназначена для задач рассуждения, универсальной генерации текста, локального и специализированного применения, а также агентских сценариев для разработчиков, включая вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель относится к серии open-weight gpt-oss-20b: заявлено 21 млрд параметров, из которых 3,6 млрд активны при инференсе. Используется архитектура MoE с постобучением весов в формате MXFP4; модель рассчитана на работу примерно в пределах 16 ГБ памяти. Поддерживается настраиваемый уровень рассуждения — low, medium или high, а также дообучение. Формат входа и ответа должен соответствовать harmony response format, иначе модель может работать некорректно. README не содержит подтвержденных сведений о языках, размере контекста и мультимодальных возможностях; по указанному pipeline_tag модель предназначена для генерации текста. Сильными сторонами являются относительно низкие требования к памяти, возможность локального запуска, настраиваемый баланс качества рассуждений и задержки, а также пригодность для кастомизации и агентских приложений. К ограничениям относятся обязательное использование harmony response format и то, что цепочку рассуждений не рекомендуется показывать конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей свободное использование, модификацию и коммерческое развертывание.

Карточка модели RedHatAI/granite-3.2-2b-instruct на Hugging Face совпадает с карточкой ibm-granite/granite-3.2-2b-instruct, поэтому описание составлено по ней. Granite-3.2-2B-Instruct — инструкционная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это плотная авторегрессионная модель на 2,5 млрд параметров, дообученная на базе ibm-granite/granite-3.1-2b-instruct для задач рассуждения и выполнения инструкций; режим рассуждения можно включать по необходимости. Модель работает с текстом, поддерживает диалог и интерфейс вызова инструментов, имеет контекст до 131 072 токенов и распространяется в формате safetensors по лицензии Apache 2.0. Модель предназначена для общих инструкционных задач и интеграции в ассистентов: ответов на вопросы, суммаризации длинных документов и встреч, извлечения и классификации текста, RAG, задач с кодом и вызова функций. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Среди сильных сторон — длинный контекст, управляемое рассуждение и многоязычный диалог. К ограничениям относятся унаследованные от Granite-3.1-2B-Instruct ограничения и этические соображения; README не приводит их подробнее.

Gravity-30B-A5B-Preview — языковая модель Trillion Labs, дообученная на основе Gravity-30B-A5B-Base. Это разреженная модель семейства GravityMoE: в карточке указаны 29,56 млрд параметров всего и 5,34 млрд активных параметров; метаданные каталога сообщают 3,8 млрд параметров. Модель принимает текст и генерирует ответы в диалоговом формате, поддерживает контекст до 131 072 токенов и гибридный режим рассуждений, включённый по умолчанию. Обучение включало длинноконтекстное instruction tuning и несколько этапов DPO, в том числе настройку многошагового использования инструментов на метках, полученных при выполнении вызовов. Модель предназначена для диалогов, рассуждений, работы с кодом и научными темами, а также сценариев с вызовом инструментов. Это предварительная версия; агентные и многошаговые возможности продолжают развиваться, а качество может снижаться для языков, слабо представленных в обучающих данных. Для работы требуется Transformers с поддержкой пользовательского кода архитектуры. Лицензия — Apache-2.0.

GRM-2.6-Plus-0628 — дообученная OrionLLM модель с 27 млрд параметров на архитектуре семейства Qwen3.5. Она предназначена для общего общения и сложных задач, включая структурированные рассуждения, программирование и длительные многошаговые агентные сценарии. Метаданные указывают поддержку изображений и интерфейса вызова инструментов; модель принимает текст и изображения и генерирует текст. В README также описана исправленная версия шаблона чата для передачи вызовов инструментов в некоторых движках инференса. Модель выпущена под лицензией Apache 2.0. Заявления о высокой производительности приведены в карточке, но численные результаты бенчмарков в доступном тексте отсутствуют.

Hermes 3 Llama 3.1 405B FP8 — языковая модель общего назначения от Nous Research, дообученная на основе Meta Llama 3.1 405B. Это плотная авторегрессионная модель семейства Llama с 403,7 млрд параметров и контекстом до 131 072 токенов. Данная версия квантизована в FP8 методом NeuralMagic и предназначена для запуска через vLLM; по данным карточки, для неё требуется около 430 ГБ видеопамяти. Модель предназначена для диалогового ассистента, следования инструкциям, рассуждений, ролевого общения, генерации кода и работы с длинным контекстом. Она поддерживает формат диалога ChatML, вызов функций и структурированный вывод JSON, позволяя интегрировать её в агентные сценарии и приложения с инструментами. Основной язык, подтверждённый карточкой, — английский. Модель выдаёт конкурентные результаты относительно инструкционных моделей Llama 3.1, но качество зависит от задачи и сценария. Это текстовая модель, поэтому она не принимает изображения или аудио. FP8-вариант требует значительных ресурсов для запуска и совместим с vLLM. Лицензия — Llama 3; применяются её условия использования.

Карточка модели luganoquants/Hermes-4-70B на Hugging Face совпадает с карточкой NousResearch/Hermes-4-70B, поэтому описание составлено по ней. Hermes 4 70B — большая языковая модель Nous Research для диалога и генерации текста, дообученная на базе Meta Llama 3.1 70B. Она содержит около 69,5 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 131 072 токенов. Модель рассчитана на ответы ассистента, рассуждения, математику, программирование, STEM-задачи, логику и творческое письмо; также заявлены следование инструкциям, вызов инструментов и генерация структурированных ответов, включая JSON. Hermes 4 предлагает гибридный режим рассуждений, в котором модель может выводить отдельные сегменты обдумывания, а также обучена точнее придерживаться заданных схем и форматов. README описывает улучшенную управляемость и снижение отказов, но эти характеристики заявлены разработчиком и не гарантируют корректность или безопасность каждого ответа. В карточке указаны английский язык и лицензия Llama 3; использование регулируется условиями этой лицензии. Для запуска модели такого размера обычно требуется мног GPU или подходящая квантизированная версия.

HermesNova — языковая модель на архитектуре Llama 3.1, созданная линейным слиянием Hermes-3-Llama-3.1-8B от Nous Research и Llama-3.1-SuperNova-Lite от Arcee AI с помощью mergekit. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста в диалоговом формате, включая вызов инструментов. Модель подходит для ведения диалогов, ответов на инструкции, рассуждений и генерации кода. Заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors; лицензия — llama3.1.

Карточка модели Merlinoz11/Hy3-Apex-GGUF на Hugging Face совпадает с карточкой tencent/Hy3, поэтому описание составлено по ней. Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

Inkling — мультимодальная модель общего назначения от Thinking Machines. Это авторегрессионный трансформер с 66 слоями, архитектурой decoder-only и разреженным MoE-блоком: из 256 экспертов для каждого токена активируются 6, а ещё 2 общих эксперта участвуют всегда. Всего в модели 975 млрд параметров, активно используется 41 млрд. Поддерживаются форматы BF16 и NVFP4; веса опубликованы в Safetensors. Модель принимает текст, изображения и аудио, обрабатывает их в общем пространстве представлений и выдаёт текст. Она предназначена для диалогов, следования инструкциям, анализа изображений и аудио, программирования, агентных систем с использованием инструментов и RAG-приложений. Основной язык — английский; заявлены также общие многоязычные возможности. Для изображений рекомендуются размеры сторон от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее 20 минут. Модель доступна для интеграции, исследований и дообучения; лицензия — Apache-2.0. Возможны фактические ошибки, неточное следование инструкциям и ухудшение качества в длинных диалогах; качество может различаться между языками и предметными областями. Для важных решений требуется проверка человеком, а для публичных приложений README рекомендует дополнительные меры модерации.