I.14Автоматизация процессов и AI-агенты

SLIM-INTENT — специализированная модель серии SLIM от llmware, дообученная для анализа намерений и вызова функции классификации. Она принимает текст и формирует структурированный результат в виде словаря Python с полем intent, например с меткой «complaint», пригодный для дальнейшей обработки в автоматизированных цепочках LLM. Модель построена на архитектуре Llama с плотной decoder-only языковой моделью и содержит 1 млрд параметров. Она рассчитана на текстовый ввод и текстовый структурированный вывод; в карточке показан англоязычный пример, но языковая поддержка отдельно не заявлена. Контекст — до 2048 токенов. Доступна в формате PyTorch, лицензия — Apache-2.0.

Jamba2 Mini — компактная языковая модель, разработанная AI21 Labs для надёжных корпоративных сценариев. Она использует архитектуру Jamba, сочетающую слои SSM и Transformer с разреженной экспертной моделью (MoE), и содержит 7,2 млрд параметров по метаданным. Модель предназначена для генерации текста и диалогов, ответов на вопросы, следования инструкциям и работы с длинными документами; поддерживает контекст до 262 144 токенов. Модель обучалась на основе предобучения Jamba 1.5 с последующим дообучением на длинных документах, коде, математике и веб-текстах, а также этапами SFT, DPO и обучения с подкреплением. Разработчик сообщает о настройке на точное следование инструкциям и опору на предоставленный контекст. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование. Для запуска через vLLM в README рекомендуется версия 0.12.0 или выше.

basal-1.0-1.5B — польская и английская модель для классификации решений, разработанная автором репозитория Remek и дистиллированная из basal-1.0-4.5B. Это компактная инструкционная модель семейства Llama с 1,5 млрд параметров и контекстом до 8192 токенов; она принимает описание состояния и вопрос с вариантами ответа и оценивает допустимые варианты, включая выбор, ответ «да/нет» и числовую оценку. Модель предназначена для динамической классификации без переобучения: категории и правила задаются в запросе. Примеры применения — маршрутизация обращений и документов, проверка соответствия правилам и политике, оценка срочности или риска, выбор агента или инструмента и предварительная сортировка случаев по порогу уверенности. Вместо обычной генерации текста модель вычисляет распределение вероятностей по вариантам за один проход; усреднение предсказаний при прямом и обратном порядке вариантов помогает уменьшить чувствительность к их порядку. По оценке автора, версия 1,5B уступает версии 4,5B в точности, но обеспечивает примерно вдвое меньшую задержку и в 2,5 раза большую пропускную способность при половинном потреблении памяти. Модель поддерживает польский и английский языки и распространяется по лицензии Apache 2.0. Перед применением на собственных данных рекомендуется отдельная проверка и настройка порогов уверенности; решения с серьёзными последствиями следует проверять человеком.

BTL-4 — языковая модель с 35 млрд параметров от Bad Theory Labs, дообученная на базе Ornith-1.0-35B на корпусе рассуждений, отобранных по успешному выполнению кода и прохождению тестов. Модель построена на архитектуре Qwen 3.5 MoE и предназначена для генерации текста в сценариях использования инструментов, разработки ПО и длительной работы агентных систем. Среди заявленных результатов — 73,5% на BFCL v4 AST, 66,1% на LiveCodeBench v6 и 78,4% на SWE-bench Verified. Модель поддерживает контекст до 262 144 токенов; для сложных задач ей требуется большой бюджет генерации. Это специализированная модель рассуждений, а не обычный чат-бот: ответы могут быть многословными, а при запуске в агентном цикле необходимо корректно отделять рассуждения от основного текста, иначе качество длительных сессий снижается. Для обслуживания README приводит пример настройки vLLM и рекомендует доверенную загрузку удалённого кода. Лицензия — Apache-2.0.

DeepSeek-OCR-2-GGUF — это квантованные варианты мультимодальной vision-language OCR-модели DeepSeek-OCR-2, разработанной командой DeepSeek AI и распространяемой в репозитории SandLogicTechnologies. Модель работает с изображениями и текстом, поддерживает многоязычные сценарии и ориентирована на распознавание текста, понимание структуры документов и извлечение структурированной информации. Модель предназначена для оцифровки сканов, обработки счетов, чеков, форм, таблиц, книг и отчетов, анализа сложных визуальных документов, выделения пар «ключ-значение», а также построения корпоративных OCR-конвейеров, систем поиска и индексации документов. Заявлены возможности анализа макета, взаимосвязей между абзацами, таблицами и формами, включая работу с рукописным и цифровым содержимым. Размер исходной модели составляет около 3 млрд параметров. Доступны GGUF-варианты IQ3_M, IQ4_NL и IQ4_XS для локального запуска через llama.cpp; их размер составляет примерно 1,35, 1,59 и 1,53 ГБ соответственно вместо 5,47 ГБ для 16-битной версии. Ключевое преимущество вариантов GGUF — сниженные требования к памяти и возможность локального развертывания на потребительском оборудовании и периферийных устройствах. IQ4_NL ориентирован на более высокую сохранность качества распознавания, IQ4_XS предлагает баланс между точностью, скоростью и потреблением памяти, а IQ3_M обеспечивает максимальную компактность, но может сильнее терять качество на плотных макетах, рукописном тексте и сложных документах. Для модели не указаны точное максимальное окно контекста, полный перечень поддерживаемых языков и количественные результаты бенчмарков. Лицензия — MIT.

NVIDIA DeepSeek-V4-Flash-0731-NVFP4 — это квантизированная версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek AI и оптимизированной NVIDIA с помощью Model Optimizer. Модель предназначена для коммерческого и некоммерческого использования и ориентирована на сложное рассуждение, агентные AI-приложения, работу с инструментами, математику, программную инженерию и корпоративных AI-ассистентов. Модель построена на архитектуре Transformer и использует Mixture-of-Experts с 304 млрд параметров, из которых активируются 13 млрд, гибридное внимание Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Это авторегрессионная языковая модель с текстовым вводом и выводом, поддержкой многоходовых диалогов, системных инструкций, структурированного JSON, function calling и отображения рассуждений. Максимальная длина контекста составляет 1 млн токенов; доступны уровни reasoning effort low, high и max. Модель включает модуль спекулятивного декодирования DSpark. К сильным сторонам относятся поддержка очень длинного контекста, задач рассуждения, программирования, следования инструкциям и агентного взаимодействия с инструментами. Модель предназначена прежде всего для запуска на GPU NVIDIA с архитектурой Blackwell в Linux через SGLang или vLLM; совместимость с другими платформами в README не указана. Данные исходного обучения не раскрыты, поэтому заявленные характеристики требуют дополнительной проверки на прикладных данных. Модель распространяется по лицензии MIT.

unsloth/Devstral-Small-2507-unsloth-bnb-4bit — 4-битная версия Devstral Small 1.1, подготовленная Unsloth на основе моделей Mistral AI. Devstral разработана в сотрудничестве Mistral AI и All Hands AI как агентная языковая модель для задач программной инженерии, включая исследование кодовых баз, вызов инструментов, редактирование нескольких файлов и работу в составе coding-агентов. Модель содержит 24 миллиарда параметров, использует текстовую модальность и поддерживает контекст до 128 тысяч токенов. Она поддерживает формат function calling Mistral и особенно ориентирована на использование с OpenHands. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского и ряда других языков. Токенизатор Tekken имеет словарь размером 131 тысяча токенов. Сильными сторонами модели являются специализация на агентном программировании, большой контекст, поддержка инструментов и возможность локального запуска, в том числе на одной RTX 4090 или Mac с 32 ГБ оперативной памяти. В SWE-Bench Verified указано качество 53,6% при использовании OpenHands Scaffold. Ограничения включают текстовую природу модели без поддержки изображений и необходимость корректной настройки шаблона запросов и инструментального взаимодействия. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию.

Dolphin 2.9.3 Mistral 7B 32k — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-7B-v0.3. Она предназначена для диалогов, следования инструкциям, помощи с программированием и вызова функций в агентных сценариях. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; при дообучении применялась длина последовательности 8192 токена. Для общения используется шаблон ChatML. Модель обучалась на смесях диалоговых, инструкционных, кодовых и математических данных, включая Dolphin-2.9, OpenHermes-2.5, Dolphin Coder и Orca Math. Разработчики характеризуют её как uncensored и предупреждают, что перед предоставлением сервиса следует самостоятельно настроить слой выравнивания и меры контроля ответов. Лицензия Apache 2.0 разрешает коммерческое использование.

Falcon OCR — модель TII для распознавания текста и разбора документов по изображению. Это компактная модель на 270 млн параметров с ранним слиянием визуальных и текстовых токенов: единый Transformer обрабатывает патчи изображения и текст в общем пространстве параметров, используя двунаправленное внимание для изображения и причинное декодирование текста с учётом изображения. Модель извлекает обычный текст, формулы в LaTeX и таблицы в HTML; промпты позволяют выбирать категории элементов страницы. Она рассчитана на сканы, фотографии документов, чеки, рукописные заметки, формы, журналы и другие материалы. Для большинства страниц рекомендуется сквозной OCR; для очень плотных многоколоночных страниц доступен двухэтапный сценарий с детектором макета PP-DocLayoutV3. Версия 1.5 дообучена с GRPO для улучшения работы с реальными документами, сложными таблицами, рукописным текстом и деградированными сканами, а также для снижения галлюцинаций и повторов. Компактный размер помогает снизить задержку и стоимость обслуживания; в описанной авторами конфигурации vLLM пропускная способность может быть в 2–3 раза выше, чем у OCR VLM размером около 0,9 млрд параметров, в зависимости от длины последовательностей и пакетирования. Для запуска требуются PyTorch 2.5 или новее и Transformers. Лицензия — Apache-2.0.

GLM-4.5-Air-REAP-82B-A12B — сжатая версия GLM-4.5-Air от Cerebras, созданная методом REAP (Router-weighted Expert Activation Pruning). Это причинная языковая модель со смешанной экспертной архитектурой MoE: из 128 экспертов удалена четверть, осталось 96, из которых активируются 8 на каждый токен. В модели 82 млрд параметров, при этом на токен активируется около 12 млрд; контекст составляет 131 072 токена. Модель предназначена для генерации текста и кода, работы с агентными сценариями, вызова функций и понимания крупных репозиториев. По данным карточки, она сохраняет производительность, близкую к исходной GLM-4.5-Air, и требует примерно на 25% меньше памяти; дополнительное дообучение после прореживания не проводилось. Для развёртывания README указывает актуальную версию vLLM и поддержку вызова инструментов. Модель распространяется по лицензии MIT. Карточка заявляет близкие к исходной модели результаты, однако приводит подробности оценок отдельно; качество на конкретных задачах и требования к памяти зависят от конфигурации развёртывания.

GLM-4.6-FP8 — языковая модель для генерации текста, разработанная командой zai-org, связанной с Zhipu AI. Модель предназначена для работы с агентами, рассуждениями, программированием, поиском и использованием инструментов, а также для задач, где важны качество текста и естественность ролевого взаимодействия. Модель поддерживает английский и китайский языки, работает через библиотеку Transformers и имеет контекстное окно до 200 000 токенов. По сравнению с GLM-4.5 заявлены улучшения в кодировании, рассуждениях, использовании инструментов и поисковых агентах, а также более качественная генерация визуально оформленных интерфейсов. В README не указаны архитектура, количество параметров и точные сведения о поддерживаемых модальностях; по заявленному pipeline_tag модель относится к генерации текста. К сильным сторонам относятся увеличенный контекст, улучшенная работа с кодом и агентскими сценариями, поддержка tool use во время вывода и более естественный стиль написания. Ограничения и результаты конкретных тестов в README подробно не приведены. Для общих оценок рекомендуется temperature 1.0, а для задач программирования дополнительно top_p 0.95 и top_k 40. Модель распространяется по лицензии MIT.

GLM-4.6V-Flash-GGUF — мультимодальная модель семейства GLM-V, разработанная Z.ai (zai-org) и представленная в формате GGUF компанией Unsloth. Это облегчённая версия GLM-4.6V с 9 млрд параметров, ориентированная на локальное развёртывание и приложения с низкой задержкой. Модель поддерживает китайский и английский языки, работает с текстом и изображениями, а также предназначена для обработки скриншотов, страниц документов, таблиц, графиков и других визуальных данных. Модель рассчитана на визуальное понимание, мультимодальное рассуждение, анализ длинных и сложных документов, распознавание структуры и содержимого изображений, а также на сценарии мультимодальных агентов. Она поддерживает контекст до 128K токенов, нативный Function Calling с передачей изображений и документов инструментам, интерливинг текстового и визуального контента, генерацию HTML/CSS по скриншотам интерфейсов и визуальное редактирование по инструкциям на естественном языке. К сильным сторонам относятся сочетание визуального восприятия, рассуждения и вызова инструментов, поддержка длинного мультимодального контекста и оптимизация для локального использования. Ограничения включают меньший размер и, вероятно, более ограниченные возможности по сравнению с облачной версией GLM-4.6V на 106 млрд параметров; конкретные требования к оборудованию и характеристики квантования для данного GGUF в README не указаны. Лицензия модели — MIT.

QuantTrio/GLM-4.7-Flash-AWQ — квантованная версия модели GLM-4.7-Flash, разработанной командой GLM (Z.ai). Модель предназначена для генерации текста, рассуждений, программирования, решения задач и агентских сценариев, включая использование инструментов. Она поддерживает английский и китайский языки и рассчитана на работу с Transformers, vLLM и SGLang. В основе лежит MoE-архитектура размером 30B-A3B: общий объём параметров составляет около 30 млрд, при этом в вычислениях активируется примерно 3 млрд параметров. Версия AWQ занимает около 19 GiB и ориентирована на более эффективное локальное развёртывание. В README для запуска через vLLM указан максимальный контекст 32 768 токенов, а также поддержка tensor parallelism, expert parallelism, tool calling и speculative decoding. Приведённые результаты показывают сильные показатели в математике, общих знаниях, программировании, агентских задачах и веб-поиске, однако сравнительные результаты зависят от конкретного бенчмарка. Основные ограничения — необходимость актуальных версий vLLM и Transformers, поддержка модели только в основных ветках соответствующих проектов, требование CUDA 12.8 для указанной конфигурации и рекомендованный запуск с распределением на два GPU. Лицензия модели — MIT.

Карточка модели unsloth/GLM-4.7-REAP-218B-A32B на Hugging Face совпадает с карточкой cerebras/GLM-4.7-REAP-218B-A32B, поэтому описание составлено по ней. GLM-4.7-REAP-218B-A32B — сжатая разреженная языковая модель семейства GLM-4.7 от Cerebras. Она получена методом REAP, который удаляет из смеси экспертов менее значимые компоненты; после прунинга дообучение не проводилось. Модель содержит 218 млрд параметров, из которых 32 млрд активируются на токен, и поддерживает контекст до 202 752 токенов. Модель предназначена для генерации кода и текста, агентных рабочих процессов, понимания репозиториев и вызова функций. В карточке заявлено, что она сохраняет близкое к исходной GLM-4.7 качество при уменьшении объёма памяти примерно на 40%; для версии BF16 приведены характеристики, но результаты оценки не указаны. Модель можно развернуть с актуальным vLLM. Лицензия — MIT. README рекомендует вариант BF16 для последующей низкобитной квантизации.

Карточка модели abelsimon/GLM-5.3 на Hugging Face совпадает с карточкой unsloth/GLM-5.3, поэтому описание составлено по ней. GLM-5.3 — текстовая диалоговая модель Z.ai, представленная в репозитории Unsloth. По карточке модели, она использует ту же базовую модель, что и GLM-5.2, а улучшения получены на этапе постобучения. В каталожных метаданных производная отмечена как слияние с zai-org/GLM-5.3 и zai-org/GLM-5.3-BF16; архитектура относится к семейству GLM MoE DSA, размер — 30,4 млрд параметров. Модель предназначена для генерации текста в диалогах, сложного программирования и длительных агентских задач. Карточка сообщает о высоких результатах на тестах кодирования, работы с терминалом, уязвимостей и эксплуатации, но эти результаты не гарантируют аналогичного качества в каждом сценарии. Поддерживаются английский и китайский языки, а контекст составляет до 1 048 576 токенов. Параметр reasoning_effort управляет глубиной рассуждений и принимает значения low, high и max; по умолчанию используется max. Для локального развёртывания перечислены SGLang, vLLM, Transformers, KTransformers, Unsloth и другие среды. Формат файлов — safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

Карточка модели baerquant/GLM-5.3 на Hugging Face совпадает с карточкой unsloth/GLM-5.3, поэтому описание составлено по ней. GLM-5.3 — текстовая диалоговая модель Z.ai, представленная в репозитории Unsloth. По карточке модели, она использует ту же базовую модель, что и GLM-5.2, а улучшения получены на этапе постобучения. В каталожных метаданных производная отмечена как слияние с zai-org/GLM-5.3 и zai-org/GLM-5.3-BF16; архитектура относится к семейству GLM MoE DSA, размер — 30,4 млрд параметров. Модель предназначена для генерации текста в диалогах, сложного программирования и длительных агентских задач. Карточка сообщает о высоких результатах на тестах кодирования, работы с терминалом, уязвимостей и эксплуатации, но эти результаты не гарантируют аналогичного качества в каждом сценарии. Поддерживаются английский и китайский языки, а контекст составляет до 1 048 576 токенов. Параметр reasoning_effort управляет глубиной рассуждений и принимает значения low, high и max; по умолчанию используется max. Для локального развёртывания перечислены SGLang, vLLM, Transformers, KTransformers, Unsloth и другие среды. Формат файлов — safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

Карточка модели xannie1/GLM-5.3 на Hugging Face совпадает с карточкой unsloth/GLM-5.3, поэтому описание составлено по ней. GLM-5.3 — текстовая диалоговая модель Z.ai, представленная в репозитории Unsloth. По карточке модели, она использует ту же базовую модель, что и GLM-5.2, а улучшения получены на этапе постобучения. В каталожных метаданных производная отмечена как слияние с zai-org/GLM-5.3 и zai-org/GLM-5.3-BF16; архитектура относится к семейству GLM MoE DSA, размер — 30,4 млрд параметров. Модель предназначена для генерации текста в диалогах, сложного программирования и длительных агентских задач. Карточка сообщает о высоких результатах на тестах кодирования, работы с терминалом, уязвимостей и эксплуатации, но эти результаты не гарантируют аналогичного качества в каждом сценарии. Поддерживаются английский и китайский языки, а контекст составляет до 1 048 576 токенов. Параметр reasoning_effort управляет глубиной рассуждений и принимает значения low, high и max; по умолчанию используется max. Для локального развёртывания перечислены SGLang, vLLM, Transformers, KTransformers, Unsloth и другие среды. Формат файлов — safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

GLM-OCR — мультимодальная модель оптического распознавания символов для сложных документов, построенная на архитектуре GLM encoder–decoder. В состав входят визуальный энкодер CogViT, лёгкий межмодальный соединитель с уменьшением числа токенов и языковой декодер GLM-0.5B; общий размер модели — 0,9 млрд параметров. Для разбора документов модель можно использовать в конвейере с анализом макета и параллельным распознаванием на основе PP-DocLayout-V3. Модель предназначена для извлечения текста и структуры из изображений и PDF, включая таблицы, формулы, документы с печатями и материалы с фрагментами кода. Она также поддерживает извлечение структурированных сведений по заданной JSON-схеме. В карточке заявлены результаты на тестах распознавания документов и варианты развёртывания через vLLM, SGLang и Ollama; для полного разбора документов автор рекомендует SDK с PP-DocLayout-V3. Заявлена поддержка китайского, английского, французского, испанского, русского, немецкого, японского и корейского языков. Репозиторий использует библиотеку Transformers и формат safetensors. Лицензия — MIT. Для извлечения сведений требуется строго соблюдать заданную JSON-схему; заявленная скорость и качество зависят от тестовых условий и конфигурации развёртывания.

NVIDIA gpt-oss-120b-Eagle3-v3 — вариант модели OpenAI gpt-oss-120b с дообученными Eagle3-модулями для ускорения спекулятивного декодирования. В карточке указана архитектура Transformer с Mixture-of-Experts и 120 млрд параметров; метаданные репозитория сообщают о 739,4 млн параметров в размещённых весах. Модель принимает текстовые последовательности и генерирует текст, поддерживает контекст до 131 072 токенов и предназначена для работы на GPU NVIDIA. Модель рассчитана на чат-ботов и AI-агентов, ответы по документам в RAG-системах, выполнение инструкций, генерацию кода и рассуждения. Eagle3 предсказывает несколько последующих токенов, а базовая модель проверяет предложенные последовательности; доступны режимы инференса TensorRT-LLM и vLLM. В README заявлено улучшение точности относительно других вариантов gpt-oss-120b-Eagle3. В README указана готовность к коммерческому и некоммерческому применению, однако метаданные обозначают лицензию как other, поэтому условия следует сверять с лицензией репозитория. Карточка также сообщает, что меры по снижению нежелательной предвзятости не указаны; для конкретных сценариев рекомендуется проверять качество и безопасность на собственных данных.

unsloth/gpt-oss-120b-unsloth-bnb-4bit — 4-битная версия модели gpt-oss-120b, разработанной OpenAI и подготовленной Unsloth в формате BNB 4-bit. Модель предназначена для универсальной генерации текста, задач, требующих развитого рассуждения, агентских сценариев и использования разработчиками. Она поддерживает вызов функций, веб-браузинг, выполнение кода на Python и структурированные ответы, а также может дообучаться под специализированные задачи. Модель имеет архитектуру Mixture of Experts (MoE), около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Исходная модель обучена с нативной квантованием MXFP4 для MoE-слоёв, а данный вариант представлен в 4-битном формате для снижения требований к памяти. Доступна настройка интенсивности рассуждения на уровнях low, medium и high. Данные о поддерживаемых языках и размере контекстного окна в представленном README не указаны. Ключевое ограничение — модель корректно работает только с форматом ответов harmony, поэтому при интеграции необходимо использовать соответствующий chat template или совместимый пакет. Полная цепочка рассуждений доступна для отладки и анализа, но не предназначена для показа конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование, модификацию и дообучение.

unsloth/gpt-oss-20b-GGUF — GGUF-версия открытой весовой модели gpt-oss-20b, разработанной OpenAI и подготовленной к распространению командой Unsloth. Модель предназначена для генерации текста, задач, требующих рассуждений, агентских сценариев и локального или специализированного использования с пониженной задержкой. Это MoE-модель примерно на 21 млрд параметров, из которых при обработке активны около 3,6 млрд. Она поддерживает настраиваемый уровень рассуждений — low, medium или high — и возможности function calling, веб-браузинга, выполнения Python-кода и Structured Outputs. Модель обучена работать в формате harmony, который необходимо использовать для корректной работы. GGUF-вариант рассчитан на запуск через совместимые инструменты, а нативная MXFP4-квантизация позволяет разместить модель примерно в 16 ГБ памяти; конкретные характеристики зависят от варианта квантизации. Сильные стороны модели — открытые веса, возможность тонкой настройки, агентские функции, гибкое соотношение качества и задержки, а также удобство локального запуска. Ограничения включают обязательное использование harmony-формата и необходимость самостоятельно оценивать качество, безопасность и пригодность результатов для конкретного применения. Указанная лицензия Apache 2.0 допускает свободное использование, модификацию и коммерческое развертывание без copyleft-ограничений.

FastFlowLM/GPT-OSS-20B-NPU2 — текстовая генеративная модель на базе openai/gpt-oss-20b, разработанной OpenAI. Она предназначена для задач рассуждения, универсальной генерации текста, локального и специализированного применения, а также агентских сценариев для разработчиков, включая вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель относится к серии open-weight gpt-oss-20b: заявлено 21 млрд параметров, из которых 3,6 млрд активны при инференсе. Используется архитектура MoE с постобучением весов в формате MXFP4; модель рассчитана на работу примерно в пределах 16 ГБ памяти. Поддерживается настраиваемый уровень рассуждения — low, medium или high, а также дообучение. Формат входа и ответа должен соответствовать harmony response format, иначе модель может работать некорректно. README не содержит подтвержденных сведений о языках, размере контекста и мультимодальных возможностях; по указанному pipeline_tag модель предназначена для генерации текста. Сильными сторонами являются относительно низкие требования к памяти, возможность локального запуска, настраиваемый баланс качества рассуждений и задержки, а также пригодность для кастомизации и агентских приложений. К ограничениям относятся обязательное использование harmony response format и то, что цепочку рассуждений не рекомендуется показывать конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей свободное использование, модификацию и коммерческое развертывание.

GRM-2.6-Plus-0628 — дообученная OrionLLM модель с 27 млрд параметров на архитектуре семейства Qwen3.5. Она предназначена для общего общения и сложных задач, включая структурированные рассуждения, программирование и длительные многошаговые агентные сценарии. Метаданные указывают поддержку изображений и интерфейса вызова инструментов; модель принимает текст и изображения и генерирует текст. В README также описана исправленная версия шаблона чата для передачи вызовов инструментов в некоторых движках инференса. Модель выпущена под лицензией Apache 2.0. Заявления о высокой производительности приведены в карточке, но численные результаты бенчмарков в доступном тексте отсутствуют.

Карточка модели Ishowbackup/Hy3 на Hugging Face совпадает с карточкой tencent/Hy3, поэтому описание составлено по ней. Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

Карточка модели Merlinoz11/Hy3-Apex-GGUF на Hugging Face совпадает с карточкой tencent/Hy3, поэтому описание составлено по ней. Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

Карточка модели yusasufhin/Jarvis_Experts на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-480B-A35B-Instruct, поэтому описание составлено по ней. Qwen3-Coder-480B-A35B-Instruct — большая языковая модель для программирования от команды Qwen. Это причинная языковая модель с архитектурой MoE: всего 480 млрд параметров, из которых при генерации активируются 35 млрд; в метаданных каталога размер указан как 15,4 млрд параметров. Модель обучалась в несколько этапов, включая предобучение и последующее обучение, и распространяется в формате Safetensors под лицензией Apache 2.0. Модель предназначена для генерации и понимания кода, работы с большими репозиториями и агентных сценариев, включая управление браузером. Она поддерживает диалог и интерфейс вызова функций, а карточка рекомендует интеграции с Qwen Code и CLINE. Контекстное окно составляет 262 144 токена; README указывает на возможность расширения до 1 млн токенов с помощью Yarn. Режим рассуждений с включённым thinking модель не поддерживает. Заявленные разработчиком сильные стороны — результаты на агентном программировании и работе с браузером, сопоставимые с Claude Sonnet, и обработка контекста масштаба репозитория. Для развёртывания модели такого общего размера требуются значительные вычислительные ресурсы; точные требования зависят от конфигурации инференса.

NVIDIA Kimi-K2.7-Code NVFP4 — квантизированная версия языковой модели Kimi-K2.7-Code, разработанной Moonshot AI. NVIDIA подготовила и оптимизировала эту сборку с помощью Model Optimizer для запуска на NVIDIA GPU; сама NVIDIA не является разработчиком исходной модели. Модель предназначена для генерации текста и кода, научного программирования, агентного использования инструментов, работы с терминалом и решения задач программной инженерии. В зависимости от конфигурации сервинга она может возвращать естественно-языковые ответы, код, структурированный JSON, запросы вызова инструментов, инструкции для координации агентов и другие артефакты. Модель использует архитектуру Transformers с сетевой архитектурой DeepSeek V3 и механизмом Mixture-of-Experts: всего заявлен 1 трлн параметров, из которых 32 млрд активируются при обработке запроса. Поддерживаются текст, изображения и видео на входе, а также контекст длиной до 256 тысяч токенов; выход представлен текстом. Веса и активации линейных операторов внутри MoE-блоков преобразованы из INT4 через BF16 в формат NVFP4. Предусмотрен запуск через vLLM на NVIDIA Blackwell под Linux; тестирование выполнялось на NVIDIA B200. Сильные стороны модели — большой контекст, поддержка мультимодальных входных данных, задачи кодирования и агентного взаимодействия, а также готовая к инференсу NVFP4-квантизация для совместимого оборудования. При этом сведения об обучающих и тестовых данных, их размере и составе в основном не раскрыты, а NVIDIA не проводила обучение или тестирование для данного релиза Model Optimizer. Практическая производительность и безопасность требуют дополнительной проверки на данных конкретного сценария. Использование регулируется NVIDIA Open Model License; также указана Modified MIT License для исходной модели Kimi-K2.7-Code.

Карточка модели Pq234/Kimi-VL-A3B-Instruct на Hugging Face совпадает с карточкой moonshotai/Kimi-VL-A3B-Instruct, поэтому описание составлено по ней. Kimi-VL-A3B-Instruct — открытая мультимодальная модель Moonshot AI для понимания изображений, видео и текста. Она объединяет языковую модель с архитектурой Mixture-of-Experts, визуальный энкодер MoonViT с обработкой изображений в исходном разрешении и MLP-проектор. Всего модель содержит 16 млрд параметров, при генерации активирует около 3 млрд; контекстное окно — 128 тыс. токенов. Модель предназначена для диалогов с визуальными данными, распознавания текста на изображениях, анализа длинных документов и видео, понимания нескольких изображений и выполнения агентных задач по скриншотам. Поддерживает ввод текста, изображений и видео и выдаёт текстовые ответы. В README приведены результаты на задачах OCR, визуального понимания и взаимодействия с агентами; для сложных рассуждений, включая математику, разработчики рекомендуют вариант Kimi-VL-A3B-Thinking. Модель распространяется по лицензии MIT. Для запуска доступны веса в формате safetensors и библиотека Transformers. README рекомендует температуру 0,2 для Instruct-варианта. Указанные результаты основаны на бенчмарках разработчиков; качество может зависеть от задачи и настроек инференса.

LFM2-1.2B-Extract — компактная языковая модель Liquid AI на базе LFM2-1.2B, дообученная для извлечения значимой информации из неструктурированных документов и преобразования её в заданный формат: JSON, XML или YAML. Модель построена на плотной архитектуре LFM2 и имеет около 1,5 млрд параметров. Она принимает текст и выдаёт структурированный текст; контекст — до 128 000 токенов. Модель предназначена для обработки статей, расшифровок, отчётов, писем, нормативных документов и обращений в поддержку. Она поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский языки. Для более точного соответствия формату и схеме рекомендуется задавать системную инструкцию; разработчик советует использовать жадное декодирование с temperature=0. По данным README, на внутренней оценке модель показала сильные результаты в формировании сложных структурированных объектов, однако качество зависит от документа и схемы. Модель рассчитана на однократные диалоги. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.

Llama-3.1-Nemotron-Nano-4B-v1.1 — компактная плотная авторегрессионная языковая модель на архитектуре Llama, размещённая в репозитории Unsloth и основанная на NVIDIA Llama-3.1-Nemotron-Nano-4B-v1.1. Это дообученный чекпойнт примерно на 3,9 млрд параметров, созданный для диалога, следования инструкциям и рассуждений; в обучении использовались SFT и этапы обучения с подкреплением для математики, кода, работы с инструментами и предпочтений в чате. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для локального запуска на одном GPU и для создания чат-ботов, агентных систем и приложений RAG. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, а также задач с кодом. Карточка сообщает, что модель готова к коммерческому использованию, однако метаданные обозначают лицензию только как other и не раскрывают её условия, поэтому перед использованием следует проверить лицензионные условия репозитория. В README приведены результаты на отдельных бенчмарках; они получены при контексте до 32 тыс. токенов и не гарантируют аналогичного качества в других сценариях.