III.2Исследование рынка и маркетинг

unsloth/Qwen3.6-27B-MTP-GGUF — квантованный формат модели Qwen3.6-27B, разработанной командой Qwen; сборка и GGUF-квантизация предоставлены Unsloth. Это открытая модель с лицензией Apache-2.0, предназначенная для локального запуска и интеграции через llama.cpp, Unsloth Studio и другие совместимые инструменты. Она ориентирована прежде всего на агентное программирование, работу с интерфейсами и репозиториями, итеративную разработку с сохранением контекста рассуждений, а также вызов инструментов. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает текстовые и визуальные сценарии. Размер языковой части — 27 млрд параметров; архитектура включает 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также multi-token prediction (MTP), обученную на нескольких шагах. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Языки в README не указаны. Ключевое преимущество MTP — заявленное ускорение инференса примерно в 1,5–2 раза без потери точности. Модель поддерживает запуск на GPU, CPU и Metal, однако для MTP в llama.cpp пока не поддерживаются параллельные последовательности с np > 1 и мультимодальный проектор mmproj. При больших окнах контекста возможен повышенный расход памяти; README рекомендует уменьшать контекст при нехватке памяти, сохраняя по возможности не менее 262 144 токенов.

mlx-community/dolphin-2.9-llama3-70b-4bit — квантизированная 4-битная версия модели Dolphin 2.9 на базе Llama 3, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.11.0. Исходная модель разработана cognitivecomputations. Модель содержит около 69,5 млрд параметров и предназначена для запуска и генерации текста в экосистеме MLX на совместимом оборудовании Apple. Модель ориентирована на англоязычные диалоговые и инструкционные сценарии, включая ответы на вопросы, помощь с программированием, математическими задачами, работу с инструкциями и вызовами функций. Максимальная длина контекста составляет 8192 токена. В метаданных указана лицензия Llama 3.

MinerU2.5-2509-1.2B-GGUF — мультимодальная модель для анализа и разбора документов, разработанная OpenDataLab. Она предназначена для преобразования изображений документов и текстовых запросов в текстовые ответы, в частности для эффективного высокоразрешающего парсинга документов. Модель основана на архитектуре с разделёнными компонентами обработки зрения и языка (decoupled vision-language model), имеет размер 1,2 млрд параметров и распространяется в формате GGUF для запуска с llama.cpp. В карточке указаны поддерживаемые языки китайский и английский, а тип конвейера — image-text-to-text. Длина контекста, точный набор поддерживаемых форматов документов и сведения о конкретном уровне квантования не указаны. К сильным сторонам относятся ориентация на обработку документов высокого разрешения, мультимодальный ввод и возможность использования компактной 1,2-миллиардной версии в экосистеме GGUF. Ограничениями являются неизвестные из карточки показатели качества, подробности архитектуры, контекстное окно и требования к ресурсам; качество также может зависеть от выбранной квантованной версии. Модель распространяется по лицензии AGPL-3.0, поэтому условия её использования и интеграции следует проверять с учётом требований этой лицензии.

AceInstruct-7B — языковая модель NVIDIA из семейства AceInstruct, дообученная методом supervised fine-tuning на базе Qwen2.5-Base. Она предназначена для программирования, математики, общих знаний и широкого круга пользовательских запросов; поддерживает диалоговый режим. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и принимает контекст до 131 072 токенов. В опубликованных оценках AceInstruct-7B показывает результаты, сопоставимые с Qwen2.5-7B-Instruct на задачах программирования, математики и общих знаний. Она генерирует текст по запросу, включая ответы, объяснения и код. В карточке указан английский язык; других поддерживаемых языков источники не подтверждают. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Оценки в карточке основаны на бенчмарках и не гарантируют качество для каждого запроса или предметной области.

jondurbin подготовил эту плотную 65-миллиардную языковую модель на архитектуре LLaMA, дообучив её методом QLoRA на синтетических инструкциях, созданных GPT-4. Модель предназначена для диалоговой генерации текста и отвечает на запросы в формате, основанном на шаблоне Vicuna. Она рассчитана на программирование, математические задачи и рассуждения, викторины, ролевые диалоги, вопросы с вариантами ответа и по заданному контексту, а также общие запросы. Для промптов на написание кода предусмотрена инструкция PLAINFORMAT, которая просит вывести код без Markdown-разметки; автор отмечает, что она срабатывает не всегда. Модель содержит 65 млрд параметров, работает с контекстом до 2048 токенов и распространяется в формате PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Модель может ошибаться, а следование формату PLAINFORMAT не гарантировано.

Карточка модели indigoskyai/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

OBLITERATUS/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель, разработанная OBLITERATUS на базе Qwen/Qwen3.8-27B. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев, а также исследований безопасности ИИ и red-team-тестирования. Основной заявленный профиль — ответы на запросы, которые исходная модель может отклонять, включая кибербезопасность и программирование. Модель использует архитектуру Qwen3 с 27 млрд параметров и поддерживает режимы с рассуждением и без него. Доступны форматы GGUF, Safetensors и MLX; заявлена совместимость с текстовым pipeline для генерации текста. В README не указаны точное максимальное контекстное окно и полный перечень поддерживаемых языков. Для версии V3 приводится результат 82,3% на MMLU в режиме 0-shot, что на 2,1 процентного пункта ниже базовой модели; также заявлены рабочие ответы во всех 20 проверенных задачах генерации кода. К сильным сторонам относятся снижение частоты отказов и защитных отговорок, близкая к базовой общая производительность и пригодность для генерации кода. Ограничениями являются некоторое ухудшение результата MMLU, склонность к зацикливанию без repetition_penalty и возможная чувствительность к настройкам генерации. В README рекомендуются temperature 0, repetition_penalty 1.15 и не менее 2048 новых токенов; для агентных сценариев предлагаются более низкая длина ответа и периодическое сокращение контекста. Модель распространяется по лицензии Apache-2.0.

DiCoW v3.2 — модель распознавания речи от команды BUT Speech@FIT Брненского технического университета, предназначенная для многособеседниковой автоматической транскрипции речи (MT-ASR) и распознавания речи целевого говорящего. Модель основана на Whisper large-v3-turbo и насчитывает около 905,2 млн параметров; в карточке указана архитектура DiCoW и формат весов safetensors. Для загрузки используется Transformers. В версии 3.2 применены преобразование FDDT с учётом диаризации, последовательное декодирование с резервным поиском, обнаружение и подавление галлюцинаций при инференсе, а декодер заморожен при дообучении для сохранения языковых возможностей. Обучение опиралось на NOTSOFAR-1, AMI Meeting Corpus и Libri2Mix; использовались шумовые аугментации, включая SpecAugment и смешивание с MUSAN. Модель рассчитана на многоязычную речь, однако конкретный перечень языков в предоставленных данных не приведён. Лицензия модели — CC BY 4.0; базовая модель имеет лицензию MIT, а обучающие данные — CC BY 4.0.

Карточка модели wucjik/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

Mistral_Pro_8B_v0.1 — плотная авторегрессионная языковая модель семейства Mistral, разработанная лабораторией Tencent ARC. По описанию разработчиков, модель расширяет Mistral-7B добавлением блоков Transformer и дообучена на корпусах кода и математики; в метаданных указаны 8,9 млрд параметров, контекст до 32 768 токенов и формат Safetensors. Модель предназначена для генерации текста и широкого круга языковых задач, с особым акцентом на программирование, математику и общие языковые запросы. Она принимает текст и генерирует текст; в карточке указаны английский язык и датасеты по математике, коду и общим текстам. Разработчики приводят результаты сравнительных бенчмарков, но они не гарантируют качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. Она может ошибаться, особенно в узкоспециализированных областях, и наследует возможные смещения обучающих данных.

tvall43/Qwen3.6-35B-A3B-heretic — созданная сообществом декензурированная версия Qwen3.6-35B-A3B, полученная с помощью Heretic v1.2.0 и метода ablation/abliteration, изменяющего проекции внимания. Это мультимодальная модель семейства Qwen с архитектурой MoE: всего 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения и генерирует текст. Модель предназначена для диалогов, анализа изображений и задач программирования, включая работу с репозиториями и агентные сценарии с вызовом инструментов. В README приведено сравнение с исходной моделью: на указанной авторами выборке доля отказов снизилась с 86 из 100 до 5 из 100, а KL-дивергенция составила 0,0097. Контекст — 262 144 токена с возможностью расширения до 1 010 000 токенов. Для запуска используются веса safetensors и совместимые с Transformers среды, включая vLLM, SGLang и KTransformers. Модель опубликована по лицензии Apache-2.0. Изменение поведения отказов может приводить к ответам на запросы, которые исходная модель отклоняла; приведённые показатели относятся к оценке автора и не гарантируют качество или безопасность в иных сценариях.

hellohazime/Qwen3.8-2.4T-A95B-REAP-512GB-GGUF — GGUF-сборка модели Qwen3.8-2.4T-A95B, основанная на unsloth/Qwen3.8-2.4T-A95B-GGUF и подготовленная автором hellohazime. Это MoE-модель с 512 экспертами в каждом слое, из которых сохранены 304, выбранные по частоте маршрутизации на англоязычном веб-корпусе и коде. Ширина модели не изменялась, а исходная квантизация UD-IQ2_XXS сохранена без повторной квантизации. Размер файла составляет около 404 ГБ (376 GiB), что позволяет полностью разместить модель в памяти Mac с 512 ГБ и использовать её через стандартный llama.cpp. Модель предназначена прежде всего для генерации текста, работы с английским языком и программным кодом, включая агентские сценарии с использованием инструментов и длительные задачи разработки. Заявлено окно контекста 262 144 токена; в проверках использовался контекст до 131 072 токенов. По сравнению с исходной некроппированной квантизированной моделью сборка сохранила 89,7% маршрутизаций экспертов, показала совпадение наиболее вероятного токена 87,6% на английском тексте и 90,0% на коде, а также продемонстрировала загрузку и генерацию в stock llama.cpp. Сильными сторонами являются высокая точность относительно исходной Q2-квантизации, отсутствие необходимости в специальном runtime и пригодность для локального запуска на системе с 512 ГБ памяти. Ограничения связаны с экспертным pruning: отбор калибровался на английском веб-контенте и коде, поэтому неанглоязычные языки и задачи за пределами этих доменов могут пострадать. Производительность и качество за пределами проверенных режимов, включая более длинные контексты и иные распределения данных, не подтверждены. Лицензия указана как other, license_name — qwen3.8-max; ссылка ведёт на лицензию Qwen3.8-2.4T-A95B.

Qwopus3.6-27B-Coder-Compat-MTP-GGUF — GGUF-версия модели Jackrong/Qwopus3.6-27B-Coder, разработанная Jackrong. Это мультимодальная модель для генерации текста и работы с изображениями, ориентированная на программирование, рассуждения, агентские сценарии, использование инструментов и function calling. Заявлена совместимость с llama.cpp, minja и шаблонами Hugging Face Jinja, а также с OpenAI-совместимыми историями агентов. Ключевая особенность этой редакции — обновлённый chat template, который принимает аргументы вызовов инструментов как предварительно сериализованные JSON-строки, структурированные отображения или списки, сохраняя исходную структуру payload. В комплект включены MTP-тензоры для speculative decoding; заявленный показатель принятия черновых токенов составляет 76,81% (944 из 1229). Проверки совместимости шаблона дали 10 из 10 успешных случаев в Hugging Face и llama.cpp/minja, без зафиксированных некорректных циклов tool call. Модель поддерживает английский, китайский, испанский, русский и японский языки. Точный размер контекста, детали архитектуры и требования к ресурсам в README не указаны. Обновление относится к уровню шаблона совместимости: веса модели и встроенные MTP-тензоры, согласно README, не изменены. Модель распространяется по лицензии Apache-2.0.

NVIDIA Nemotron-3-Super-120B-A12B-BF16 — большая языковая модель с открытыми весами, разработанная NVIDIA Corporation. Представленная версия распространяется в формате GGUF и сгенерирована с использованием llama.cpp; исходная модель выпущена 11 марта 2026 года. Модель предназначена для агентских сценариев, рассуждений с длинным контекстом, использования инструментов, RAG и высоконагруженных задач, включая автоматизацию IT-заявок. Архитектура LatentMoE объединяет Mamba-2, Mixture of Experts и механизмы внимания, а также Multi-Token Prediction. Всего модель содержит 120 млрд параметров, из которых 12 млрд активны при обработке запроса, и поддерживает контекст до 1 млн токенов. Доступны английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Режим рассуждений можно включать или отключать через шаблон чата. К сильным сторонам относятся сочетание большого контекста, разреженной MoE-архитектуры, поддержки инструментов и ориентация на агентские и корпоративные рабочие процессы. Ограничения включают значительный общий размер модели и высокие требования к инфраструктуре: для исходной версии указано минимум 8 GPU H100 с 80 ГБ памяти. GGUF-версия использует специальную настройку квантования с повышением точности отдельных слоёв, что может увеличить размер файла. Модель распространяется по лицензии NVIDIA Nemotron Open Model License.

Step-3.5-Flash-FP8 — открытая foundation-модель, разработанная StepFun и представленная в формате FP8 на базе stepfun-ai/step-3.5-flash. Она предназначена для сложного рассуждения, программирования, агентских сценариев, многошагового выполнения задач, поиска и обработки больших объёмов информации. Модель ориентирована на интерактивное применение и локальное развёртывание, включая высокопроизводительное потребительское оборудование. Архитектура модели основана на разреженной Mixture of Experts (MoE): всего модель содержит 196 млрд параметров, из которых для каждого токена активируется около 11 млрд. Технология Multi-Token Prediction (MTP-3) обеспечивает заявленную скорость генерации около 100–300 токенов в секунду, с пиковыми значениями до 350 токенов в секунду для однопоточных задач программирования. Поддерживается контекстное окно объёмом 256K токенов; для его эффективной обработки используется гибридная схема Sliding Window Attention с соотношением 3:1. К сильным сторонам относятся высокая скорость вывода, эффективность MoE-архитектуры, способность работать с длинным контекстом и результаты на задачах рассуждения, программирования и автономных агентов, включая 74,4% на SWE-bench Verified и 51,0% на Terminal-Bench 2.0. Ограничения, включая языковую специализацию, мультимодальность и требования к аппаратным ресурсам, в README явно не описаны. Модель распространяется по лицензии Apache 2.0.

Megalodon-OCR-Sync-0713-AIO-GGUF — мультимодальная модель, разработанная prithivMLmods. Это GGUF-версия Megalodon-OCR-Sync-0713, дообученной на базе Qwen2.5-VL-3B-Instruct. Модель предназначена для обработки изображений и текста, включая OCR, извлечение и анализ содержимого документов, а также работу с визуальными данными. Модель ориентирована на поиск и извлечение информации из документов разных типов и форматов, распознавание структурированных и неструктурированных данных, таблиц, графиков, математических выражений и других визуальных представлений. Она поддерживает контекстный анализ сложных и длинных документов, форматирование результатов в LaTeX, мультиязычный анализ, визуальное позиционирование объектов для управления устройствами и понимание видео длительностью более 20 минут. Заявлены английский и китайский языки. Объём контекста в README не указан. Доступны варианты квантования GGUF от F16 размером 6,18 ГБ до компактных вариантов менее 1 ГБ, что позволяет выбирать баланс между качеством и требованиями к ресурсам. Сильными сторонами являются специализация на OCR и документах, работа с разнообразными визуальными структурами и применимость в образовательных и корпоративных сценариях. Ограничениями являются значительные требования к вычислительным ресурсам, а также возможное снижение качества на изображениях низкого качества и при работе с редкими языками. Лицензия — Apache 2.0.

DeepSeek-V2.5 — языковая модель компании DeepSeek, объединяющая возможности DeepSeek-V2-Chat и DeepSeek-Coder-V2-Instruct. Она предназначена для диалога, следования инструкциям, письма и генерации кода, а также поддерживает вызов внешних инструментов, JSON-вывод и заполнение пропусков в коде методом FIM. Модель построена на архитектуре DeepSeek-V2 и содержит 18,1 млрд параметров; для инференса в BF16 авторы указывают требование в 8 GPU по 80 ГБ. Контекстное окно составляет 163 840 токенов. Для запуска доступны веса safetensors и библиотека Transformers. README сообщает об улучшении результатов относительно предыдущих версий DeepSeek в нескольких оценках, включая AlpacaEval 2.0 и ArenaHard. Лицензия указана как other, поэтому условия использования следует уточнить в материалах репозитория. Среди практических ограничений — высокая потребность в GPU-памяти при запуске в BF16; README не описывает поддерживаемые естественные языки.

MiniMax-M1-80k-hf — открытая модель весов от MiniMax для генерации текста и пошагового рассуждения. Это вариант MiniMax-M1 с бюджетом рассуждения до 80K токенов; репозиторий предназначен прежде всего для Transformers. Архитектура сочетает Mixture-of-Experts и гибридное внимание с механизмом lightning attention. В карточке указано 21,6 млрд параметров, а заявленный нативный контекст составляет 10 240 000 токенов; README описывает семейство M1 как модель с контекстом до 1 млн токенов и обучением с подкреплением на математических задачах, программировании и задачах с инструментами. Модель рассчитана на сложные задачи с длинными входами и развёрнутым рассуждением: решение математических задач, программную инженерию, генерацию и анализ кода, ответы на вопросы по большому контексту и сценарии с вызовом функций. README отмечает результаты на бенчмарках математики, кодирования, агентного использования инструментов и длинного контекста. Модель принимает текст и генерирует текст; интерфейс вызова инструментов поддерживается в структурированном формате. Лицензия — Apache-2.0. Веса в репозитории представлены в формате safetensors. Указанное в метаданных значение контекста расходится с описанием семейства в README, поэтому фактический предел может зависеть от конкретной конфигурации и программного окружения. Заявленные оценки получены на отдельных бенчмарках и не гарантируют качество на произвольных задачах.

Qwen3-4B-Thinking-2507-Qwen3.8-Max-Distillation-Detrax — компактная дистиллированная языковая модель в формате GGUF, опубликованная пользователем или организацией Detrax. Она основана на Qwen3-4B-Thinking-2507 и обучалась с использованием набора данных r0b0tlab/qwen3.8-max-distillation-50k. В README не указаны точные сведения о разработчике дистилляции, языковом охвате и исходной архитектуре, кроме принадлежности к семейству Qwen и наличия 4 млрд параметров. Модель предназначена для генерации текста, многошагового рассуждения, написания и отладки кода, решения математических задач, структурированного логического вывода и точного соблюдения инструкций и ограничений. Заявлены улучшения по сравнению с базовой моделью в математическом рассуждении, генерации кода, логическом выводе, релевантности и сходстве ответов; наиболее заметные результаты отмечены для алгоритмических и требующих строгого соблюдения ограничений задач. Модель поставляется в вариантах F16, Q8_0, Q6_K и Q4_K_M размером примерно от 2,3 до 7,5 ГБ. Она совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими средами, поддерживающими GGUF. Рекомендуемая длина контекста составляет 8192 токена. Сильными сторонами являются компактность, эффективность на технических задачах и возможность запуска на CPU или с GPU offloading. Ограничения включают меньший размер по сравнению с крупными моделями, зависимость качества от выбранного уровня квантования и отсутствие в README подробных данных о поддерживаемых языках, мультимодальности и независимой оценке качества. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-QAT-Q2_0 — квантизированная версия Qwen3.8-27B, разработанная Samuel Yuan и предназначенная для запуска через llama.cpp. Модель представлена в формате GGUF, использует 2-битное квантование Q2_0 с учётом квантования при обучении (QAT) и занимает 8,76 ГБ. Базовая модель разработана командой Qwen; точные архитектурные параметры, поддерживаемые языки и размер контекстного окна в README не указаны. Модель ориентирована прежде всего на генерацию текста, программирование, рассуждения и tool calling. Квантование специально оптимизировано для сохранения качества кода и reasoning, поэтому подходит для устройств с менее чем 12–16 ГБ видеопамяти, включая некоторые Mac. По приведённым измерениям, согласие с FP16-моделью составляет 94,7% для reasoning, 93,3% для кода и 78,7% для tool calling. Ограничением является некоторое ухудшение мультимодальных возможностей и извлечения необработанных фактов, включая результаты на Wikitext-2; мультимодальность также не описана подробно. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-MTP-GGUF — GGUF-версия модели Qwen3.6-35B-A3B, разработанной командой Alibaba Qwen. Это разреженная мультимодальная модель Mixture-of-Experts с 35 млрд общих параметров и примерно 3 млрд активных параметров на токен. Модель принимает текст, изображения и видео, поддерживает английский язык и имеет контекст до 262 тысяч токенов; заявлено расширение до 1 млн токенов с помощью YaRN. Модель предназначена прежде всего для агентного программирования, работы с кодом, фронтенд-задач, анализа репозиториев, мультимодальных сценариев и интеграции с инструментами. Она поддерживает вызов функций, структурированный вывод и режимы рассуждения. Архитектура сочетает линейное внимание Gated DeltaNet со стандартными слоями gated attention. Формат MTP добавляет несколько выходных голов для предсказания будущих токенов и ускорения спекулятивного декодирования без отдельной draft-модели. К сильным сторонам относятся большой контекст, мультимодальность, низкое число активных параметров относительно общего размера и возможность локального запуска в различных вариантах квантования; заявленное потребление для некоторых конфигураций составляет около 21–24 ГБ VRAM. Ограничения включают значительные требования к памяти для BF16/F16 и снижение качества при более агрессивном квантовании. Доступны файлы GGUF размером примерно от 13,2 до 71,1 ГБ и отдельные мультимодальные проекторы. Модель распространяется по лицензии Apache 2.0.

Virtuoso-Small-v2 — языковая модель на 14 млрд параметров от Arcee AI, основанная на архитектуре Qwen2.5-14B. Модель дообучена с дистилляцией логитов DeepSeek-V3 на большом текстовом корпусе, затем дополнительно выровнена с помощью DPO. Для совместимости при переносе знаний применялась обработка токенизатора; итоговая модель использует токенизатор Qwen. Метаданные указывают контекст до 131 072 токенов и формат Safetensors. Модель предназначена для диалоговой генерации текста, ответов на технические и научные вопросы, решения математических задач и генерации кода. В карточке также заявлен интерфейс вызова инструментов. README описывает дистилляцию знаний DeepSeek-V3 и улучшение следования инструкциям, однако количественные сравнительные оценки не приведены. Модель распространяется по лицензии Apache-2.0. Среди ограничений указаны возможные пробелы в знаниях о событиях после июня 2024 года и риск генерации вредного или предвзятого текста; заявленная длина контекста в README округлена до 128k токенов.

Focus Red — перепакованная текстовая версия Qwen3.8-27B от Jaidchen. Из модели удалены компоненты обработки изображений и видео, а архитектура упрощена; заявленные автором преимущества — меньшие требования к памяти и хранилищу, более быстрая загрузка и инференс. Модель использует плотную архитектуру Qwen3_5ForCausalLM, содержит 22,3 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации текста в диалогах и сценариях с инструментами; метаданные также отмечают применение для программирования и агентных задач. Шаблон чата сохраняет настройки рассуждений Qwen и обработку вызовов инструментов. Изображения и видеокадры могут присутствовать в контексте, но модель не интерпретирует их. Генерация со случайной выборкой по умолчанию отключена, поэтому модель менее подходит для длинных творческих текстов и непринуждённого общения. Лицензия — Apache-2.0.

Nex-N2.5-Max — языковая модель семейства Nex-N2.5, разработанная компанией Nex-AGI. Она предназначена для агентных задач с длинной последовательностью действий в реальных средах: программирования, научных исследований, интеллектуальной работы, сложных сценариев продуктивности, автономного выполнения и тестирования программ, а также работы с компьютером и браузером. Модель относится к pipeline text-generation и поддерживает текстовые сценарии. Nex-N2.5-Max построена на текстовой архитектуре Mixture-of-Experts (MoE) с 1,6 триллиона параметров и стала для разработчика первой моделью, полностью дообученной в масштабе свыше триллиона параметров. По сравнению с мультимодальными моделями Nex-N2.5-mini и Nex-N2.5-Pro, версия Max описана как text-only, поэтому визуальная модальность для неё в README не заявлена. Среди сильных сторон указаны длительное автономное выполнение задач, самокоррекция и высокие результаты в тестах кодирования и агентных сценариев; при этом конкретные пределы контекста, поддерживаемые языки и требования к вычислительным ресурсам не приведены. Веса модели выпускаются с открытым исходным кодом по лицензии Apache-2.0.

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — опубликованная NVIDIA полноточная версия разговорной языковой модели, представленная на Hugging Face в виде GGUF BF16. Она предназначена прежде всего для разработчиков, которым нужны исходные веса для дообучения, адаптации к предметной области, исследований и подготовки собственных квантованных вариантов. Модель использует гибридную архитектуру Mixture-of-Experts с чередующимися слоями Mamba-2 и MoE, отдельными слоями Attention и механизмом Multi-Token Prediction; всего в ней 30 млрд параметров, из которых активно используются 3 млрд. Модель подходит для диалога, рассуждений, следования инструкциям, задач с кодом и работы в агентных системах. Контекст достигает 1 млн токенов на подходящем оборудовании; на одной H100 в README приведена проверка до 256 тыс. токенов из-за ограничений памяти. Основные языки — английский и языки программирования; также поддерживаются испанский, французский, немецкий, итальянский, японский и китайский. README указывает, что модель готова к коммерческому применению, однако метаданные Hugging Face обозначают лицензию как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

GLM-4.5-Air — компактная гибридная модель серии GLM-4.5 от Zhipu AI, разработанная для интеллектуальных агентов. Она объединяет генерацию текста, рассуждение, программирование и работу с инструментами; поддерживает режим обдумывания для сложных запросов и вызовов инструментов, а также режим быстрого ответа. По карточке модели, у GLM-4.5-Air 106 млрд параметров, из которых активны 12 млрд. Метаданные Hugging Face указывают архитектуру GLM4 MoE, класс Glm4MoeForCausalLM, 8,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалоговых приложений, задач программирования и агентных сценариев с использованием инструментов. Она поддерживает английский и китайский языки и распространяется в формате Safetensors; библиотека Transformers указана как основная. Лицензия MIT разрешает коммерческое использование и дальнейшую разработку. Значения общего и активного числа параметров из README расходятся с числом параметров в метаданных, поэтому размер следует считать противоречивым.

Ovis2.5-2B — компактная мультимодальная модель семейства Ovis2.5 от команды Ovis. Она сочетает визуальный энкодер NaViT для обработки изображений в исходном переменном разрешении и языковую модель Qwen3-1.7B. Модель рассчитана на диалоговые сценарии с изображениями и мультимодальные рассуждения; контекст составляет 40 960 токенов. Модель умеет анализировать изображения, распознавать текст и структуру документов, таблиц и форм, отвечать на вопросы по диаграммам и выполнять визуальные рассуждения. Опциональный режим thinking с бюджетом рассуждений добавляет самопроверку и пересмотр ответа, повышая потенциальную точность на сложных запросах ценой дополнительной задержки. В карточке также заявлены результаты на задачах понимания видео и grounding, однако основной интерфейс описан как ввод изображения и текста с текстовым ответом. README отмечает высокие результаты для модели такого размера и пригодность для сценариев с ограниченными ресурсами, но конкретное оборудование или скорость не указаны. Доступны веса safetensors; модель рассчитана на Transformers. Лицензия — Apache-2.0.

Zero Qwen3-8B OpenZero — локальная текстовая генеративная модель в формате GGUF, разработанная для экосистемы OpenZero и опубликованная пользователем shafire. Она основана на Qwen/Qwen3-8B и представляет собой полностью объединённую standalone-сборку: отдельный адаптер и базовая модель не требуются. Модель совместима с llama.cpp и Ollama, а также может использоваться через OpenAI-совместимый локальный сервер OpenZero. Модель предназначена для агентного программирования, отладки, ревью кода, планирования тестов, исследовательских задач, синтеза информации с проверкой утверждений, выбора и вызова инструментов, а также автономных многошаговых рабочих процессов. Поддерживаются режимы Qwen3 /no_think для быстрых циклов с инструментами и /think для более сложных исследовательских и программных задач. В карточке указан английский язык; модальность — текстовая, pipeline относится к text-generation. Для запуска приведена конфигурация контекста 8192 токена, однако максимальный контекст модели явно не указан. Доступны квантованный вариант Q5_K_M размером около 5,45 GiB, рекомендованный для локального использования с практичными требованиями к CPU и RAM, и сборка F16 размером около 13,82 GiB для более высокой точности и последующей квантизации. К сильным сторонам относятся автономность, локальное выполнение, совместимость с CPU, llama.cpp и Ollama, а также ориентация на агентные сценарии и проверку результатов. Ограничения включают зависимость качества и скорости от аппаратного обеспечения и выбранной квантизации; приведённый тест на Intel Core i7-2600 показал около 2,45 токена в секунду при генерации. Лицензия указана как other с названием openzero-community-source-v1; дополнительные условия в карточке не приведены.

Карточка модели ahmed-amedo/MiMo-V2.6-Flash-RL на Hugging Face совпадает с карточкой shaikat2007/MiMo-V2.6-Flash, поэтому описание составлено по ней. MiMo-V2.6-Flash-RL — мультимодальная модель генерации текста Xiaomi из серии MiMo-V2.6, обученная с подкреплением для агентных сценариев и самоулучшения. Карточка описывает семейство как разреженную MoE-архитектуру с обработкой текста, изображений, видео и аудио и контекстом до 1 млн токенов; указаны визуальный и аудиокодировщики, а также спекулятивный декодер. Метаданные репозитория, однако, описывают загруженную модель как плотную 12-миллиардную MiMoV2ForCausalLM в формате safetensors FP8, а pipeline_tag задаёт генерацию текста. Модель предназначена для диалогов, работы с инструментами, программирования и продолжительных агентных задач, а мультимодальные возможности семейства рассчитаны на понимание изображений, видео и аудио. В отчёте Xiaomi описаны обучение смешанным RL на задачах кодирования, общих агентов, визуального анализа и кибербезопасности, а также методы оценки траекторий и дистилляции. По карточке указана лицензия MIT. Поскольку сведения о размере и архитектуре в README относятся к серии, а метаданные конкретного репозитория расходятся с ними, характеристики репозитория следует считать более конкретными для загруженного чекпойнта.

Chandra OCR 2 — модель оптического распознавания символов от Datalab, предназначенная для извлечения содержимого изображений и PDF-документов. Она преобразует документы в Markdown, HTML или JSON, сохраняя сведения о структуре и расположении элементов. В метаданных указана архитектура Qwen3.5 с плотной моделью типа conditional generation; веса представлены в формате safetensors, для работы используются Transformers и vLLM. Модель рассчитана на распознавание печатного и рукописного текста, таблиц, математических формул, форм и сложной разметки страниц. Она также извлекает изображения и диаграммы, создавая подписи и структурированные данные. Заявлена поддержка более 90 языков; карточка сообщает об улучшениях для многоязычных документов, широких страниц и сложной верстки. В README приведены результаты внутренних тестов, включая 85,9 балла на olmOCR benchmark, а также оценка пропускной способности около двух страниц в секунду в реальном использовании. Эти показатели зависят от документов и оборудования. Код распространяется по Apache 2.0, а веса — по модифицированной лицензии OpenRAIL-M: разрешены исследования, личное использование и применение стартапами ниже установленных финансовых порогов; конкурентное использование с API Datalab запрещено, для более широкого коммерческого использования требуется отдельная лицензия.