III.2Исследование рынка и маркетинг

Typhoon2.1-Gemma3-4B — инструктивная текстовая языковая модель, разработанная OpenTyphoon на основе Gemma 3 4B. Она использует плотную decoder-only архитектуру Gemma3ForCausalLM, содержит 4 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов в диалоге на тайском и английском языках; также поддерживает вызов функций через соответствующий интерфейс. Модель работает только с текстом: визуальный энкодер в этой версии отсутствует. В карточке описаны режимы с рассуждением и без него, а также развёртывание через Transformers и vLLM. Для использования требуется Transformers версии 4.50.0 или новее. Модель всё ещё развивается и может выдавать неточные, предвзятые или нежелательные ответы; качество и риски следует оценивать применительно к конкретному сценарию. Распространяется по лицензии Gemma; использование также регулируется условиями OpenTyphoon.

Ultravox — мультимодальная речевая языковая модель от Fixie.ai, объединяющая аудиовход с текстовой моделью Llama 3.2-1B-Instruct и Whisper large-v3-turbo. Она принимает речь и текст, например текстовую системную инструкцию и аудиосообщение пользователя, а ответ генерирует в текстовом виде. Модель предназначена для голосовых агентов, анализа устной речи и перевода речи между языками. В README указана версия Ultravox 0.5 с обозначением 1B; метаданные каталога указывают 4,8 млрд параметров. Модель построена на архитектуре Ultravox и поддерживает аудиовход, чат и интерфейс вызова инструментов. Для обучения использовались наборы данных распознавания речи и речевого перевода, а также продолжения, сгенерированные Llama 3.1 8B. Метаданные перечисляют широкий набор языков, включая русский; конкретные языки карточки охватывают более узкий перечень. Модель выдаёт текст и не генерирует аудио. В README отмечено, что к этой версии не применялась настройка предпочтений; качество перевода может зависеть от языковой пары и ограниченности модели версии 1B. Лицензия — MIT.

intanm/xlm-roberta-base-squad2-idkmrc — дообученная модель для извлечения ответа на вопрос из предоставленного текста. Она основана на deepset/xlm-roberta-base-squad2 и использует архитектуру XLM-RoBERTa с головой XLMRobertaForQuestionAnswering; размер — 305,2 млн параметров, контекст — до 514 токенов. Модель предназначена для сценариев, где вопрос и текст известны заранее, например для поиска ответа в документах. Карточка сообщает результат оценки Loss 0,8167, но не приводит датасет, языки обучения или подробные результаты, поэтому качество для конкретного языка и типа текста по этим данным оценить нельзя. Репозиторий распространяется по лицензии CC BY 4.0.

Cohere и Cohere Labs разработали Command A — авторегрессионную языковую модель на базе оптимизированного Transformer с 111 млрд параметров. Она принимает и генерирует текст, поддерживает диалог, вызов внешних инструментов и работу в сценариях RAG с фрагментами документов и цитированием источников. Модель ориентирована на корпоративные задачи, включая многоязычные сценарии и агентные приложения. Модель обучена с учителем и дополнительно настроена с помощью обучения на предпочтениях. В архитектуре чередуются слои со скользящим окном внимания размером 4096 токенов и слой с глобальным вниманием. Заявленная длина контекста — 256 тыс. токенов, хотя конфигурация Hugging Face по умолчанию ограничивает её 128 тыс. Поддерживаются 23 языка, в том числе русский и английский. Command A подходит для диалоговых ассистентов, ответов по документам, извлечения информации, суммаризации, перевода и категоризации. Для запуска требуется значительная вычислительная инфраструктура, несмотря на заявление разработчиков о возможности развёртывания на двух GPU; для работы с Transformers нужны изменения из исходного репозитория. Лицензия CC-BY-NC-4.0 предусматривает некоммерческое использование и требует соблюдения Acceptable Use Policy Cohere Labs.

NVIDIA Nemotron 3 Nano Omni — мультимодальная модель семейства Nemotron, разработанная NVIDIA и представленная в репозитории Unsloth как вариант на основе nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16. В карточке указаны архитектура NemotronH_Nano_Omni_Reasoning_V3 и формат safetensors; вариант рассчитан на диалог и интерфейс вызова инструментов. В README также описана поддержка обработки текста, изображений, аудио и видео, включая распознавание речи, OCR и анализ графического интерфейса. Модель предназначена для корпоративных мультимодальных сценариев: ответов на вопросы и суммаризации записей встреч и видео, поиска по медиаматериалам, анализа документов, проверки информации в изображениях и автоматизации работы с GUI. README приводит примеры клиентского сервиса, медиа и развлечений, деловых и научных документов, а также браузерных и почтовых агентов. В метаданных перечислены языки английский, французский, испанский, итальянский, немецкий, японский и китайский; в README указана возможность коммерческого использования. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверять с лицензией репозитория.

GLM-4.5 — гибридная языковая модель семейства GLM, разработанная Z.ai и предназначенная для интеллектуальных агентов. Эта версия представлена в репозитории Unsloth и основана на zai-org/GLM-4.5; метаданные указывают 23,4 млрд параметров, архитектуру GLM-4 MoE и формат safetensors. Модель поддерживает генерацию текста и диалог, а интерфейс вызова инструментов позволяет использовать её в агентных сценариях. Контекстное окно — 131 072 токена; среди указанных языков — английский и китайский. Модель рассчитана на рассуждения, программирование и взаимодействие с инструментами; семейство поддерживает режимы с пошаговым рассуждением и быстрыми ответами. Репозиторий распространяется по лицензии MIT, допускающей коммерческое использование и модификацию. В README размер семейства GLM-4.5 указан как 355 млрд общих и 32 млрд активных параметров, но метаданные этого репозитория указывают 23,4 млрд параметров для представленной версии.

NVIDIA Kimi-K3-NVFP4 — квантизированная версия мультимодальной модели Kimi-K3, разработанной Moonshot AI и оптимизированной NVIDIA с помощью Model Optimizer. Это авторегрессионная transformer-модель архитектуры Mixture-of-Experts с компонентами Kimi Delta Attention, Attention Residuals и Stable LatentMoE. Объём модели составляет 2,8 трлн параметров, при этом для каждого токена активируются 16 из 896 экспертов. Версия NVFP4 — 1.0, квантизация выполнена с использованием nvidia-modelopt v0.45.0. Модель предназначена для генерации текста и кода, длительных задач программирования, глубокого рассуждения, разработки игр, end-to-end knowledge work и мультимодальных агентских сценариев. Она принимает текст, изображения и видео, а её нативное контекстное окно составляет 1 048 576 токенов. На выходе формируется текст, включая естественно-языковые ответы, код, структурированный JSON, запросы инструментов и инструкции для координации агентов. Поддерживаются vLLM и SGLang; целевая аппаратная платформа — NVIDIA Blackwell B200 и B300 под Linux. К сильным сторонам относятся мультимодальность, чрезвычайно длинный контекст, MoE-архитектура и готовность к развёртыванию на NVIDIA GPU, включая NVFP4-квантизацию. Ограничения связаны с высокой общей размерностью модели и требованиями к специализированной аппаратуре; размер и свойства обучающих данных не раскрыты. Модель рассчитана на коммерческое и некоммерческое использование, однако её применение регулируется NVIDIA Open Model Agreement и дополнительными условиями лицензии Kimi-K3.

Qwen2.5-VL-32B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen; репозиторий подготовлен Unsloth. Модель предназначена для задач, где требуется совместно обрабатывать текст и изображения, включая визуальные вопросы и ответы, распознавание текста, анализ документов, графиков, таблиц и макетов, математическое и логическое рассуждение, а также структурированное извлечение данных из счетов и форм. Она также поддерживает анализ видео длительностью более часа, поиск релевантных временных фрагментов, визуальную локализацию объектов и сценарии взаимодействия с компьютером или телефоном. Модель содержит 32 млрд параметров и использует архитектуру Qwen2.5-VL с визуальным энкодером ViT, динамическим разрешением изображений и динамической частотой выборки кадров видео. В архитектуре заявлены оконное внимание, SwiGLU и RMSNorm; для временного измерения применяется mRoPE с учетом идентификаторов и абсолютного времени. Основные модальности — текст, изображения и видео. В README указан английский язык, однако полный перечень поддерживаемых языков и размер контекстного окна не приведены. Сильные стороны модели — развитое понимание визуального содержимого, документов и видео, генерация структурированных JSON-ответов, визуальная локализация, а также улучшенные математические и общие рассуждательные способности. Ограничения включают большой размер, высокие требования к вычислительным ресурсам и отсутствие в представленном README подробностей о характеристиках именно GGUF-квантизации, поддерживаемых вариантах квантования и рекомендуемых ресурсах. Модель распространяется по лицензии Apache-2.0.

unsloth/Llama-3.1-Nemotron-Nano-8B-v1-GGUF — GGUF-версия модели Llama-3.1-Nemotron-Nano-8B-v1, разработанной NVIDIA и подготовленной Unsloth. Это языковая reasoning-модель на базе Meta Llama 3.1 8B Instruct, предназначенная для диалогов, следования инструкциям, генерации кода, математических и логических задач, RAG-систем, tool calling и AI-агентов. Модель рассчитана прежде всего на английский язык и языки программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель представляет собой плотный decoder-only Transformer с архитектурой Llama 3.1 и примерно 8 млрд параметров. Она поддерживает текстовый ввод и вывод, контекст до 131 072 токенов, а также режимы с рассуждением и без него, переключаемые системным промптом. Постобучение включало supervised fine-tuning для математики, кода, рассуждений и tool calling, а также этапы reinforcement learning и оптимизации предпочтений. GGUF-формат и заявленная эффективность позволяют использовать модель локально, в том числе на одной RTX GPU; рекомендуемые аппаратные платформы исходной модели — NVIDIA Hopper и Ampere. Сильными сторонами являются сочетание качества рассуждений, чат-возможностей и вычислительной эффективности, а также поддержка длинного контекста и агентских сценариев. Ограничения включают преимущественную ориентацию на английский язык и языки программирования, зависимость поведения от корректной настройки режима рассуждения и устаревание части знаний: дата среза предобучающих данных Meta Llama 3.1 указана как 2023 год. Использование регулируется NVIDIA Open Model License; дополнительно указано соглашение Meta Llama 3.1 Community License Agreement. Модель заявлена как пригодная для коммерческого использования.

unsloth/Llama-3_3-Nemotron-Super-49B-v1-GGUF — GGUF-версия большой языковой модели Llama-3.3-Nemotron-Super-49B-v1, разработанной NVIDIA на основе Meta Llama-3.3-70B-Instruct и оптимизированной с применением Neural Architecture Search. Это плотная decoder-only Transformer-модель примерно на 49 млрд параметров с контекстом до 128K токенов и текстовым вводом. Модель предназначена прежде всего для английского языка и языков программирования, также поддерживает немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель ориентирована на рассуждения, диалог, следование инструкциям, генерацию кода, математику, RAG, tool calling и разработку AI-агентов, чат-ботов и других приложений на базе LLM. Постобучение включало SFT для математики, кода, рассуждений и вызова инструментов, а также этапы reinforcement learning и оптимизации предпочтений. Архитектура использует нестандартные блоки с пропуском или упрощением attention и переменным соотношением расширения FFN, что снижает требования к памяти и повышает эффективность при сохранении качества. Ограничениями являются преимущественно англоязычная специализация, возможное снижение качества на других языках и необходимость учитывать требования к ресурсам при запуске модели такого размера. Использование регулируется NVIDIA Open Model License; дополнительно указано соглашение Meta Llama 3.3 Community License Agreement. Модель заявлена как пригодная для коммерческого использования.

Dolphin 2.9.1 Llama 3 70B — диалоговая языковая модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и Cognitive Computations на основе Meta-Llama-3-70B. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом 8192 токена; веса опубликованы в формате Safetensors. Полное дообучение проводилось с длиной последовательности 4K, модель использует шаблон ChatML. Модель предназначена для генерации ответов по инструкциям, диалогов, задач программирования и математики, а также сценариев с вызовом функций и начальными агентными возможностями. В обучении использованы наборы инструкций, диалогов, кода и математики. Основной язык — английский; карточка не заявляет отдельную языковую специализацию. Разработчики описывают Dolphin как модель без встроенных ограничений на содержание, поэтому перед предоставлением её пользователям рекомендуется добавить собственный слой модерации. Использование, включая коммерческое, разрешено в рамках лицензии Meta Llama 3 Community License Agreement.

Llama-3.1-Nemotron-Ultra-253B-v1 — крупная языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это reasoning- и chat-модель для разработчиков AI-агентов, чат-ботов, RAG-систем, инструментального вызова и других приложений на основе генерации текста, а также для стандартных задач следования инструкциям, математики, программирования и рассуждений. Модель обучалась с ноября 2024 года по апрель 2025 года и выпущена 7 апреля 2025 года. Модель использует плотную decoder-only Transformer-архитектуру с 253 млрд параметров, модифицированную с помощью Neural Architecture Search. В отдельных блоках применяются пропуск attention, переменное соотношение расширения FFN и объединение последовательных FFN-слоёв. Для восстановления качества использовались knowledge distillation на 65 млрд токенов и continual pretraining на 88 млрд токенов, а последующее дообучение включало supervised fine-tuning и reinforcement learning с GRPO. Поддерживается текстовый ввод и вывод с контекстом до 131 072 токенов; модель предназначена прежде всего для английского языка и языков программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. К сильным сторонам относятся сочетание высокой точности с уменьшенным потреблением памяти, потенциально более высокая пропускная способность и сниженная задержка благодаря NAS и вертикальной компрессии. Модель рассчитана на работу на одном узле с 8 GPU H100, совместима с NVIDIA Hopper и Ampere, использует Transformers и ориентирована на Linux. Ограничения включают очень большой размер, высокие требования к вычислительным ресурсам и отсутствие гарантии качества для языков и сценариев, не перечисленных разработчиком. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement; модель заявлена как пригодная для коммерческого использования.

MiniCPM-V 4.5 int4 — мультимодальная vision-language модель, разработанная OpenBMB. Она предназначена для анализа одиночных и нескольких изображений, видео, документов и текстовых запросов, включая распознавание текста, разбор PDF, визуальные вопросы и ответы, а также понимание коротких и длинных видеоматериалов. Модель поддерживает более 30 языков и ориентирована в том числе на локальный запуск на мобильных устройствах и компьютерах. В основе лежат языковая модель Qwen3-8B и визуальный энкодер SigLIP2-400M; общий размер составляет около 8 млрд параметров. Архитектура включает unified 3D-Resampler для совместной обработки изображений и видео: до шести кадров 448×448 могут сжиматься в 64 видеотокена, что снижает вычислительную стоимость и позволяет анализировать видео с частотой до 10 кадров в секунду. Для изображений поддерживаются произвольные пропорции и разрешение до 1,8 млн пикселей. Модель также использует подходы LLaVA-UHD для работы с изображениями высокого разрешения и отличается сильными заявленными результатами в OCR, понимании документов и мультимодальном рассуждении. К сильным сторонам относятся высокая эффективность для модели такого размера, поддержка изображений, нескольких изображений и видео, развитое распознавание текста, режимы быстрого и глубокого рассуждения, а также варианты запуска через llama.cpp, Ollama, vLLM и SGLang. Представленная версия использует квантование int4, поэтому может требовать меньше памяти, но потенциально уступает полноразмерным вариантам по точности. README не указывает максимальную длину текстового контекста и не приводит подробный перечень ограничений; фактическая скорость и качество зависят от оборудования, формата инференса и сложности входных данных. Модель распространяется по лицензии Apache 2.0.

AaryanK/Qwen3.6-27B-GGUF — это квантизированная версия Qwen3.6-27B, разработанной командой Qwen. Модель предназначена для генерации текста, агентного программирования, работы с репозиториями и фронтенд-задачами, а также для сценариев, требующих вызова инструментов и обработки мультимодальных данных. Она поставляется в формате GGUF и рассчитана на локальный запуск с совместимыми средствами, включая llama.cpp. Модель содержит 27 млрд параметров и использует гибридную архитектуру Hybrid Gated DeltaNet + Gated Attention с 64 слоями и vision encoder. Она поддерживает текстовые и визуальные входы, включая изображения и видео, заявленные языковые возможности включают английский язык. Нативная длина контекста составляет 262 144 токена; также указана возможность расширения до 1 010 000 токенов. Модель поддерживает Thinking Mode, сохранение контекста рассуждений между сообщениями и вызов инструментов. К сильным сторонам относятся длинный контекст, мультимодальность, возможности агентного кодирования и сохранение рассуждений в итеративных рабочих процессах. Ограничения связаны с требованиями к совместимости: для гибридной архитектуры нужна актуальная версия llama.cpp, а объём памяти зависит от выбранного файла квантизации и длины контекста. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.6-35B-A3B-FP8 — открытая FP8-квантованная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen компании Alibaba Cloud и подготовленной Red Hat AI. Это авторегрессионная языковая модель с vision encoder, предназначенная для генерации текста, рассуждений, программирования, агентных сценариев и вызова инструментов. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке запроса. Она содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Поддерживаются текстовые и визуальные входы, однако конкретный набор языков в README не указан. Сильными сторонами модели заявлены агентное программирование, работа с frontend-задачами, рассуждение на уровне репозитория, сохранение контекста рассуждений и вызов инструментов. Квантование выполнено в формате fine-grained FP8 с размером блока 128; заявлена производительность, близкая к исходной модели. Вариант может быть предпочтителен на оборудовании, где вычислительные ресурсы превышают пропускную способность памяти. Для работы с vLLM требуются параметры reasoning-parser qwen3 и включение prefix caching; совместимость также заявлена с Transformers, SGLang и KTransformers. README не приводит подробных ограничений, полного набора языков или характеристик работы с изображениями. Модель распространяется по лицензии Apache-2.0. Артефакты проверены с RHOAI 3.5, RHAIIS 3.5 и vLLM 0.24.0.

Mungert/cogito-v1-preview-llama-8B-GGUF — квантизированная GGUF-версия предварительной модели Cogito v1-preview, разработанной Deep Cogito. Однако представленная карточка описывает вариант на 70B параметров с базовой моделью Meta Llama 3.1 70B, поэтому соответствие заявленному идентификатору 8B не подтверждено. Модель предназначена для генерации текста по тексту и работает как instruction-tuned LLM. Cogito — гибридная reasoning-модель: она может отвечать напрямую в стандартном режиме или выполнять саморефлексию в режиме расширенного рассуждения. Модель оптимизирована для программирования, задач STEM, следования инструкциям, общей полезности и tool calling. Заявлена поддержка более 30 языков и контекстного окна до 128k токенов. Расширенное рассуждение включается специальной системной инструкцией или параметром enable_thinking в chat template. Поддерживаются одиночные, параллельные и комбинированные вызовы инструментов. К сильным сторонам относятся гибридный режим работы, заявленные улучшения многоязычности, программирования и вызова инструментов, а также обучение методом Iterated Distillation and Amplification. Ограничения карточки — отсутствие подробных числовых результатов тестов в текстовом виде и несоответствие между идентификатором 8B и описанием 70B. Модель распространяется по лицензии llama3.1; в карточке указано, что семейство выпущено под открытой лицензией с возможностью коммерческого использования.

Ling-lite-1.5-2506 — обновлённая разговорная языковая модель от inclusionAI для рассуждений, решения сложных задач, программирования и отладки кода. Она построена на архитектуре Bailing MoE и поддерживает генерацию текста в формате чата. В README указаны 16,8 млрд параметров, из которых активируются 2,75 млрд; метаданные Hugging Face указывают 794,8 млн параметров. В карточке также заявлена длина контекста 128K, тогда как метаданные сообщают 32 768 токенов. README описывает улучшения относительно Ling-lite-1.5 и приводит результаты на GPQA Diamond и LiveCodeBench 2408–2501. Модель принимает текст и генерирует текст. Опубликованные веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия — MIT. Языки в доступных сведениях не перечислены.

NVIDIA Nemotron 3 Nano Omni — мультимодальная большая языковая модель, разработанная NVIDIA в рамках семейства Nemotron. Эта версия распространяется в формате GGUF и предназначена для понимания видео, аудио, изображений и текста с применением в корпоративных системах: вопросно-ответных сервисах, суммаризации, транскрипции, анализе документов и интеллектуальной автоматизации графического интерфейса. Модель использует гибридную архитектуру Mamba2-Transformer с Mixture of Experts (MoE), включает языковую модель Nemotron 3 Nano LLM 30B A3B, визуальный энкодер CRADIO v4-H и речевой энкодер Parakeet. Общее число параметров — около 31 млрд (30B A3B). Поддерживаются видео MP4 длительностью до 2 минут, аудиофайлы WAV и MP3 длительностью до 1 часа, изображения JPEG и PNG, а также текст. Заявлена максимальная длина контекста до 256 тысяч токенов. Хотя в метаданных перечислены английский, французский, испанский, итальянский, немецкий, японский и китайский языки, в описании входных данных явно указана поддержка только английского языка. Модель подходит для анализа видеозаписей и речи, поиска и суммаризации медиаконтента, обработки контрактов и финансовых документов, OCR, GUI-автоматизации и агентных сценариев. Она поддерживает JSON-вывод, вызов инструментов, рассуждения и временные метки слов при транскрипции. Основные ограничения — ориентация на NVIDIA GPU и Linux, а также заявленная поддержка только аппаратуры NVIDIA и английского языка. Для работы указаны vLLM, NeMo, Megatron и NeMo-RL. Использование регулируется NVIDIA Open Model Agreement; в README также указана возможность коммерческого применения.

DNA 3.0 — мультимодальная модель семейства Qwen, дообученная компанией Dnotitia на базе Qwen/Qwen3.6-35B-A3B. Это модель Mixture-of-Experts с 35 млрд общих и примерно 3 млрд активных параметров, объединяющая обработку текста и изображений; заявленная архитектура использует разреженные MoE-слои и гибридное внимание. Модель рассчитана на диалоги, аналитические рассуждения, агентное программирование, работу с инструментами и визуальное понимание. Дополнительное обучение включает корпоративные сведения и терминологию Dnotitia, поэтому модель подходит для сценариев, где нужен ассистент с контекстом этой компании. README заявляет поддержку 201 языка и диалекта и контекст до 262 144 токенов, расширяемый примерно до 1 010 000 токенов с YaRN. Модель совместима с Transformers, vLLM, SGLang и KTransformers; для производственного развёртывания рекомендуется многопроцессорная инфраструктура. Модель обучалась по методике с ослабленным отказом от ответов и может выдавать содержание, которое другие модели отклоняют. Она может проявлять предвзятость в пользу Dnotitia, наследует ограничения базовой модели и способна галлюцинировать; для чувствительных сценариев необходимы проверка человеком и собственные меры модерации. Лицензия — Apache-2.0.

Dolphin 2.8 Mistral 7B v0.2 — разговорная модель с открытыми весами, разработанная Эриком Хартфордом и Cognitive Computations. Она дообучена на базе Mistral-7B-v0.2 и предназначена для выполнения инструкций, диалогов и задач программирования. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; полновесное дообучение проводилось с длиной последовательности 16 000 токенов. В карточке перечислены обучающие наборы для инструкций, диалогов и кода. Модель ориентирована на генерацию ответов в чате, помощь с кодом и выполнение текстовых инструкций на английском языке. Авторы характеризуют её как uncensored и предупреждают о высокой готовности выполнять запросы, в том числе неэтичные; перед предоставлением модели пользователям рекомендуется добавить собственный слой контроля. Модель распространяется по лицензии Apache 2.0, включая коммерческое использование.

unsloth/GLM-4.6-GGUF — это версия языковой модели GLM-4.6 в формате GGUF, подготовленная Unsloth на основе модели GLM-4.6 от Z.ai (Zhipu AI). Модель предназначена для локального запуска и генерации текста, включая программирование, рассуждения, агентские сценарии, использование инструментов и поисковых агентов. Она также ориентирована на создание более естественных текстов и ролевое взаимодействие. Заявлено контекстное окно до 200 000 токенов, поддержка английского и китайского языков, а также улучшения по сравнению с GLM-4.5 в задачах кодирования, рассуждений, tool use и агентских приложениях. Размер модели, точная архитектура, перечень модальностей и конкретный вариант квантования в README не указаны. Репозиторий содержит исправления chat template; для запуска рекомендуется актуальная версия llama.cpp с параметром --jinja. Для общих оценок рекомендована температура 1.0, а для задач, связанных с кодом, — top_p 0.95 и top_k 40. Модель сильна в длинноконтекстной обработке, генерации кода, рассуждениях и интеграции с инструментами, однако README не приводит подробных количественных характеристик, ограничений качества или требований к вычислительным ресурсам. Лицензия — MIT.

unsloth/GLM-5.2-GGUF — это GGUF-версия языковой модели GLM-5.2, подготовленная Unsloth на основе модели zai-org/GLM-5.2, разработанной командой GLM-5. Модель предназначена для генерации текста, решения сложных задач с длинным горизонтом планирования, программирования, агентской работы и использования инструментов. Заявлена поддержка английского и китайского языков. Модель рассчитана на контекст до 1 миллиона токенов и поддерживает несколько уровней интенсивности рассуждений, позволяя выбирать баланс между качеством и задержкой. В архитектуре используется IndexShare, повторно применяющий один индексатор для каждой группы из четырёх разреженных attention-слоёв и снижающий вычисления на токен при контексте в 1 миллион токенов. Улучшенный слой MTP предназначен для speculative decoding и, по данным README, увеличивает длину принимаемой последовательности до 20%. Представлена в формате GGUF с вариантами квантования, включая 1-bit UD-IQ1_M. Сильными сторонами являются работа с очень длинным контекстом, задачи программирования, математическое и общее рассуждение, а также сценарии агентской инженерии и взаимодействия с инструментами. Ограничения конкретной GGUF-версии, требования к памяти и производительность зависят от выбранного варианта квантования и используемого оборудования; подробные размеры модели в README не указаны. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-GGUF — это GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 компании Z.ai; представленный репозиторий основан на модели zai-org/GLM-5.3-Flash и подготовлен с использованием методов Unsloth Dynamic 3.0. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом. Она поддерживает английский и китайский языки и относится к мультимодальным моделям, однако README не уточняет полный набор поддерживаемых модальностей и особенности их использования именно в данной GGUF-сборке. Архитектура сочетает разреженное и линейное внимание, а также использует Manifold-Constrained Hyper-Connections. Модель содержит 320 млрд параметров, из которых 18 млрд активируются при обработке запроса. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлены повышенная эффективность, снижение стоимости обработки длинного контекста и сильные результаты в задачах программирования и использования инструментов; в README также указано контекстное окно до 300 000 токенов в отдельных оценках и до 1 млн токенов в NL2Repo. К ограничениям относятся высокие требования к ресурсам исходной модели, возможные потери качества из-за квантования и необходимость совместимого программного обеспечения: для запуска рекомендуется использовать llama.cpp с указанными изменениями или Unsloth Desktop. Конкретный формат квантования и требования к оперативной памяти в README не указаны. Модель распространяется по лицензии MIT.

karlsencoin/Qwen3.6-27B-GGUF — это GGUF-сборка модели Qwen3.6-27B, основанная на базовой модели Qwen/Qwen3.6-27B. Модель разработана командой Qwen; данный репозиторий распространяет её в формате GGUF с использованием подхода Unsloth Dynamic 2.0 GGUF. Это причинная языковая модель с визуальным энкодером, предназначенная для генерации текста, программирования, агентных сценариев, работы с репозиториями, фронтенд-разработки, рассуждений и вызова инструментов. Поддержка изображений указана в карточке как часть мультимодальной архитектуры, однако конкретные форматы и языки не перечислены. Модель содержит около 27 млрд параметров, 64 слоя и скрытое измерение 5120. Архитектура сочетает Gated DeltaNet и Gated Attention, использует multi-step training и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов. Среди заявленных сильных сторон — улучшенная работа с агентным кодированием, сохранение контекста рассуждений между сообщениями и более надёжный разбор вложенных объектов при вызове инструментов. Для запуска упоминаются Transformers, vLLM, SGLang и KTransformers; высокая вычислительная нагрузка и требования к памяти являются ограничениями модели, особенно при использовании длинного контекста. Указанная лицензия — Apache 2.0. README не содержит подробностей о конкретном уровне квантования данной GGUF-сборки, результатах бенчмарков или точном наборе поддерживаемых языков.

Qwen3.8-27B-Kimiko-2-NOESIS-BF16 — мультимодальная чат-модель компании AMAImedia, выпущенная в составе платформы автоматизации многоязычного дубляжа NOESIS. Это слияние нескольких предварительно обученных моделей семейства Qwen, выполненное методом Karcher Mean; репозиторий содержит веса BF16 в формате Safetensors и предназначен для работы с Transformers и совместимыми средствами инференса. Модель рассчитана на диалоговые задачи с текстом и изображениями, включая рассуждения, классификацию намерений, маршрутизацию запросов и перевод. В README указаны 27 млрд параметров, контекст 262 144 токена с возможностью расширения до 1 млн, а также поддержка понимания изображений и видео в исходном семействе Qwen3.8. Метаданные карточки подтверждают чат-возможности и vision; языковые теги включают русский, английский, китайский, вьетнамский, японский и другие языки. В README приведены результаты базовой и компонентных моделей, однако итоговые показатели Kimiko-2 для GSM8K отмечены как TBD, поэтому их нельзя считать подтверждёнными. Лицензия репозитория — Apache-2.0.

DeepSeek-V3.2 — языковая модель, разработанная DeepSeek AI и представленная как дообученная версия DeepSeek-V3.2-Exp-Base. Модель ориентирована на эффективное рассуждение, работу с агентными сценариями и взаимодействие с инструментами, включая режим «thinking with tools». Она распространяется через Transformers и использует обновлённый формат чата с поддержкой вызова инструментов и рассуждений. Ключевой особенностью модели является механизм DeepSeek Sparse Attention (DSA), предназначенный для снижения вычислительной сложности при сохранении качества, особенно в задачах с длинным контекстом. Для обучения применялись масштабируемое reinforcement learning и pipeline синтеза данных для агентных задач. README заявляет высокие результаты в математических и программных соревнованиях, однако точные размер модели, длина контекста, поддерживаемые языки и набор модальностей не указаны. Для интеграции требуется учитывать, что релиз не содержит Jinja-шаблон chat template: разработчикам предлагается использовать скрипты из каталога encoding для кодирования сообщений в OpenAI-совместимом формате и разбора ответов. Указанная функция разбора рассчитана на корректно сформированные строки и не исправляет ошибки формата. Модель распространяется по лицензии MIT.

HyperNova 60B 2602 — языковая модель, разработанная Multiverse Computing на основе open-weight модели OpenAI gpt-oss-120b. Она сжата с помощью проприетарной технологии CompactifAI, которая уменьшает количество параметров и требования к памяти при сохранении заявленных возможностей рассуждения. Модель instruction-tuned и предназначена для эффективного развёртывания через библиотеку Transformers. Модель рассчитана на рассуждение, генерацию кода, приложения с RAG, агентские сценарии и задачи с использованием инструментов. Она поддерживает нативный вызов функций, OpenAI-совместимые схемы инструментов, структурированные ответы и настраиваемый уровень рассуждения. Архитектура — decoder-only Transformer; общий объём составляет 60 млрд параметров против 117 млрд у базовой модели. Основной язык — английский, другие языки формально не оценивались. Мультимодальность и размер контекста в README не указаны. К сильным сторонам относятся уменьшенный объём памяти, гибкость развёртывания, поддержка tool calling и агентских рабочих процессов. Ограничения включают отсутствие формальной оценки других языков и неполные сведения о контекстном окне, а также необходимость использовать trust_remote_code при загрузке. Модель распространяется по лицензии Apache 2.0.

Ornith-1.5-9B-GGUF — открытая плотная модель на 9 млрд параметров, разработанная Ornith AI и представленная в формате GGUF пользователем prithivMLmods. Она предназначена для локального запуска на одной GPU, мобильных и периферийных устройствах, а также для интеграции с llama.cpp и другими средами инференса. Модель ориентирована на генерацию текста, рассуждения, программирование, агентские сценарии и использование инструментов. Модель поддерживает встроенное пошаговое рассуждение с разделением промежуточных размышлений в тегах <think> и итогового ответа, а также структурированные вызовы инструментов в XML-формате, совместимые с OpenAI API, vLLM, SGLang, Ollama и llama.cpp. Заявлено контекстное окно 262 144 токена с возможностью расширения до 1 млн токенов посредством YaRN RoPE scaling. Указан английский язык; архитектурная линия основана на Qwen3.5 и Gemma-4 с дополнительным предварительным обучением, дообучением и reinforcement learning. В репозитории доступны варианты BF16, F16 и различные уровни квантования размером примерно от 4,26 до 17,9 ГБ, а также файлы мультимодального проектора. Сильными сторонами заявлены производительность в задачах кодирования, рассуждений и работы с инструментами, поддержка длинного контекста и локального инференса при относительно небольшом размере. README приводит результаты на SWE-bench Verified — 70,6% и GPQA Diamond — 86,4%, однако методика оценки не описана. Ограничения включают зависимость качества и требований к памяти от выбранного варианта квантования, а также отсутствие подробных сведений о поддерживаемых мультимодальных входах и фактических сценариях работы проектора. Модель распространяется по лицензии MIT.

unsloth/Qwen3.6-27B-NVFP4 — это квантованный checkpoint модели Qwen3.6-27B, разработанный Unsloth на основе модели Qwen от команды Qwen. Модель представляет собой каузальную языковую модель с vision-энкодером и предназначена для генерации текста, мультимодального понимания изображений, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозиториев. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; в checkpoint включён модуль Multi-Token Prediction (MTP), который может использоваться для ускорения декодирования. Точные языки в README не указаны. Формат NVFP4 рассчитан на эффективный запуск, в том числе на GPU с 24 ГБ VRAM. По заявлению Unsloth, checkpoint обеспечивает до 2,5 раза большую пропускную способность по сравнению с другими NVFP4-квантованиями, а результаты на MMLU-Pro, GPQA и AIME 2025 близки к FP8 и BF16. Основные ограничения — потери, присущие квантованию, зависимость производительности от аппаратного обеспечения и backend, а также необходимость корректной настройки vLLM или совместимого движка; README не рекомендует Marlin из-за более низкой скорости. Модель распространяется по лицензии Apache-2.0 и совместима с Hugging Face Transformers, vLLM, SGLang и KTransformers.

DNA 3.0-397B-A17B — дообученная Dnotitia мультимодальная модель Mixture-of-Experts на базе Qwen/Qwen3.5-397B-A17B. Она предназначена для диалогов и рассуждений, агентного программирования, работы с инструментами, анализа изображений и видео, а также сценариев, связанных с корпоративными знаниями и продуктами Dnotitia. Архитектура сочетает разреженные MoE-слои с линейным вниманием Gated DeltaNet; всего в модели 397 млрд параметров, активны 17 млрд. Контекст составляет 262 144 токена, с расширением примерно до 1 010 000 через YaRN. Модель заявляет поддержку 201 языка и диалекта, с особым вниманием к корейскому языку и корпоративным сценариям. Дообучение включает корпоративную персону Dnotitia, более широкое следование запросам с меньшим числом отказов и сохранение цепочек рассуждений в многошаговом диалоге. Поддерживаются режим рассуждений и интерфейс вызова инструментов; для развёртывания доступны Transformers и движки vLLM, SGLang и KTransformers. Лицензия — Apache-2.0. Для обслуживания модели такого размера рекомендуется мног GPU-серверная инфраструктура. Модель может давать ответы с корпоративным уклоном при обсуждении Dnotitia, реже отказывается на чувствительные запросы и наследует ограничения базовой модели, включая возможные предвзятость и языковые пробелы. Возможны галлюцинации, особенно на узкоспециальные, актуальные и требующие высокой числовой точности темы; для ответственных решений необходима проверка человеком.