I.4Обработка документов и форм

Карточка модели SwinliQ-AI-2/Qwen3.8-Flash-Next на Hugging Face совпадает с карточкой Qwen/Qwen3.8-Flash-Next, поэтому описание составлено по ней. Qwen3.8-Flash-Next — открытая по весам мультимодальная модель семейства Qwen, представленная как первый релиз архитектуры Qwen4-экспериментального семейства. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, работы с изображениями и агентных сценариев, включая задачи программирования и длительные рабочие процессы. В карточке описаны возможности вызова инструментов и режим рассуждения, включённый по умолчанию. Модель имеет разреженную MoE-архитектуру: 125 млрд параметров, из которых активируются 6 млрд, дополнительно 51 млрд параметров приходится на n-граммные эмбеддинги и 4 млрд — на MTP. Архитектура сочетает Gated DeltaNet и Qwen Sparse Attention, а также использует Gated Residual. Контекстное окно составляет 262 144 токена и может расширяться до 1 000 000 токенов. В карточке приведены оценки на агентных, программных и визуально-языковых бенчмарках, однако таблицы результатов и таблица языков опущены. Разработчик позиционирует модель для API-интеграции и рекомендует этот способ использования. Репозиторий содержит веса Safetensors; лицензия указана как other, поэтому условия использования следует уточнить в материалах разработчика. В предоставленных данных нет списка поддерживаемых языков и конкретных ограничений по качеству или применению.

Athena-1-7B — инструктивная языковая модель на архитектуре Qwen2, созданная дообучением Qwen/Qwen2.5-7B-Instruct. Разработчик позиционирует её как модель для диалогов, генерации контента и структурированной обработки данных. Веса представлены в формате PyTorch; модель содержит около 7,1 млрд параметров по метаданным. Метаданные указывают контекст до 32 768 токенов, тогда как README заявляет до 131 072 токенов; фактический контекст может зависеть от конфигурации репозитория и используемого ПО. Модель предназначена для следования инструкциям, написания и объяснения кода, математических задач, анализа и суммаризации документов, а также создания JSON и других структурированных ответов. README заявляет поддержку более 29 языков, включая русский, однако в метаданных отмечен английский язык. Модель принимает текст и генерирует текст; в метаданных также указана возможность интерфейса вызова инструментов. Модель распространяется по лицензии Apache-2.0. README заявляет генерацию до 8 000 токенов за ответ; качество на конкретных задачах и фактическая языковая поддержка требуют проверки в целевом сценарии.

Command A+ — открытая мультимодальная модель Cohere и Cohere Labs для диалогов, агентных сценариев и задач, требующих рассуждений. Эта версия представлена в формате BF16; её архитектура — декодерный трансформер со sparse Mixture-of-Experts: 218 млрд параметров всего, из которых 25 млрд активны, 128 экспертов и 8 активных экспертов на токен. Модель принимает текст и изображения и генерирует текст; поддерживает вызов внешних инструментов в диалоге. Модель рассчитана на многоязычные сценарии и обучение охватывает 48 языков, включая русский, английский, арабский, хинди, японский и китайский. Контекст составляет до 128 тысяч входных и 64 тысяч выходных токенов. Веса распространяются по лицензии Apache 2.0. Для запуска указаны Transformers с необходимыми изменениями из исходного репозитория либо vLLM версии 0.21.0 или выше; для корректного разбора ответов в vLLM требуется библиотека Cohere Melody. BF16-версия требует значительных GPU-ресурсов: в карточке приведены конфигурации от четырёх B200 или восьми H100.

Gemma-4-26B-A4B-it-NVFP4 — community-квантизированная версия инструкционной модели google/gemma-4-26B-A4B-it, опубликованная пользователем или организацией bg-digitalservices. Это мультимодальная модель для генерации текста, обработки изображений и видео, предназначенная для диалоговых приложений, следования инструкциям, рассуждений и работы с длинным контекстом. Модель использует архитектуру Mixture-of-Experts с 25,2 млрд параметров, из которых 3,8 млрд активны для каждого токена. В ней 128 экспертов, одновременно выбираются 8. Поддерживается контекст до 256K токенов и мультиязычный режим. Квантизация выполнена в формате W4A4: веса представлены в FP4, активации — в FP16. Размер модели на диске составляет около 16,5 ГБ вместо примерно 49 ГБ у версии BF16, что обеспечивает примерно двукратное ускорение генерации в протестированной конфигурации. Сильной стороной модели является существенное сокращение требований к памяти при сохранении около 97,6% среднего качества относительно BF16-версии в указанных тестах. Следование инструкциям почти не ухудшается, однако задачи математического рассуждения теряют около 4 процентных пунктов из-за накопления ошибок округления. Для запуска рекомендуется совместимая сборка vLLM с поддержкой Gemma 4 и NVIDIA Model Optimizer; тестирование проводилось на NVIDIA DGX Spark с GPU GB10 Blackwell. Веса vision encoder оставлены в BF16. Модель распространяется по лицензии Apache-2.0.

nvidia/Qwen3.5-122B-A10B-NVFP4 — квантизированная версия авторегрессионной мультимодальной модели Qwen3.5-122B-A10B, разработанной Alibaba. Квантизация выполнена NVIDIA с использованием Model Optimizer версии 0.44.0; сама модель не принадлежит и не разработана NVIDIA, а подготовлена по требованиям к данному сценарию применения. Модель предназначена для генерации текста, чат-ботов, AI Agent-систем, RAG и других приложений на базе искусственного интеллекта. Она принимает текст, изображения и видео, а выдаёт текст. Поддерживается контекст до 262K токенов, однако сведения о языках модели в карточке не указаны. Архитектура основана на оптимизированном Transformer и Mixture of Experts: всего 122 млрд параметров, из которых 10 млрд активируются при обработке запроса. Веса и активации линейных операторов в Transformer-блоках MoE переведены в формат NVFP4, что примерно в четыре раза уменьшает требования к дисковому пространству и GPU-памяти по сравнению с исходным представлением. Модель рассчитана на инференс через vLLM на NVIDIA GPU архитектуры Blackwell под Linux. К преимуществам относятся большой контекст, мультимодальный ввод, MoE-архитектура и сниженные требования к памяти благодаря квантизации. Ограничения включают зависимость от совместимого NVIDIA-оборудования и vLLM, возможные особенности качества и точности, связанные с 4-битной квантизацией, а также отсутствие раскрытых сведений о полном обучающем наборе данных. Перед промышленным использованием необходимы тестирование на данных конкретного сценария и проверка безопасности. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование.

unsloth/Qwen3.5-4B-MTP-GGUF — квантованный GGUF-вариант мультимодальной модели Qwen3.5-4B, подготовленный Unsloth на базе модели Qwen/Qwen3.5-4B. Это причинная языковая модель с энкодером изображений, предназначенная для работы с текстом и изображениями, включая рассуждения, программирование, визуальное понимание, агентские сценарии и вызов инструментов. Модель поддерживает developer role и улучшенный разбор вложенных объектов при tool calling. Модель содержит около 4 млрд параметров и использует гибридную архитектуру с Gated Delta Networks и разреженным Mixture-of-Experts, а также механизм MTP (multi-token prediction или многошагового предсказания), рассчитанный на ускорение генерации. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Для ускоренной генерации предусмотрено speculative decoding через MTP, потенциально дающее ускорение примерно в 1,5–2 раза при использовании совместимой ветки llama.cpp. Сильными сторонами модели являются сочетание текстовых и визуальных возможностей, большой контекст, относительно небольшой размер и возможность локального запуска, дообучения и интеграции с Transformers, vLLM, SGLang и другими инструментами. Ограничения включают необходимость совместимого программного обеспечения для MTP; при таком режиме не поддерживаются параллельные последовательности с -np > 1 и параметр --mmproj. Лицензия — Apache-2.0.

cyankiwi/Qwen3.5-9B-AWQ-4bit — это 4-битная AWQ-квантизированная версия мультимодальной модели Qwen3.5-9B, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, включая визуальное понимание, рассуждения, программирование и агентские сценарии. Она распространяется в формате, совместимом с Transformers, vLLM, SGLang и KTransformers. Модель содержит около 9 млрд параметров и построена как авторегрессионная языковая модель с vision encoder. В архитектуре сочетаются Gated Delta Networks и разреженная Mixture-of-Experts; заявлены 32 слоя и скрытая размерность 4096. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Квантизация AWQ снижает требования к памяти и может сделать инференс практичнее на совместимом оборудовании, однако возможны потери качества по сравнению с полноразмерной версией, а фактическая производительность зависит от используемого движка. Модель ориентирована на разработчиков и корпоративные приложения, которым нужны мультимодальные ответы, анализ изображений, работа с длинным контекстом, кодом и сложными задачами. README не содержит подробностей о специфических ограничениях, безопасности, точных требованиях к оборудованию или характеристиках именно квантизированной версии. Лицензия — Apache-2.0.

lovedheart/Qwen3.5-9B-FP8 — мультимодальная причинная языковая модель с визуальным энкодером, основанная на Qwen3.5-9B и разработанная командой Qwen. Она предназначена для генерации и анализа текста и изображений, рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит около 9 млрд параметров, 32 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. В архитектуре сочетаются Gated DeltaNet, Gated Attention и разреженная Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Модель обучалась на стадиях предварительного и последующего обучения и совместима с Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся мультимодальность, длинный контекст, высокая эффективность архитектуры и широкое языковое покрытие. README не приводит подробных ограничений, требований к аппаратному обеспечению или результатов независимого тестирования для данной FP8-сборки, поэтому фактическая производительность и качество могут зависеть от среды запуска и сценария использования. Указана лицензия Apache 2.0.

Bernhard Brieger/Qwen3.8-27B-GPTQ-Int4 — это посттренировочная GPTQ-квантизация базовой модели Qwen/Qwen3.8-27B, выполненная Bernhard Brieger. Модель предназначена для общего следования инструкциям, программирования, вызова инструментов и обработки длинного контекста, включая поиск по документам объёмом более 100 000 токенов. Квантизация не включает дообучение, дистилляцию или дополнительное обучение безопасности. Модель имеет мультимодальную архитектуру image-text-to-text Qwen3_5ForConditionalGeneration с языковой частью и vision tower, содержит около 27,78 млрд параметров, 64 слоя и поддерживает нативный контекст до 262 144 токенов; проверена работа с контекстом 163 840 токенов. 48 слоёв используют линейное внимание Gated-DeltaNet, 16 — полное внимание. Весовая часть сжата до 4-битного симметричного формата GPTQ с group size 32: примерно 87,6% параметров квантизированы, а критически важные компоненты, включая эмбеддинги, lm_head, vision tower, нормализации и MTP draft layer, сохранены в bf16. Также поддерживается Multi-Token Prediction для speculative decoding. Ключевое преимущество — снижение объёма весов с 55,56 до 19,54 ГБ при сохранении мультимодальной архитектуры, MTP-компонента и совместимости с GPTQ-совместимыми средами, включая vLLM и SGLang. Ограничение заключается в том, что это именно квантизированная версия базовой модели, поэтому она не предназначена для сценариев, требующих полной точности; в README также не приведены языки, результаты сравнительных бенчмарков или измерение ухудшения качества относительно базовой модели. Модель распространяется по лицензии Apache-2.0.

Granite-4.0-Micro — компактная языковая модель семейства Granite, представленная Unsloth на основе модели IBM Granite Team. Это дообученная instruct-модель для диалоговых ассистентов и агентных систем: она следует инструкциям, отвечает на вопросы, суммирует и извлекает текст, выполняет классификацию, помогает с кодом и поддерживает вызов инструментов. Модель содержит 3,4 млрд параметров, использует архитектуру GraniteMoeHybridForCausalLM и рассчитана на контекст до 131 072 токенов. Принимает текст и генерирует текст; заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Лицензия — Apache 2.0. К сильным сторонам относятся длинный контекст, следование инструкциям и интерфейс вызова инструментов, а сценарии включают бизнес-ассистентов, RAG и работу с кодом. Качество на языках помимо английского может быть ниже; модель способна выдавать неточные, предвзятые или небезопасные ответы, поэтому её следует оценивать и настраивать для конкретного применения.

Granite-4.0-Tiny-Preview — инструктивная языковая модель команды Granite компании IBM. Это гибридная архитектура Mixture-of-Experts для генерации текста; метаданные указывают 421,5 млн параметров, а README приводит оценку 7 млрд параметров. Модель дообучена на Granite-4.0-Tiny-Base-Preview с помощью обучения на инструкциях и выравнивания с подкреплением. Лицензия — Apache 2.0. Модель предназначена для выполнения инструкций и интеграции в ассистентов. Она поддерживает диалог, вызов инструментов, суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи по коду и работу с длинными документами и встречами. Указанное в метаданных окно контекста составляет 131 072 токена. README перечисляет 12 поддерживаемых языков: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Модель может применяться в бизнес-ассистентах и сценариях работы с длинным контекстом. README отмечает использование как открытых наборов данных с разрешительными лицензиями, так и внутренних синтетических данных. Чекпойнт имеет статус preview; для запуска README рекомендует установить Transformers из исходного кода. Подробные ограничения и результаты оценки в предоставленной карточке не приведены.

Muse-Glimmer-30B-AWQ-INT4 — квантованная примерно до 4-битной точности версия Muse Glimmer-30B, разработанной Meta Superintelligence Lab и дистиллированной из Muse Spark. Это причинно-следственная языковая модель с отдельным энкодером восприятия, предназначенная для локального запуска на потребительском оборудовании без облачной инфраструктуры и доступа к сети. Модель ориентирована на автономные агентские задачи: многошаговое рассуждение, вызов инструментов, написание и отладку кода, выполнение многоэтапных запросов и восстановление после ошибок инструментов. Архитектура включает плотный causal Transformer примерно на 29,6 млрд параметров и perception encoder примерно на 1,8 млрд параметров. Используются 52 слоя, чередование локального и глобального внимания, GQA, SwiGLU и RoPE; контекст составляет 131 072 токена или более. Модель принимает текст и изображения, а генерирует текст, поддерживая анализ скриншотов, графиков и документов. Заявлена работа более чем со 100 языками; среди явно перечисленных — английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский. Заявленный размер файла — 24,02 ГБ. К сильным сторонам относятся мультимодальность, длительное поддержание планов, точное использование инструментов, совместимость с агентскими оркестраторами и настраиваемая интенсивность рассуждений. К ограничениям относятся необходимость значительных аппаратных ресурсов и возможные потери качества из-за квантования, хотя для близких 4-битных конфигураций заявлено минимальное снижение результатов на агентских задачах. Модель распространяется по лицензии Apache 2.0.

NVIDIA Muse-Glimmer-30B NVFP4 — квантизированная версия модели Muse-Glimmer-30B, разработанной Meta Superintelligence Lab. NVIDIA подготовила квантизацию с помощью Model Optimizer; сама NVIDIA указывает, что не владеет и не разрабатывала исходную модель. Это плотный авторегрессионный causal Transformer с выделенным perception encoder для обработки чередующихся текстовых и графических входов. Модель предназначена для локальных агентных сценариев: многошагового рассуждения и планирования, coding agents, автономных систем, использования инструментов, восстановления после ошибок и мультимодального анализа. Она принимает текст и RGB-изображения, поддерживает контекст до 131K токенов и до 4 096 визуальных токенов на изображение. Модель может интерпретировать скриншоты, графики и документы в контексте диалога, генерируя текстовые ответы. Доступны уровни интенсивности рассуждения low, medium, high и xhigh, позволяющие выбирать баланс между качеством и скоростью. Модель содержит около 29,6 млрд параметров с учётом vision encoder и использует формат квантизации NVFP4 1.0, выполненной с помощью nvidia-modelopt v0.46.0. Поддерживаются vLLM и SGLang, а целевыми платформами являются NVIDIA Blackwell B200, B300 и DGX Spark под Linux. Видео не оптимизировано напрямую и обрабатывается как последовательность отдельных кадров; сведения о языках, исходных обучающих данных и их объёме не раскрыты. Для коммерческого и некоммерческого использования указана лицензия Apache 2.0, однако перед развёртыванием требуется дополнительное тестирование на данных конкретного сценария.

unsloth/granite-4.0-h-micro-unsloth-bnb-4bit — 4-битная версия Granite-4.0-H-Micro, разработанная Unsloth на базе модели IBM Granite Team и IBM. Исходная модель представляет собой инструкционную long-context языковую модель примерно на 3 млрд параметров, дообученную с применением supervised fine-tuning, выравнивания с использованием reinforcement learning и объединения моделей. Точная длина контекста для данной версии в README не указана. Модель предназначена для выполнения общих инструкций и создания корпоративных AI-ассистентов. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG-сценарии, задачи, связанные с кодом, вызов функций и инструментов, многоязычный диалог, а также Fill-In-the-Middle для дополнения кода. Заявлены улучшенные instruction following и tool-calling возможности. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Ключевое преимущество варианта — 4-битная квантизация BNB, которая может снизить требования к памяти и упростить локальное развертывание, однако README не приводит точные показатели качества, скорости или совместимости с конкретным оборудованием. Ограничения включают отсутствие в предоставленных данных детальных бенчмарков, точного размера в памяти и описания мультимодальных возможностей; по имеющейся информации модель является текстовой. Распространение указано по лицензии Apache 2.0.

Granite-4.0-H-Tiny — диалоговая языковая модель, представленная Unsloth на основе модели IBM Granite и предназначенная для выполнения инструкций и создания ассистентов. В README указано 7 млрд параметров, тогда как метаданные репозитория содержат оценку 500,2 млн параметров; поэтому размер не приводится как однозначно установленный. Модель построена на декодерной гибридной MoE-архитектуре с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Контекст — до 131 072 токенов. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом, многоязычного диалога и вызова инструментов. Разработчики заявляют поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Репозиторий Unsloth описан как дообучение базовой модели IBM; карточка Granite сообщает о настройке инструкциями, выравнивании и слиянии моделей. Лицензия — Apache 2.0. Качество на языках помимо английского может быть ниже; модель также может выдавать неточные, предвзятые или небезопасные ответы. Для специализированного применения рекомендуется проверка и настройка.

Granite-4.1-8B-Base — базовая языковая модель IBM Granite Team, обученная с нуля. Это плотный декодерный трансформер на 8,4 млрд параметров для генерации текста и других задач преобразования текста; поддерживает дополнение кода по схеме Fill-in-the-Middle с использованием специальных префиксных и суффиксных токенов. В архитектуре используются GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги. README сообщает о контекстном окне до 512 тыс. токенов после расширения на заключительном этапе обучения, тогда как метаданные указывают нативный контекст в 131 072 токена. Модель подходит для суммаризации, классификации и извлечения информации, ответов на вопросы, автодополнения кода и генерации с длинным контекстом. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Модель не прошла выравнивание по безопасности и может выдавать проблемный контент, ошибочную информацию или воспроизводить фрагменты обучающих данных. Для приложений с повышенными требованиями к безопасности разработчик рекомендует использовать её вместе с Granite Guardian.

Карточка модели Bloxyest/Qwen3.5-9B на Hugging Face совпадает с карточкой Qwen/Qwen3.5-9B, поэтому описание составлено по ней. Qwen3.5-9B — мультимодальная модель Qwen, разработанная командой Qwen и представленная в формате Hugging Face Transformers. Это дообученная версия Qwen/Qwen3.5-9B-Base: причинная языковая модель с визуальным энкодером, 9 млрд параметров и гибридной архитектурой с Gated Delta Networks и разреженными Mixture-of-Experts. Модель принимает текст и изображения и генерирует текст; поддерживает чат и вызов инструментов. Модель предназначена для диалога, рассуждений, программирования, визуального понимания и агентных сценариев с использованием инструментов. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000; в режиме по умолчанию перед ответом генерируется содержимое рассуждений. В карточке заявлена поддержка 201 языка и диалекта, но список языков в предоставленных данных опущен. В README заявлены высокая эффективность гибридной архитектуры и улучшенные результаты на задачах рассуждения, кода и визуального понимания; независимых оценок в предоставленном тексте недостаточно для проверки этих утверждений. Для длинного контекста могут потребоваться значительные ресурсы, а совместимость и пропускная способность зависят от версии и конфигурации сервера. Лицензия — Apache-2.0.

Qwen3.5-9B — мультимодальная модель Qwen, разработанная командой Qwen и представленная в формате Hugging Face Transformers. Это дообученная версия Qwen/Qwen3.5-9B-Base: причинная языковая модель с визуальным энкодером, 9 млрд параметров и гибридной архитектурой с Gated Delta Networks и разреженными Mixture-of-Experts. Модель принимает текст и изображения и генерирует текст; поддерживает чат и вызов инструментов. Модель предназначена для диалога, рассуждений, программирования, визуального понимания и агентных сценариев с использованием инструментов. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000; в режиме по умолчанию перед ответом генерируется содержимое рассуждений. В карточке заявлена поддержка 201 языка и диалекта, но список языков в предоставленных данных опущен. В README заявлены высокая эффективность гибридной архитектуры и улучшенные результаты на задачах рассуждения, кода и визуального понимания; независимых оценок в предоставленном тексте недостаточно для проверки этих утверждений. Для длинного контекста могут потребоваться значительные ресурсы, а совместимость и пропускная способность зависят от версии и конфигурации сервера. Лицензия — Apache-2.0.

Interlinkarts/Qwen3.5-9B-GGUF — версия модели Qwen3.5-9B, разработанной командой Qwen. Репозиторий предназначен для локального запуска модели в формате GGUF; при этом README также указывает совместимость исходных артефактов с Hugging Face Transformers, vLLM, SGLang и KTransformers. Модель распространяется по лицензии Apache-2.0. Это мультимодальная causal language model с vision encoder, предназначенная для генерации и понимания текста, анализа изображений, рассуждений, программирования, агентских сценариев и других задач vision-language. Заявлена поддержка 201 языка и диалекта. Контекстное окно составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель содержит 9 млрд параметров и использует гибридную архитектуру с Gated Delta Networks и разреженным Mixture-of-Experts; также применяются Gated Attention, 32 слоя, скрытая размерность 4096 и multi-step training. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, высокая заявленная эффективность инференса и поддержка длинного контекста. README не содержит точных сведений о варианте GGUF-квантизации, требованиях к аппаратному обеспечению и ограничениях качества, поэтому эти характеристики требуют отдельной проверки.

Riyan200324200324/Qwen3.8-27B — это GGUF-версия модели Qwen3.8-27B, основанная на Qwen/Qwen3.8-27B и модифицированная HauhauCS в профиле Aggressive. Модель предназначена для генерации текста, рассуждений, агентских сценариев, обработки изображений и видео. Aggressive-профиль ориентирован на прямые ответы без выраженного отказного поведения и с минимальным вступлением на сложных запросах; при этом README предупреждает, что для критически важных задач с длинным контекстом более сбалансированный профиль может быть надёжнее. Это плотная причинная языковая модель на 27 млрд параметров с отдельным vision-проектором BF16 для мультимодального ввода. Архитектура включает 64 слоя языковой модели, скрытый размер 5120, размер FFN 17408, словарь 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Поддерживаются встроенный MTP/NextN и дополнительный профиль ускорения HauhauCS FastMTP 32K. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Заявлены английский, китайский и мультиязычный режимы. Сильные стороны модели — широкий набор текстовых и мультимодальных возможностей, большой контекст, варианты GGUF-квантизации от Q2 до Q8 и ускорение FastMTP. Ограничения включают зависимость мультимодального режима от отдельного vision-проектора, возможное снижение качества при агрессивной квантизации и менее осторожное поведение из-за uncensored-профиля. Модель распространяется по лицензии Apache-2.0.

darkc0de/Qwen3.8-27B-heretic — декензурированная версия Qwen/Qwen3.8-27B, созданная с помощью Heretic v1.4.0. Это плотная модель с 27 млрд параметров, построенная на архитектуре семейства Qwen3.5: языковая модель с визуальным энкодером, поддерживающая диалог и анализ изображений. В метаданных Hugging Face для неё указана задача image-text-to-text; исходная карточка также описывает понимание видео, но каталог не отмечает эту возможность отдельно. Модель предназначена для сложных запросов, программирования, исследований, многошагового планирования, работы с документами и визуальными материалами. Контекст составляет 262 144 токена с возможностью расширения до 1 000 000. Режим рассуждения включён по умолчанию и может настраиваться. По сравнению с исходной моделью, согласно карточке, частота отказов в указанной проверке снизилась с 89 до 64 из 100; это не гарантирует отсутствие отказов или пригодность ответов для любой задачи. Веса опубликованы в формате safetensors и совместимы с Transformers, vLLM и SGLang. Лицензия — Apache-2.0. В карточке не приведены языки модели; описание не приписывает ей поддержку конкретных естественных языков.

Deritak/Qwen3.8-Flash-Next-heretic-2-ROCMFP4 — размещённая пользователем сборка Qwen3.8-Flash-Next, причинной языковой модели с визуальным энкодером. README описывает гибридную архитектуру с Gated DeltaNet, Qwen Sparse Attention, Mixture of Experts и n-граммными эмбеддингами: заявлены 125 млрд параметров, из которых активируются 6 млрд, а также отдельные параметры эмбеддингов и слой multi-token prediction. Модель принимает текст и изображения и предназначена для диалогов, задач с длинным контекстом и агентных сценариев, включая работу с кодом и офисными приложениями. В README указан контекст 262 144 токена с возможностью расширения до 1 000 000. Автор репозитория сообщает о проблеме с встроенной квантизацией MTP и рекомендует её не использовать; приведённые замеры скорости относятся к AMD AI Max+ PRO 395. Метаданные указывают GGUF и GGUF BF16, но лицензию обозначают только как other, поэтому точные условия использования по доступным сведениям определить нельзя.

airoboros-33b-3.1.2 — экспериментальная разговорная модель jondurbin на архитектуре Llama, дообученная на наборе airoboros-3.1, в основном состоящем из синтетических данных. Она предназначена для следования инструкциям и многошаговым запросам, ответов на вопросы по предоставленному контексту, суммаризации, извлечения сведений из журналов и генерации кода. Модель использует шаблон диалога Llama 2 и поддерживает контекст до 2048 токенов по метаданным; в README автор указывает, что при дообучении применял rope scaling для увеличения контекста до 4096 токенов. В репозитории указаны 32,3 млрд параметров и формат safetensors. Среди заявленных сценариев также генерация аргументов для вызова функций и построение текстовых планов выполнения. Это только генерация текста: для реального вызова инструментов требуется внешняя система, которая разбирает и исполняет такой план. Модель ориентирована на инструкции, а не на непринуждённый чат или ролевую игру; автор рекомендует низкую температуру генерации. Базовая модель — llama-30b-hf. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

edwardcapriolo/granite-4.0-h-tiny-JQ4 — квантованная версия Granite-4.0-H-Tiny, модели IBM для диалогов и выполнения инструкций. Репозиторий преобразован Deliverance Q.O.D.: выбранные веса представлены в формате Q4, размер модели уменьшен с 12,9 до 4,2 ГБ. Метаданные указывают 500,2 млн параметров, архитектуру MoE на базе decoder-only трансформера и контекст до 131 072 токенов; модель предназначена для генерации текста и поддерживает чат. Модель подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, программирования, вызова инструментов и многоязычного диалога, в том числе в бизнес-приложениях. В README заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. К архитектурным компонентам исходной модели относятся GQA, Mamba2 и общие эксперты MoE. Квантование предназначено для уменьшения размера и ускорения локального вывода, но карточка не приводит сравнительных результатов качества для этого варианта. Для неанглийских языков качество может быть ниже, чем для английского; ответы могут быть неточными, предвзятыми или небезопасными, поэтому модель следует проверять для конкретного применения. Лицензия — Apache 2.0.

QuantTrio/Qwen3.5-4B-AWQ — это AWQ-квантизированная версия мультимодальной модели Qwen3.5-4B, разработанной командой Qwen. Репозиторий содержит веса и конфигурацию в формате Hugging Face Transformers; квантизация выполнена без использования калибровочных данных. Модель предназначена для задач понимания и генерации текста, работы с изображениями, рассуждений, программирования и агентских сценариев. Модель представляет собой причинную языковую модель с vision encoder и гибридной архитектурой, объединяющей Gated Delta Networks и разреженный Mixture-of-Experts. Она содержит около 4 млрд параметров, 32 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Доступны интеграции с Transformers, vLLM, SGLang и KTransformers, а также поддержка tool calling и reasoning parser в vLLM. К сильным сторонам относятся мультимодальность, большой контекст, относительно небольшой размер и оптимизация AWQ для более эффективного инференса. Ограничения связаны с необходимостью совместимого программного и аппаратного окружения: в README указаны vLLM версии не ниже 0.16.0rc2.dev447, экспериментальная версия Transformers, CUDA 12.8 и дополнительные исправления конфигурации. Конкретные значения производительности в README не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-QD-GGUF — квантизированная версия модели Qwen3.6-35B-A3B, подготовленная Quadux IT с использованием собственной методики Quadux Dynamic Quantization. Модель предназначена для диалоговых и мультимодальных сценариев, включая работу с текстом и изображениями, и рассчитана на запуск через llama.cpp в формате GGUF. В основе лежит MoE-архитектура: 35,5 млрд параметров всего и около 3 млрд активных параметров на токен. Используется гибридная схема attention с контекстом до 256 тысяч токенов и низкими затратами на KV-кэш. Поддерживаются английский, немецкий и, согласно карточке, другие языки. В комплект включены MTP head и совместимый vision projector, что обеспечивает поддержку изображений при использовании соответствующей конфигурации. Доступно несколько вариантов квантизации размером примерно от 10,6 до 26,42 ГБ, рассчитанных на видеокарты с 12–32 ГБ памяти. Распределение точности выполнено по результатам измерения чувствительности отдельных тензоров, поэтому варианты ориентированы на хорошее качество при ограниченном размере. Ограничения связаны с неизбежными потерями качества квантизации, зависимостью результата от выбранного варианта и необходимостью отдельного vision projector для мультимодальной работы. Лицензия — Apache 2.0.

Granite-3.3-8B-Base — базовая языковая модель IBM Granite Team для генерации и преобразования текста. Это плотный decoder-only трансформер на 8,2 млрд параметров с контекстом до 131 072 токенов. Архитектура использует GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги; модель распространяется в формате safetensors и по лицензии Apache 2.0. Модель предназначена для продолжения текста и задач с длинным контекстом: суммаризации, классификации, извлечения информации и ответов на вопросы. Поддержка Fill-in-the-Middle позволяет генерировать код или текст с учётом заданного префикса и суффикса. README указывает поддержку английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Модель не проходила safety alignment, поэтому может выдавать проблемный контент; возможны предвзятость, дезинформация и дословное воспроизведение фрагментов обучающих данных. Для практических задач, требующих специализированного поведения, IBM рекомендует использовать базовую модель как основу для дообучения.

Qwen3.6-35B-A3B-REAM-192 — мультимодальная модель Samsung SAIL Montreal, созданная слиянием экспертов базовой Qwen/Qwen3.6-35B-A3B методом REAM. В слоях MoE число маршрутизируемых экспертов сокращено с 256 до 192; модель содержит около 27,05 млрд параметров, из которых около 3 млрд активны на токен. Сохранены vision encoder и обработка изображений; веса представлены в формате bf16, без квантизации. Модель предназначена для диалогов, генерации текста по изображениям, агентного программирования и вызова инструментов. Это предварительный выпуск до оценки качества: автор сообщает, что модель загружается и связно отвечает на тестовых запросах, но результаты бенчмарков ещё не опубликованы. Для обычной текстовой и мультимодальной работы отсутствующие веса MTP не нужны, однако спекулятивное декодирование с MTP пока не поддерживается. Для инференса требуется bf16: fp16 может вызывать NaN в слоях GDN. Веса занимают около 52 ГБ; для контекста 32K автор указывает минимум около 60 ГБ VRAM. Лицензия Apache-2.0.

airoboros-c34b-2.2.1 — экспериментальная языковая модель jondurbin, дообученная на синтетических инструкционных данных набора airoboros-2.2.1. Это плотная авторегрессионная модель семейства Llama на 33,5 млрд параметров с контекстом до 16 384 токенов; опубликована в формате PyTorch под лицензией Llama 2. Модель предназначена для выполнения инструкций, ответов на вопросы с опорой на предоставленный контекст, суммаризации, написания текстов и кода. В README также описаны генерация структурированных аргументов для вызова функций и составление планов выполнения задач, однако для вызова инструментов требуется отдельная система, которая обработает такой план. Для диалога используется шаблон с метками USER и ASSISTANT. В сравнении с airoboros-c34b-2.2 в этой версии обновлены примеры письма, добавлены более длинные блоки контекста, удалены данные ролевых игр и снижена интенсивность снятия цензуры; обучение проводилось в пять эпох. README характеризует модель как универсальную, но ориентированную прежде всего на следование инструкциям, а не на непринуждённый чат. Автор предупреждает, что без настроенных критериев остановки модель может продолжить ответ от имени пользователя; для вопросов по контексту советует явно просить не придумывать ответ при нехватке сведений.

Карточка модели belltechsoft/gemma-4-12B-it-assistant на Hugging Face совпадает с карточкой google/gemma-4-12B-it-assistant, поэтому описание составлено по ней. Gemma 4 12B IT Assistant — мультимодальная модель с открытыми весами от Google DeepMind, предназначенная для диалогов и генерации текста. Эта карточка описывает вариант Multi-Token Prediction (MTP): компактная черновая модель для speculative decoding, которая предлагает несколько токенов заранее, а целевая модель проверяет их параллельно. Такой режим может ускорять декодирование до 3 раз без изменения качества относительно обычной генерации. Модель семейства Gemma 4 использует плотную архитектуру и поддерживает ввод текста, изображений и аудио; на выходе генерирует текст. Она предназначена для рассуждений, программирования, распознавания и понимания речи, работы с изображениями и агентных сценариев с вызовом инструментов. Семейство поддерживает длинный контекст до 256 тысяч токенов и многоязычную работу; в карточке указана поддержка более 140 языков при обучении. MTP-вариант рассчитан на использование в speculative decoding с соответствующей целевой моделью, а не как самостоятельная замена обычному checkpoint для всех сценариев. Лицензия — Apache 2.0.