I.11Классификация, ранжирование и сопоставление

Cohere и Cohere Labs разработали Tiny Aya Base — авторегрессионную языковую модель на архитектуре Transformer с 3,35 млрд параметров. Она предназначена для дообучения, адаптации к инструкциям и локального запуска в условиях ограниченных вычислительных ресурсов. Модель принимает текст и генерирует текст; контекст составляет до 8 тысяч токенов, заявлена поддержка более 70 языков, включая языки с ограниченными обучающими данными. Модель подходит для многоязычной генерации и диалогов, суммаризации, перевода и межъязыковых задач. В архитектуре используются скользящее оконное внимание с размером окна 4096 и глобальное внимание. По данным карточки, особенно сильные стороны — генерация на разных языках и работа с низкоресурсными языками. Качество рассуждений, в частности математических, ниже; фактические ответы могут быть ошибочными, а качество и понимание культурных нюансов различаются между языками. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование без отдельного разрешения; также требуется соблюдать политику допустимого использования Cohere Labs.

UltraLM-13b — чатовая языковая модель на архитектуре LLaMA с 12,9 млрд параметров, созданная OpenBMB путём дообучения LLaMA-13b на наборе UltraChat. Она рассчитана на многоходовые диалоги и генерацию ответов по инструкциям в формате User/Assistant. Контекст модели составляет 2048 токенов; она принимает и генерирует текст. В репозитории размещены delta-веса: для инференса необходимо восстановить полную модель на основе исходной LLaMA-13b и использовать чатовый шаблон. Модель распространяется на условиях лицензии LLaMA; применяются её ограничения использования.

askarikzm/university_llm — дообученная askarikzm языковая модель на архитектуре Qwen2, основанная на unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit. Модель содержит 7,1 млрд параметров, принимает текст и предназначена для генерации текста и диалогов; в метаданных также указана поддержка интерфейса вызова инструментов. Модель использует формат safetensors и рассчитана на контекст до 32 768 токенов. В карточке заявлено, что при обучении применялись Unsloth и библиотека TRL от Hugging Face; подробности целевого датасета и специализации дообучения не приведены. Указанная лицензия — Apache-2.0.

Это набор GGUF-квантизаций модели v3ray/Llama-3-1-70B-Instruct-base, подготовленный организацией featherless-ai-quants и распространяемый на платформе Hugging Face. Модель относится к задачам генерации текста и предназначена для запуска совместимых языковых моделей в различных вариантах квантования. В набор входят варианты IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Указан размер базовой модели 70B; архитектура, поддерживаемые языки, модальности и размер контекста в README не описаны. Разные уровни квантования позволяют выбирать компромисс между размером файлов, требованиями к ресурсам и вероятным сохранением качества, однако конкретные характеристики производительности не приведены. Размеры вариантов составляют примерно от 25 до 72 ГБ. Модель ориентирована на текстовую генерацию, но точные сценарии применения, ограничения, требования к оборудованию и условия лицензирования в предоставленных данных не указаны. Поэтому перед использованием необходимо проверить лицензию базовой модели v3ray/Llama-3-1-70B-Instruct-base и совместимость выбранного GGUF-варианта с используемым программным обеспечением.

WINTER-FROST-2-PRO — дообученная brucoder языковая модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Базовая модель — unsloth/Qwen2.5-7B-Instruct-bnb-4bit; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста и диалогового взаимодействия; также заявлен интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, а лицензия — Apache-2.0.

Xelora-9B-Study — дообученная Shreesha-2011 текстовая модель семейства Qwen3.5. Она основана на Qwen/Qwen3.5-9B и использует плотную архитектуру Qwen3_5ForCausalLM; в репозитории указано 7,2 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, а интерфейс также поддерживает вызов инструментов. Модель принимает текст и выдаёт текст. Для базовой Qwen3.5-9B заявлены мультимодальные возможности, включая анализ изображений, однако карточка Xelora описывает текстовый вариант модели и не подтверждает обработку изображений. Контекстное окно составляет до 262 144 токенов, основной указанный язык — английский. В README сказано, что обучение выполнялось с Unsloth и библиотекой TRL. Лицензия — Apache-2.0. Карточка не приводит оценок качества, специализированных сценариев обучения или результатов тестирования.

Карточка модели Xwin-LM/Xwin-LM-13B-V0.1 на Hugging Face совпадает с карточкой Xwin-LM/Xwin-LM-70B-V0.1, поэтому описание составлено по ней. Xwin-LM-70B-V0.1 — языковая модель команды Xwin-LM, построенная на базе Llama 2 и настроенная для диалогов с помощью методов выравнивания, включая SFT и RLHF. Она предназначена для многоходового общения, ответов на вопросы и выполнения пользовательских инструкций в формате генерации текста. Модель содержит 68,7 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 4096 токенов. В README сообщается о результатах модели на AlpacaEval, однако эти оценки относятся к бенчмарку и не гарантируют аналогичного качества в других сценариях. Для диалогов следует использовать шаблон Vicuna, описанный в карточке. Модель распространяется по лицензии Llama 2; отдельной специализации на конкретной области или поддерживаемых языках карточка не заявляет.

YamshadowInex12_T3qm7xStrangemerges_32 — слитая модель семейства Mistral, созданная из automerger/YamshadowInex12-7B и automerger/T3qm7xStrangemerges_32-7B. Она предназначена для генерации текста и может использоваться в приложениях с текстовым вводом и текстовыми ответами. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальные области применения, языковую специализацию или результаты оценки качества, поэтому пригодность для конкретных сценариев следует проверять самостоятельно.

YamshadowInex12_YamM7 — слитая модель для генерации текста, созданная на основе automerger/YamshadowInex12-7B и automerger/YamM7-7B. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и принимает текст для авторегрессионной генерации продолжений и ответов. Контекст модели составляет до 32 768 токенов, поэтому её можно применять в диалогах и при работе с длинными текстовыми запросами. Модель опубликована в формате safetensors под лицензией Apache-2.0. В README не описаны специальные навыки или гарантии качества; качество ответов следует проверять на целевых задачах.

Zenith-7B — разговорная инструкцияя модель, разработанная Xenon1 и дообученная на базе Mistral-7B-v0.1 на наборе Ultrafeedback с применением методов из статьи Self-Rewarding Language Models. Она предназначена для генерации ответов и ведения диалога по инструкциям; для запросов используется формат Mistral с маркерами [INST] и [/INST], доступен шаблон чата Transformers. Модель имеет плотную архитектуру MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык. Веса доступны в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Карточка не приводит оценки качества или результаты бенчмарков.

Yaxin1992/zephyr-beta-llama2-7b-ties — диалоговая языковая модель, созданная слиянием Zephyr 7B Beta и Llama 2 7B Chat методом TIES с помощью mergekit. В метаданных указана архитектура MistralForCausalLM с плотной структурой, около 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и использования в качестве ассистента. Слияние выполнено на основе HuggingFaceH4/zephyr-7b-beta с включением meta-llama/Llama-2-7b-chat-hf; в README приведена конфигурация слияния и типом float16. Метаданные указывают библиотеку Transformers и формат safetensors. Карточка не сообщает отдельные результаты оценки качества или специализированные предметные области. Лицензия в предоставленных данных не указана.

Qwen2.5-7B-Instruct-GGUF — инструкционная языковая модель, разработанная командой Qwen. Это GGUF-версия модели Qwen2.5-7B-Instruct, предназначенная для диалоговых приложений, генерации текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, в том числе русский, английский, китайский, французский, немецкий, испанский, японский и корейский. Модель использует архитектуру causal language model на базе transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Она содержит 7,61 млрд параметров, 28 слоёв и механизм GQA с 28 головами Q и 4 головами KV. Полная длина контекста GGUF-версии составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Сильные стороны модели — улучшенные следование инструкциям, кодирование, математика, генерация длинных текстов, понимание таблиц и устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — контекст до 131 072 токенов не поддерживается напрямую: для такого расширения README рекомендует использовать не-GGUF версии, а текущая конфигурация с YARN поддерживается только в vLLM. Модель распространяется по лицензии Apache-2.0.

CohereLabs/command-a-plus-05-2026-w4a4 — квантизированная версия открытой модели Command A+, разработанная Cohere и Cohere Labs. Модель предназначена для агентных и многошаговых сценариев, задач, требующих рассуждений, корпоративных приложений и многоязычного диалога. Она принимает текстовые и графические входы, а генерирует текст, поэтому может использоваться для общения, анализа изображений, обработки документов и работы с инструментами. Модель содержит 25 млрд активных параметров и 218 млрд параметров всего; в карточке она описана как MoE-модель с поддержкой vision-входов. Контекстное окно составляет до 128K входных токенов. Заявлена поддержка языков, включая английский, русский, китайский, японский, арабский, немецкий, французский, испанский и ряд других. Вариант W4A4 использует 4-битное квантование весов и активаций экспертов MoE, при этом внимание и KV-кэш сохраняются в полной точности; применяется Quantization-Aware Distillation для снижения потерь качества. Главное преимущество варианта W4A4 — меньшие требования к памяти, более высокая скорость и меньшая задержка при сопоставимом с другими вариантами качестве. Для запуска указаны ориентиры от одной GPU NVIDIA B200 или двух H100, а для vLLM требуется версия не ниже 0.25.0 и дополнительная библиотека cohere_melody. Ограничения включают высокие аппаратные требования и необходимость совместимого программного стека. Модель распространяется по лицензии Apache 2.0.

Granite-4.1-8B (FP8) — это FP8-версия 8-миллиардной инструкционной языковой модели Granite-4.1, разработанной командой Granite компании IBM. Модель предназначена для генерации текста, диалогов и использования в качестве основы AI-ассистентов и LLM-агентов, включая корпоративные сценарии. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation, программирование, вызовы функций, многоязычный диалог и Fill-In-the-Middle для кода. Базовая модель построена на decoder-only dense Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными embeddings. Для 8B-варианта указаны 40 слоёв, размер embedding 4096, 32 attention heads, 8 KV heads и контекст до 131072 токенов. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. FP8-квантизация ориентирована на более эффективное развёртывание при сохранении совместимости с инструментами text generation. Сильные стороны модели — улучшенные instruction following, tool calling, чат-возможности, генерация и объяснение кода, математическое рассуждение и поддержка длинного контекста. Ограничения включают возможное снижение качества на языках, отличных от английского, а также риск неточных, предвзятых или небезопасных ответов; IBM рекомендует проводить собственное тестирование безопасности и настройки под конкретные задачи. Модель распространяется по лицензии Apache 2.0.

Qwen3-4B-FP8 — языковая модель семейства Qwen, разработанная командой Qwen. Это causal language model для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, перевода и сценариев с использованием внешних инструментов. Модель поддерживает переключение между режимами thinking для сложных задач и non-thinking для более быстрых ответов в рамках одной модели. Модель содержит 4,0 млрд параметров, из них 3,6 млрд без учёта embedding, и имеет 36 слоёв. Используется Grouped-Query Attention с 32 головами для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с YaRN — до 131 072 токенов. Модель поддерживает более 100 языков и диалектов, ориентирована на мультиязычное следование инструкциям и перевод. Доступна в формате fine-grained FP8-квантизации с размером блока 128, что предназначено для повышения эффективности инференса. Сильные стороны модели — сочетание рассуждений и обычного диалога, развитые возможности следования инструкциям, мультиязычность, поддержка агентных сценариев и большой контекст. Ограничения включают известные проблемы fine-grained FP8 в Transformers при распределённом инференсе на нескольких устройствах; в таких случаях может потребоваться дополнительная настройка. Для корректной работы рекомендуется использовать актуальную версию Transformers или совместимые серверы инференса. Модель распространяется по лицензии Apache-2.0.

alpindale/c4ai-command-r-plus-GPTQ — GPTQ-вариант модели C4AI Command R+, разработанной Cohere и Cohere For AI. Базовая модель представляет собой авторегрессионную языковую модель на оптимизированной архитектуре Transformer с 104 миллиардами параметров и контекстом до 128K токенов. После предварительного обучения она прошла supervised fine-tuning и обучение на предпочтениях для повышения полезности и безопасности ответов. Модель предназначена для генерации текста, рассуждений, суммирования, ответов на вопросы, Retrieval Augmented Generation и многошагового использования инструментов. Она оптимизирована для английского, французского, испанского, итальянского, немецкого, бразильского португальского, японского, корейского, арабского и упрощённого китайского языков; в предобучающие данные также входили русский и другие языки. Входом и выходом служит только текст. Сильные стороны — большой контекст, мультиязычность, поддержка RAG и сложных цепочек вызова инструментов. Ограничения и точные характеристики GPTQ-квантизации в представленном README не указаны. Использование регулируется лицензией CC-BY-NC-4.0 и политикой допустимого использования C4AI.

C4AI Command-R — языковая модель на 35 млрд параметров, разработанная Cohere For AI и представленная в формате GGUF-квантизации bartowski на основе llama.cpp. Модель предназначена для генерации текста и поддерживает рассуждения, обобщение, ответы на вопросы, работу с общими знаниями и программирование. Также заявлена высокая эффективность в сценариях RAG. Модель оптимизирована для многоязычной генерации на английском, французском, немецком, испанском, итальянском, бразильском португальском, японском, корейском, упрощённом китайском и арабском языках. В предобучающие данные дополнительно входили русский, польский, турецкий, вьетнамский, нидерландский, чешский, индонезийский, украинский, румынский, греческий, хинди, иврит и персидский языки. Заявлена поддержка контекста до 128K токенов. Модель обучалась с применением supervised fine-tuning и preference training для повышения полезности и безопасности. К сильным сторонам относятся большой контекст, широкий набор языков, универсальность и пригодность для RAG, анализа текста и программирования. Ограничения включают отсутствие поддержки system prompt согласно указанному шаблону и необходимость использования подходящего prompt template Cohere Command R. Модель распространяется по лицензии CC BY-NC-4.0, допускающей некоммерческое использование согласно её условиям.

DiffusionGemma 26B A4B IT NVFP4 — мультимодальная генеративная модель с открытыми весами, разработанная Google DeepMind и квантованная NVIDIA с помощью Model Optimizer в формате NVFP4. Она построена на архитектуре Gemma 4 26B A4B Mixture-of-Experts: содержит 25,2 млрд параметров, из которых активно используется 3,8 млрд. Модель применяет encoder-decoder Transformer с двунаправленным вниманием и дискретной диффузией, генерируя текст параллельными блоками по 256 токенов. Заявлена скорость свыше 1100 токенов в секунду на NVIDIA Hopper H100 при низком размере батча в режиме FP8. Модель принимает текст, изображения и видео, а генерирует текст. Она предназначена для диалоговых систем и чат-ботов, суммаризации, генерации кода, пошагового рассуждения, анализа изображений и документов, OCR, понимания графиков, разбора PDF, анализа экранов и пользовательских интерфейсов, обработки видео, агентских сценариев с вызовом функций и мультиязычных задач. Поддерживаются более 35 языков, контекст до 256 тысяч токенов, настраиваемый режим рассуждения, нативный function calling и структурированный вывод в формате JSON. Изображения могут иметь различные разрешения и соотношения сторон, а видео обрабатывается как последовательность кадров длительностью до 60 секунд с частотой один кадр в секунду. Сильными сторонами модели являются мультимодальность, большой контекст, параллельная генерация и относительно небольшое число активных параметров для MoE-архитектуры. Ограничения включают необходимость проверки качества и безопасности на данных конкретного сценария, а также преимущественную ориентацию на NVIDIA GPU с поддержкой Blackwell и Hopper H100; заявленная интеграция выполняется через vLLM в Linux. Модель доступна для коммерческого и некоммерческого использования по Apache 2.0 с дополнительными Gemma Terms of Use и Gemma Prohibited Use Policy. NVIDIA указывает, что не является владельцем или разработчиком исходной модели.

Qwen3-235B-A22B-GGUF — квантованная версия модели Qwen3-235B-A22B, разработанной командой Qwen. Квантование в формате GGUF выполнил bartowski на основе llama.cpp. Модель предназначена для локального текстового взаимодействия, генерации и обработки текста, следования инструкциям, многоходовых диалогов, творческого письма, ролевых сценариев, программирования, математики и задач, требующих рассуждений. Это MoE-модель с общим размером 235B параметров и 22B активируемых параметров; в конфигурации указаны 128 экспертов, из которых одновременно активны 8. Поддерживаются режимы с рассуждением и без него, а также отключение рассуждений с помощью параметра /no_think в конце запроса. Заявлена поддержка более 100 языков и диалектов. Контекстное окно достигает 131 072 токенов с YaRN, при этом значение по умолчанию составляет 32 000 токенов. Сильные стороны модели — улучшенное рассуждение, широкий языковой охват, развитые агентские возможности и универсальность в диалоговых, творческих и технических задачах. Ограничения включают зависимость характеристик от конкретного варианта квантования и конфигурации запуска, а также возможность неточных, вредных или неподходящих ответов. Модель распространяется по лицензии Apache 2.0.

Карточка модели Stage-org/Qwen3-4B-Instruct-2507 на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Instruct-2507, поэтому описание составлено по ней. Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это обновлённая версия Qwen3-4B в режиме без рассуждений: модель обучена следовать инструкциям и вести диалог, а также поддерживает интерфейс вызова инструментов. В репозитории указано 4,0 млрд параметров, метаданные Hugging Face указывают 3,7 млрд; нативная длина контекста составляет 262 144 токена. Модель предназначена для генерации ответов, понимания текста, логических и математических задач, вопросов по естественным наукам, программирования и работы с инструментами. Большое окно контекста подходит для анализа длинных документов и диалогов; заявлена поддержка нескольких языков и улучшенное покрытие редких знаний. Модель принимает текст и выдаёт текст. В README отмечены улучшения следования инструкциям, рассуждений, генерации текста и работы с длинным контекстом. Модель работает только в режиме без рассуждений и не выводит блоки рассуждений. Лицензия — Apache-2.0.

Gemma 4 26B A4B NVFP4 — мультимодальная модель для генерации текста, разработанная Google DeepMind и квантизированная NVIDIA с помощью Model Optimizer. Модель принимает текст и изображения, поддерживает обработку видео как последовательности кадров, а её выходом является текст. Она предназначена для диалоговых систем, чат-ботов, суммаризации, извлечения данных из изображений, рассуждений, программирования, мультимодального анализа, function calling, а также исследовательских и образовательных задач. Модель построена на архитектуре Transformers с разреженной MoE-структурой: содержит около 25,2 млрд параметров, из которых активно используется около 3,8 млрд, 30 слоёв, 128 экспертов и один общий эксперт. Она поддерживает контекст до 256K токенов, скользящее окно внимания размером 1024 токена, словарь из 262 тысяч токенов и более 140 языков. Для обработки изображений предусмотрен vision encoder примерно на 550 млн параметров, поддерживаются различные соотношения сторон и разрешения, а также настраиваемые бюджеты визуальных токенов. Видео длительностью до 60 секунд обрабатывается со скоростью один кадр в секунду. К сильным сторонам относятся большой контекст, мультимодальность, поддержка длинных документов, задач рассуждения и кода, а также сниженное вычислительное потребление благодаря MoE-архитектуре и формату NVFP4. Ограничения связаны с зависимостью от NVIDIA GPU, заявленной совместимостью прежде всего с архитектурой Blackwell, использованием Linux и поддержкой runtime vLLM. Квантизация может влиять на точность по сравнению с исходной моделью. Релиз не обучался заново: NVIDIA выполнила квантизацию и калибровку, тогда как исходная модель принадлежит Google. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache License 2.0 с дополнительными условиями Gemma. Версия модели — v1.0, квантизация выполнена с помощью nvidia-modelopt v0.43.0.

stelterlab/Mistral-Small-24B-Instruct-2501-AWQ — инструкционная языковая модель на базе Mistral-Small-24B-Instruct-2501, разработанной командой Mistral AI. Данная версия дополнительно квантизирована stelterlab в формате INT4 GEMM с использованием AutoAWQ. Модель содержит 24 млрд параметров и рассчитана на локальный запуск, включая работу на одной видеокарте RTX 4090 или MacBook с 32 ГБ оперативной памяти после квантизации. Модель предназначена для диалоговых приложений с быстрым откликом, агентских сценариев, вызова функций, генерации JSON, задач общего назначения и последующей предметной донастройки. Она поддерживает многоязычную работу, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Заявлены развитые возможности рассуждения, следования системным инструкциям и агентского взаимодействия. Контекстное окно составляет 32 тысячи токенов, используется токенизатор Tekken со словарём размером 131 тысяча элементов. К сильным сторонам относятся сочетание относительно компактного размера, локального развертывания, низкой задержки и поддержки function calling и структурированного вывода. Ограничения связаны с INT4-квантизацией, которая может снижать точность по сравнению с исходными весами, а также с тем, что результаты бенчмарков не гарантируют аналогичное качество в конкретных прикладных задачах. Модель распространяется под лицензией Apache 2.0, допускающей использование и модификацию в коммерческих и некоммерческих целях.

RedHatAI/Mistral-Small-3.1-24B-Instruct-2503-FP8-dynamic — мультимодальная instruction-модель, разработанная Red Hat совместно с Neural Magic на базе Mistral-Small-3.1-24B-Instruct-2503 от Mistral AI. Архитектура Mistral3ForConditionalGeneration принимает текст и изображения, а генерирует текст. Заявлены поддержка 27 языков, включая русский, английский, французский, немецкий, испанский, китайский и японский, а также задачи text-to-text и image-text-to-text. Модель предназначена для быстрых диалоговых агентов, вызова функций с низкой задержкой, программирования, математического рассуждения, анализа длинных документов и визуального понимания. Она также подходит для дообучения под предметные области и локального развертывания, в том числе в сценариях с чувствительными данными. Размер модели составляет 24 млрд параметров; README не указывает точное максимальное окно контекста. Модель оптимизирована с помощью FP8-квантизации весов и активаций: это примерно вдвое снижает требования к памяти GPU и размер диска, а также может примерно вдвое повысить пропускную способность матричных вычислений по сравнению с FP16. Для весов используется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная потокенная квантизация; квантизуются линейные операторы внутри трансформерных блоков. Ограничения включают необходимость соблюдать законодательство и официально поддерживаемые языки. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen2.5-14B-Instruct-FP8-dynamic — производная FP8 dynamic-квантизованная версия Qwen2.5-14B-Instruct, опубликованная Red Hat AI. Исходная модель разработана командой Qwen и представляет собой инструкционно дообученную авторегрессионную языковую модель для генерации текста и диалогового взаимодействия. Модель предназначена для чат-ботов, следования инструкциям, генерации длинных и структурированных ответов, включая JSON, а также для задач программирования, математики, анализа таблиц и других текстовых сценариев. Это текстовая, не мультимодальная модель с архитектурой Qwen2ForCausalLM; в исходной версии около 14,7 млрд параметров. Заявлена поддержка контекста до 128K токенов и генерации до 8K токенов. Модель мультиязычная; среди явно указанных языков есть английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество варианта RedHatAI — FP8 dynamic-квантизация, рассчитанная на уменьшение требований к памяти и ускорение инференса при сохранении назначения исходной instruct-модели. Ограничения включают типичные для языковых моделей риск ошибок, галлюцинаций и зависимости качества от формулировки запроса; конкретные результаты тестирования именно этой квантизованной версии в найденном репозитории не приведены. Для исходной Qwen2.5-14B-Instruct указана лицензия Apache 2.0; отдельная карточка модели RedHatAI лицензионные условия явно не описывает.

ELVISIO/Qwen3-30B-A3B-Instruct-2507-AWQ — это квантизированная версия Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая рассуждения, понимание текста, математику, научные задачи, программирование, использование инструментов и работу с многоязычными запросами. Модель использует архитектуру причинной языковой модели MoE с 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке токена. Она содержит 48 слоёв, 128 экспертов и активирует 8 экспертов; применяется GQA с 32 головами запросов и 4 ключей/значений. Нативная длина контекста составляет 262 144 токена. Это текстовая модель без мультимодальных возможностей, работающая только в non-thinking режиме и не формирующая блоки <think></think>. Основные сильные стороны — улучшенное следование инструкциям, качество открытой генерации, логическое и математическое рассуждение, программирование, использование инструментов, многоязычное понимание и обработка длинного контекста. Модель подвергнута AWQ int4-квантизации с использованием ms-swift, что снижает требования к памяти, но может сопровождаться некоторой потерей качества по сравнению с полной версией. README не содержит подробных сведений о языках, аппаратных требованиях и ограничениях производительности. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-35B-A3B — мультимодальная модель Alibaba с языковой частью и визуальным энкодером. Это post-trained версия базовой Qwen3.5-35B-A3B-Base, распространяемая в формате Transformers и совместимая с Transformers, vLLM, SGLang и KTransformers. Модель принимает текст и изображения и генерирует текст; поддерживает диалог и интерфейс вызова инструментов. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts: всего 35 млрд параметров, из которых активны около 3 млрд; используются 40 слоёв и 256 экспертов, из которых на шаг активируются 8 маршрутизируемых и один общий. Контекст составляет 262 144 токена с возможностью расширения примерно до 1,01 млн. В README заявлена поддержка 201 языка и диалекта, включая задачи рассуждения, программирования, работы с агентами и визуального понимания. Модель подходит для анализа изображений и документов, диалоговых помощников, задач с длинным контекстом и агентных сценариев с вызовом инструментов. Режим рассуждения включён по умолчанию; для высоких нагрузок разработчик рекомендует специализированные движки инференса. Доступны веса и конфигурации, лицензия — Apache-2.0.

Qwen3.5-9B-f32-GGUF — мультимодальная причинная языковая модель с 9 млрд параметров, основанная на Qwen3.5-9B и разработанная командой Alibaba Qwen. Данная версия распространяется в формате GGUF и предназначена для локального и серверного инференса с использованием llama.cpp, vLLM или SGLang. Модель обрабатывает текст, изображения и видео и рассчитана на OCR, визуальные вопросы и ответы, анализ документов, программирование, математические задачи, многоязычное рассуждение и создание мультимодальных агентов. Архитектура включает интегрированный vision encoder, гибридную схему Gated DeltaNet и Gated Attention, 32 слоя, скрытую размерность 4096, словарь из 248 тысяч токенов для 201 языка и нативный контекст до 262 тысяч токенов с возможностью расширения свыше 1 млн с помощью YaRN. Для обработки визуальных данных используется DeepStack ViT, включая временную динамику видео. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, длинный контекст, поддержка большого числа языков и возможность запуска на одном RTX 4090: около 18 ГБ в BF16 или 5 ГБ в 4-битном представлении. Ограничения включают требования к значительным вычислительным и видеоресурсам для полноразмерных вариантов, а также зависимость мультимодального инференса от отдельного файла mmproj. В репозитории доступны варианты BF16, F16, F32 и Q8_0, а также соответствующие мультимодальные проекции. Лицензия — Apache 2.0.

karlsencoin/Qwen3.5-9B-GGUF — вариант модели Qwen3.5-9B, разработанной командой Qwen; репозиторий подготовлен с использованием технологий Unsloth и распространяется в формате GGUF для локального запуска. Модель предназначена для генерации и понимания текста, программирования, рассуждений, агентских сценариев и обработки визуальной информации. Это каузальная языковая модель с vision-энкодером и мультимодальным ранним объединением токенов. Она содержит около 9 млрд параметров, 32 слоя и гибридную архитектуру на основе Gated Delta Networks, Gated Attention и разреженной Mixture-of-Experts. Нативная длина контекста составляет 262 144 токена, с заявленной возможностью расширения до 1 010 000 токенов. Модель поддерживает 201 язык и диалект; заявлены текстовая и визуальная модальности. К сильным сторонам относятся мультимодальное понимание, высокая эффективность архитектуры, поддержка длинного контекста и пригодность для локального инференса. Ограничения конкретной GGUF-сборки, включая точный уровень квантизации, требования к памяти и совместимость с отдельными рантаймами, в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели cxyzz/Qwen3.8-27B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

Gemma 3 12B IT — мультимодальная instruction-tuned модель семейства Gemma, разработанная Google DeepMind на основе исследований и технологий Gemini. Модель распространяется с открытыми весами и предназначена для взаимодействия по инструкциям с текстом и изображениями, генерируя текстовые ответы. Модель подходит для ответов на вопросы, суммаризации документов, рассуждений, анализа изображений, извлечения визуальной информации и генерации кода. Она принимает текстовые запросы и изображения, нормализованные до разрешения 896 × 896 и представленные 256 токенами на изображение. Для версии 12B заявлено входное контекстное окно до 128K токенов и максимальный объём генерируемого текста до 8192 токенов. Модель обучалась на данных более чем на 140 языках, включавших веб-документы, код, математические материалы и изображения. К сильным сторонам относятся мультимодальность, большой контекст, многоязычная поддержка и сравнительно компактный размер, позволяющий развёртывать модель на ноутбуках, настольных компьютерах или собственной облачной инфраструктуре при наличии подходящих ресурсов. Ограничения включают зависимость качества от языка, типа задачи и доступных вычислительных ресурсов, а также потенциальные риски, свойственные генеративным моделям. Модель распространяется по лицензии Gemma; условия использования определяются соответствующими Terms of Use.