I.11Классификация, ранжирование и сопоставление

Andycurrent/Qwen3.5-4B-Uncensored-HauhauCS-Aggressive — модифицированная версия языковой модели Qwen3.5-4B, созданная HauhauCS на базе модели Alibaba Qwen Team. Это авторегрессионная Transformer-модель примерно на 4 млрд параметров, предназначенная для локального запуска, диалоговых приложений, генерации текста, программирования, рассуждений, prompt engineering и исследований механизмов выравнивания и отказов моделей. Указана поддержка английского языка. Модель ориентирована на работу без внешних API и может применяться в автономных и приватных средах. Главная особенность варианта Aggressive — снижение или устранение safety-ориентированных отказов и минимизация отказов в ответах, благодаря чему модель более охотно обрабатывает широкий спектр запросов. При этом заявлено сохранение основных возможностей базовой Qwen3.5-4B в области диалогов, рассуждений, кодинга и общих знаний. Для общения рекомендуется ChatML-подобный шаблон; заявлена совместимость с Transformers, llama.cpp, KoboldCpp, Ollama и vLLM, а GGUF-квантизации подходят для эффективного запуска, включая CPU-инференс. Ограничением является отсутствие или ослабление защитных механизмов: модель может генерировать небезопасный, нежелательный или потенциально вредный контент, поэтому ответственность за фильтрацию и сценарии применения лежит на пользователе. В README также не указаны размер контекстного окна, точный набор поддерживаемых языков, результаты бенчмарков и конкретный метод модификации. Для модели указана лицензия Apache-2.0.

Qwen3.6-27B-F451-AND-TRI-Polar-Ultra-Pro-Writer-Uncensored-Heretic — плотная модель семейства Qwen3.5 на 27 млрд параметров, опубликованная DavidAU как дообучение с Unsloth. Автор сообщает, что обучал её на локальном оборудовании, чтобы повысить базовые интеллектуальные способности модели; в карточке приведены результаты тестов ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и WinoGrande для вариантов с разной точностью. Указанные бенчмарки проверялись в режиме Instruct. Модель позиционируется для диалогов, письма и программирования; метаданные также отмечают обработку изображений и интерфейс вызова инструментов. Указанные в карточке языки — английский и китайский. Репозиторий содержит веса safetensors в формате bfloat16 и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не сообщает длину контекста и не приводит конкретных результатов на задачах зрения или вызова инструментов. Заявления о превосходстве в бенчмарках основаны на описании автора; приведённые значения неполны. Название модели указывает на uncensored и heretic-вариант, но README не поясняет поведение модели в отношении такого содержимого.

Reflection-Llama-3.1-70B-ep2-working — рабочая версия модели Reflection от Matt Shumer, дообученная на основе Meta Llama 3.1 70B Instruct. Это плотная авторегрессионная языковая модель с 69,5 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Модель предназначена для диалогов и генерации ответов с возможностью использовать инструменты. Автор описывает её как рабочую версию второго этапа обучения, которая немного уступает по мощности более поздней версии Reflection; README также сообщает, что третий этап ещё завершался. Модель опубликована в формате Safetensors и распространяется по лицензии Llama 3.1.

Модель win10/sthenno-Test-maybe-is-pro-v2 — объединённая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная автором репозитория методом Model Stock с помощью mergekit. В объединение вошли arcee-ai/Virtuoso-Small, deepseek-ai/DeepSeek-R1-Distill-Qwen-14B, Qwen/Qwen2.5-Coder-14B, sthenno-com/miscii-14b-1225 и sthenno/tempesthenno-ppo-ckpt40; базовой моделью при слиянии служила sthenno-com/miscii-14b-1225. Модель предназначена для генерации текста и диалогов. Заявленная длина контекста составляет 131 072 токена; веса доступны в формате safetensors. В состав слияния входят модели для программирования и рассуждений, однако README не описывает отдельные проверенные сценарии или сравнительные результаты, поэтому их качество для конкретных задач не установлено. Лицензия в предоставленных данных не указана.

T3qm7xNeuralsirkrishna_YamMulti_verse_model — объединённая текстовая модель на архитектуре Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamMulti_verse_model-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Модель распространяется в формате safetensors по лицензии Apache-2.0.

YamshadowInex12_NeuralsirkrishnaShadow — слитая текстовая модель MaziyarPanahi на архитектуре Mistral. Она объединяет модели automerger/YamshadowInex12-7B и automerger/NeuralsirkrishnaShadow-7B и предназначена для генерации текста. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Доступна в формате safetensors по лицензии Apache-2.0.

RedHatAI/Qwen2.5-72B-Instruct-FP8-dynamic — это размещённая Red Hat AI версия Qwen2.5-72B-Instruct, исходно разработанной командой Qwen Alibaba Cloud. Модель представляет собой instruction-tuned causal language model для диалогов, генерации и анализа текста, следования инструкциям, работы со структурированными данными, программным кодом, математическими и рассуждательными задачами. Это текстовая модель без заявленной поддержки изображений или других модальностей. Базовая модель имеет 72,7 млрд параметров, 80 слоёв и архитектуру Transformer с RoPE, SwiGLU, RMSNorm, attention QKV bias и Grouped-Query Attention: 64 головы для Q и 8 для KV. Заявлены контекст до 131 072 токенов и генерация до 8192 токенов; для длинного контекста применяется YaRN. Модель поддерживает более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. В данном репозитории веса представлены в формате Safetensors с FP8 dynamic-квантизацией и использованием compressed-tensors, что предназначено для более эффективного хранения и инференса по сравнению с полноточной версией. Сильные стороны исходной Qwen2.5-72B-Instruct — улучшенные instruction following, кодирование, математика, обработка длинных текстов, таблиц и структурированных, включая JSON, ответов. Ограничения включают значительные требования к вычислительным ресурсам из-за размера модели, возможное влияние квантизации на качество и стандартные риски генеративных моделей: ошибки, галлюцинации и необходимость проверки результатов. Для базовой модели указана Qwen License Alibaba Cloud; она разрешает использование, модификацию и распространение при соблюдении условий лицензии, включая специальные требования для коммерческих продуктов с более чем 100 млн ежемесячных активных пользователей и указание использования Qwen при создании или улучшении других AI-моделей.

Qwen2.5-72B-Instruct-GPTQ-Int4 — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen при Alibaba Cloud. Это каузальная текстовая модель для диалогов, генерации текста, следования инструкциям, работы с кодом и математическими задачами, понимания таблиц и других структурированных данных, а также формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Модель содержит 72,7 млрд параметров, из которых 70,0 млрд приходятся на неэмбеддинговую часть, и включает 80 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV attention; применяется GQA с 64 головами для Q и 8 для KV. Это GPTQ-квантизированная версия с точностью 4 бита, предназначенная для более экономичного развёртывания по сравнению с полноразмерной моделью. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако текущая конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. Сильные стороны модели — развитые возможности в кодировании и математике, улучшенное следование инструкциям, генерация длинных текстов, устойчивость к разнообразным системным промптам и работа со структурированными данными. Ограничения включают высокие требования к вычислительным ресурсам из-за размера модели, возможное снижение качества из-за 4-битного квантования и потенциальное ухудшение производительности на коротких текстах при статическом масштабировании YaRN. Модель распространяется по лицензии Qwen; точные условия определяются файлом лицензии в репозитории.

Qwen3-235B-A22B-Instruct-2507 — большая языковая модель, разработанная командой Qwen и представленная в формате GGUF компанией Unsloth. Это каузальная модель для генерации текста, дообученная для выполнения инструкций. Она предназначена для диалогов, следования указаниям, логического рассуждения, понимания текста, математики, научных задач, программирования, использования инструментов и работы с открытыми субъективными запросами. Модель поддерживает широкий спектр языков и рассчитана на приложения, требующие высокого качества ответов и обработки длинных документов. Модель построена на архитектуре Mixture of Experts: содержит 235 млрд параметров, из которых 22 млрд активируются при обработке токена, 94 слоя, 128 экспертов и 8 активируемых экспертов. Используется Grouped Query Attention с 64 головами Q и 4 головами KV; контекстное окно составляет 262 144 токена. Модель работает только в нережиме рассуждений и не генерирует блоки <think></think>. К сильным сторонам относятся улучшенные знания, многоязычность, следование инструкциям, математическое и логическое рассуждение, программирование, работа с инструментами и понимание длинного контекста. Ограничения включают отсутствие режима рассуждений и высокие требования к вычислительным ресурсам, характерные для модели такого размера; точные требования к оборудованию в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0. Указанный репозиторий содержит GGUF-представление, подготовленное Unsloth; базовая модель — Qwen/Qwen3-235B-A22B-Instruct-2507.

unsloth/Qwen3-32B-unsloth-bnb-4bit — 4-битная версия языковой модели Qwen3-32B, разработанной командой Qwen и подготовленной Unsloth. Это авторегрессионная causal language model с 32,8 млрд параметров, из которых 31,2 млрд не относятся к embedding, и 64 слоями. Модель поддерживает более 100 языков и диалектов, включая английский, и предназначена для работы через Transformers. Модель подходит для диалогов, следования инструкциям, генерации и анализа кода, математических и логических задач, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с использованием внешних инструментов. Она поддерживает переключение между thinking mode для сложного рассуждения и non-thinking mode для более быстрых ответов в рамках одной модели. Используется Grouped Query Attention: 64 головы для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска и дообучения, однако может сопровождаться потерей точности по сравнению с полноразмерными вариантами. Модель предназначена только для обработки текста; сведения о других модальностях в README отсутствуют. Лицензия — Apache-2.0, согласно ссылке на лицензию базовой модели Qwen/Qwen3-32B.

Gemma 4 26B A4B IT — мультимодальная инструктивно дообученная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 26B A4B. Репозиторий содержит веса в формате safetensors и использует архитектуру Gemma4ForConditionalGeneration с поддержкой зрения и диалогового режима. Модель принимает текст и изображения и генерирует текст; варианты Gemma 4 этого размера рассчитаны на контекст до 256 тысяч токенов. Семейство поддерживает более 140 языков по данным карточки, а также включает механизмы рассуждения, вызова функций и гибридное внимание с локальными и глобальными слоями. Модель подходит для диалоговых ассистентов, генерации и исправления кода, рассуждений, суммаризации, ответов по изображениям и документам, OCR, анализа диаграмм, скриншотов и пользовательских интерфейсов, а также агентных сценариев с вызовом инструментов. Лицензия Apache 2.0. Указанная в карточке поддержка изображений не означает, что именно эта версия умеет обрабатывать видео или аудио: README относит аудиовход к вариантам E2B, E4B и 12B, а метаданные отмечают для этой модели только зрение.

unsloth/gemma-4-31B-it-unsloth-bnb-4bit — это 4-битная квантизированная версия instruction-tuned модели Gemma 4 31B, подготовленная Unsloth на базе google/gemma-4-31B-it и разработанная Google DeepMind. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для генерации текста, рассуждений, программирования, агентских сценариев и анализа изображений с выдачей текстового ответа. Модель использует плотную архитектуру с 30,7 млрд параметров, 60 слоями, словарём размером 262 тыс. токенов и гибридным механизмом внимания, сочетающим локальное скользящее окно на 1024 токена с глобальным вниманием. Контекстное окно составляет до 256 тыс. токенов. Поддерживаются текст и изображения; аудио для версии 31B не заявлено. Gemma 4 также поддерживает более 140 языков, режимы настраиваемого рассуждения, системные инструкции и нативный function calling. Ключевые преимущества — большой контекст, мультимодальное понимание, возможности рассуждения и кодирования, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможную потерю точности по сравнению с полноразмерной версией и зависимость качества от совместимого программного обеспечения и оборудования для BNB 4-bit. Модель распространяется по лицензии Apache 2.0.

unsloth/gemma-4-E4B-it-NVFP4 — квантизированная версия instruction-tuned модели Gemma 4 E4B, разработанной Google DeepMind и опубликованной Unsloth. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев и мультимодального анализа. Модель относится к семейству Gemma 4 и имеет плотную архитектуру с примерно 4,5 млрд эффективных параметров (8 млрд с учётом эмбеддингов) и 42 слоями. Она поддерживает текстовые и визуальные входные данные, а также аудио для малых моделей Gemma 4, включая E4B. Контекстное окно составляет до 128K токенов. Архитектура использует гибридное внимание с локальными скользящими окнами и глобальным вниманием, что помогает снижать требования к памяти при работе с длинным контекстом. Формат NVFP4 ориентирован на эффективное выполнение и развёртывание на совместимом оборудовании. К сильным сторонам относятся мультимодальность, поддержка многоязычия более чем на 140 языках, настраиваемые режимы рассуждений, улучшенные возможности программирования, нативная поддержка вызова функций и системных инструкций. Ограничения связаны с требованиями к совместимым программным и аппаратным средствам для NVFP4, а также с тем, что квантизация может влиять на точность по сравнению с полноразмерной версией. Модель распространяется по лицензии Apache 2.0.

Llama-3.3-Nemotron-Super-49B-v1.5-FP8 — крупная языковая модель, разработанная NVIDIA как производное решение на базе Meta Llama-3.3-70B-Instruct. Это модель рассуждений, дообученная для диалогов, следования инструкциям и агентских сценариев, включая RAG и вызов инструментов. Модель предназначена для коммерческого использования в чат-ботах, системах искусственного интеллекта, агентских системах и других прикладных решениях. Модель представляет собой плотный decoder-only Transformer с архитектурой, оптимизированной методом Neural Architecture Search. В отдельных блоках применяются пропуск внимания или его замена линейным слоем, а также переменные коэффициенты расширения и сжатия FFN. Модель использует формат FP8, содержит около 49 миллиардов параметров и поддерживает текстовый ввод и вывод с контекстом до 128 тысяч токенов. Основные языки — английский и языки программирования; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. К сильным сторонам относятся сочетание качества и эффективности, уменьшенный объём памяти, поддержка длинного контекста, рассуждений, математических, научных и кодовых задач, а также инструментального вызова. Архитектура оптимизирована для высокопроизводительного запуска на GPU NVIDIA, включая возможность работы при больших нагрузках на одном H200. Ограничениями являются преимущественная ориентация на английские диалоги и код, зависимость от NVIDIA GPU для заявленной эффективности и дата-катоф обучения предобучающей части, установленная на 2023 год. Использование модели регулируется NVIDIA Open Model License; дополнительно применяются условия Llama 3.3 Community License Agreement. Модель обучалась в период с ноября 2024 года по июль 2025 года и выпущена 25 июля 2025 года.

NVIDIA-Nemotron-3-Ultra-550B-A55B-FP8-dynamic — языковая модель, разработанная Red Hat на базе NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 от NVIDIA. Она предназначена для генерации и преобразования текста, рассуждений и решения сложных задач, математики и естественных наук, генерации кода, следования инструкциям и вызова инструментов. Модель поддерживает вход и выход в текстовой модальности, а также tool calling. Модель построена на архитектуре NemotronHForCausalLM и содержит 550 млрд параметров, из которых 55 млрд являются активными. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8: для весов используется статическая симметричная поканальная схема, для активаций — динамическая симметричная схема на токен. Это примерно вдвое снижает требования к памяти и размеру файлов, а также может повысить пропускную способность матричных вычислений примерно в два раза. Для эффективного развертывания заявлена интеграция с vLLM; в примере конфигурации используется максимальная длина последовательности 262144 токена. Заявленные языки включают английский, французский, испанский, итальянский, немецкий, португальский, японский, корейский, хинди, арабский, китайский и иврит. Сильными сторонами модели являются большой общий объём параметров, активная разреженная вычислительная конфигурация, поддержка рассуждений, программирования и инструментов, а также преимущества FP8-квантизации. Ограничения включают высокие требования к вычислительной инфраструктуре и зависимость эффективного развертывания от совместимого стека, включая vLLM и специальные парсеры. Модель распространяется по лицензии openmdw-1.1; использование в нарушение применимых законов и нормативных требований исключено из области применения.

Qwen3-235B-A22B-Instruct-2507 — крупная языковая модель семейства Qwen3 от команды Qwen. Это причинная MoE-модель с 235 млрд параметров всего и 22 млрд активируемых параметров; в архитектуре 94 слоя и 128 экспертов, из которых для обработки активируются 8. Модель работает в режиме без пошагового рассуждения и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель подходит для следования инструкциям, логических рассуждений, понимания текста, математики, науки, программирования и вызова инструментов. Она рассчитана на многоязычные сценарии и заявляет улучшенный охват редких знаний на разных языках. Нативное контекстное окно составляет 262 144 токена; README описывает расширение до примерно 1,01 млн токенов с использованием Dual Chunk Attention и MInference. К сильным сторонам относятся широкие общие возможности, работа с длинными документами и поддержка интерфейса вызова инструментов. Контекст около миллиона токенов требует специальной настройки и примерно 1000 ГБ суммарной памяти GPU, поэтому такое развертывание предъявляет очень высокие аппаратные требования. Модель распространяется по лицензии Apache-2.0.

Qwen3-32B-FP8 — языковая модель серии Qwen3, разработанная командой Qwen и адаптированная для запуска на аппаратной платформе FuriosaAI RNGD с помощью Furiosa-LLM. Это плотная causal transformer-модель с 32,8 млрд параметров и grouped-query attention, предназначенная для генерации текста, диалогов, сложных рассуждений, решения математических задач, программирования, вызова инструментов и построения агентных сценариев. Модель работает с текстом на входе и выходе, поддерживает многоязычное использование и предоставляет OpenAI-совместимый API через сервер Furiosa-LLM. Ключевая особенность — гибридный режим работы: по умолчанию модель может формировать рассуждение перед итоговым ответом, а для более быстрых общих диалогов рассуждение можно отключить отдельно для запроса или задать как режим по умолчанию. Поддерживается вызов функций через tool-call parser hermes. Веса статически квантизированы в FP8 с размером блока 128, активации используют динамическую FP8-квантизацию, а KV-кэш сохраняется в 16-битной точности. Для запуска на RNGD требуется тензорный параллелизм на 32 вычислительных элементах, соответствующий четырём картам RNGD. Сильные стороны модели — сочетание рассуждений и эффективного диалога в одной модели, поддержка многоязычности, программирования, инструментов и агентных задач, а также снижение требований к памяти благодаря FP8-квантизации. Ограничения README не раскрывает: не указаны длина контекста, конкретный перечень языков, результаты бенчмарков и требования к ресурсам для других платформ. Данная сборка ориентирована на Furiosa-LLM и FuriosaAI RNGD, хотя исходная модель также может запускаться через vLLM, SGLang и Transformers. Лицензия — Apache 2.0.

Jackrong/Qwen3.8-27B-MTP-GGUF — мультимодальная причинная языковая модель семейства Qwen3.8, опубликованная пользователем Jackrong в формате GGUF. Она предназначена для диалогов, генерации и анализа текста, программирования, профессиональных и исследовательских задач, долгих агентных сценариев, вызова инструментов, а также понимания изображений и видео, включая документы, STEM-диаграммы и продолжительные видеоматериалы. Модель содержит 27 млрд параметров и сочетает языковую модель с vision-энкодером. Архитектура включает 64 слоя, механизмы Gated DeltaNet и Gated Attention, а также Multi-Token Prediction (MTP). Нативная длина контекста составляет 262 144 токена и может расширяться до 1 000 000 токенов. Поддерживается управляемый режим рассуждений: его можно отключать для отдельных запросов, настраивать глубину через reasoning_effort и сохранять контекст рассуждений с помощью preserve_thinking. Языки явно не перечислены. Ключевое отличие этой версии — встроенная MTP-голова для speculative decoding без отдельной draft-модели. В опубликованном внутреннем тестировании с llama.cpp это дало примерно двукратный прирост пропускной способности и снижение средней задержки примерно в 1,88 раза; рекомендуемый параметр — max draft = 2. Фактическая производительность зависит от оборудования, длины запроса и ответа, глубины рассуждений и настроек запуска. Модель распространяется по лицензии Apache-2.0 и совместима с экосистемами Transformers, vLLM, SGLang, TokenSpeed и другими инструментами, поддерживающими соответствующие форматы.

Qwen3-Next-80B-A3B-Instruct-FP8 — FP8-квантизированная инструктивная версия причинной языковой модели Qwen3-Next, разработанная командой Qwen. Модель предназначена для генерации текста, диалоговых приложений, программирования, многошагового решения задач, агентских сценариев и обработки сверхдлинного контекста. Она работает только в instruct-режиме без блоков рассуждений <think></think>. Модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, а также разреженную Mixture-of-Experts. Всего в ней 80 млрд параметров, из которых около 3 млрд активируются для обработки каждого токена; 48 слоёв, 512 экспертов и 10 активируемых экспертов. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Обучение включало предварительное обучение на 15 трлн токенов и последующую настройку; README не указывает полный перечень поддерживаемых языков. Сильные стороны модели — высокая эффективность параметров и вычислений, ускоренный вывод, поддержка сверхдлинного контекста и хорошие результаты в задачах знаний, рассуждений, кодирования, следования инструкциям, письма и работы агентов. Ограничения включают отсутствие thinking-режима, а также возможные отличия заявленных результатов от характеристик FP8-версии: приведённые в карточке эксперименты выполнены на исходной модели в формате bfloat16. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-FP8 — языковая модель для генерации текста, разработанная командой Qwen и распространяемая в репозитории RedHatAI. Это FP8-квантизированный вариант Qwen3-Next-80B-A3B-Instruct, предназначенный для диалогов, следования инструкциям, решения задач, программирования, многоязычных сценариев и агентских взаимодействий. Модель работает только в instruct-режиме и не формирует блоки рассуждений <think></think>. Модель построена как causal language model с гибридным механизмом внимания Gated DeltaNet и Gated Attention, а также архитектурой Mixture-of-Experts. Она содержит 80 млрд параметров, из которых около 3 млрд активируются на токен, 48 слоёв и 512 экспертов, 10 из которых активируются одновременно. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Обучение включало предварительное обучение на 15 трлн токенов и последующее дообучение. FP8-квантизация выполнена методом fine-grained FP8 с размером блока 128. К сильным сторонам относятся высокая эффективность по числу активируемых параметров, ускоренный вывод, поддержка сверхдлинного контекста, задачи программирования, следование инструкциям и многоязычность. Ограничения включают отсутствие thinking-режима, а также то, что приведённые результаты тестирования получены для исходной модели в формате bfloat16 до FP8-квантизации, поэтому они не обязательно полностью отражают характеристики данного checkpoint. Модель может разворачиваться с использованием, в частности, sglang и vLLM, включая OpenAI-совместимый сервер. Лицензия — Apache-2.0.

Gemma 4 26B A4B — мультимодальная модель с открытыми весами от Google DeepMind, относящаяся к семейству Gemma 4 и реализованная как модель класса Mixture-of-Experts. Она принимает текст и изображения и генерирует текст; поддерживает понимание изображений, рассуждения, генерацию и исправление кода, суммаризацию и вызов инструментов. Видео и аудио заявлены для семейства Gemma 4, но поддержка аудио указана только для вариантов E2B, E4B и 12B. Модель рассчитана на мультимодальные диалоги, анализ документов и изображений, задачи с длинным контекстом и агентные сценарии. Для вариантов Gemma 4 26B A4B заявлено контекстное окно до 256 тысяч токенов; семейство обучено более чем на 140 языках и имеет поддержку более 35 языков из коробки. Архитектура семейства сочетает локальное скользящее и глобальное внимание. Модель распространяется по лицензии Apache 2.0. Карточка не приводит отдельной оценки ограничений именно этого варианта; мультимодальные возможности видео и аудио нельзя приписывать 26B A4B по приведённым сведениям.

RedHatAI/gpt-oss-120b-essential — вариант открытой по весам модели gpt-oss-120b, разработанной OpenAI и подготовленной Red Hat AI. Это генеративная текстовая модель для диалогов, текстовой генерации, задач с рассуждением, агентских сценариев и вызова инструментов. Модель поддерживает function calling, веб-поиск, выполнение Python-кода и Structured Outputs; поддержка tool calling валидирована. Указанный язык — английский. Модель построена на архитектуре Mixture of Experts и содержит около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Она использует посттренировочную MXFP4-квантизацию весов MoE и рассчитана на запуск на одном GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Для корректной работы требуется формат ответов harmony. В README не указана длина контекста. К сильным сторонам относятся настраиваемый уровень рассуждений — low, medium или high, возможность дообучения и пригодность для производственных и ресурсоограниченных развёртываний благодаря essential-комплектации без каталогов /Metal и /Original, уменьшающей профиль памяти. Полное предоставление цепочки рассуждений может помогать при отладке, но не предназначено для показа конечным пользователям. Модель валидирована в Red Hat OpenShift AI 2.25, Red Hat AI Inference Server 3.2.2 и vLLM 0.10.1.1. Распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

QuantFactory/Qwen2.5-7B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-7B-Instruct, созданная QuantFactory на основе модели Qwen от Alibaba Cloud с использованием llama.cpp. Модель предназначена для диалоговых сценариев, генерации текста, следования инструкциям, работы со структурированными данными и JSON, а также для задач программирования и математики. Это авторегрессионная causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещений QKV в механизме внимания. Модель содержит 7,61 млрд параметров, 28 слоёв и использует Grouped Query Attention с 28 головами Q и 4 головами KV. Заявлена поддержка контекста до 131 072 токенов и генерации до 8192 токенов; для контекстов свыше 32 768 токенов требуется настройка YaRN. Поддерживается более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, японский, корейский и другие. Сильные стороны модели — улучшенное следование инструкциям, генерация длинных текстов, понимание таблиц и других структурированных данных, формирование JSON, а также развитые навыки в кодировании и математике. К ограничениям относятся возможное снижение качества или производительности на коротких текстах при статическом масштабировании YaRN и необходимость учитывать особенности используемого GGUF-квантизированного варианта. Модель распространяется по лицензии Apache-2.0.

QuantTrio/Qwen3-235B-A22B-Instruct-2507-AWQ — это AWQ-квантизированная версия Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen и опубликованной QuantTrio. Модель предназначена для генерации текста и диалоговых сценариев, следования инструкциям, логического и математического рассуждения, научных задач, программирования, использования инструментов, обработки длинного контекста и многоязычных запросов. Это причинная языковая MoE-модель с 235 млрд параметров, из которых при обработке каждого токена активируются 22 млрд. Она содержит 94 слоя, 128 экспертов, 8 активных экспертов, 64 attention heads для Q и 4 для KV в схеме GQA. Нативная длина контекста составляет 262 144 токена. Модель работает только в non-thinking mode и не формирует блоки <think></think>. В репозитории указана интеграция с vLLM версии 0.9.2 и выше; размер файлов модели составляет около 116 ГБ, поэтому для запуска требуется мощная GPU-инфраструктура. Сильные стороны модели — улучшенные instruction following, понимание текста, знания, рассуждения, программирование, tool usage, открытые и субъективные задачи, а также работа с длинным контекстом и несколькими языками. Ограничения включают отсутствие thinking mode, высокие требования к памяти и необходимость учитывать особенности распределения MoE-экспертов при запуске на восьми GPU. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.5-27B-GGUF — квантованный формат модели Qwen3.5-27B, разработанной командой Qwen; сборка и GGUF-варианты подготовлены Unsloth. Это мультимодальная причинная языковая модель с vision encoder, предназначенная для диалогов, анализа изображений, рассуждений, программирования, агентских сценариев, работы с длинным контекстом и вызова инструментов. Модель может использоваться локально и совместима с распространёнными средствами инференса для GGUF; README также рекомендует настройки для включения или отключения режима рассуждений. Модель содержит 27 млрд параметров, 64 слоя и использует гибридную архитектуру Gated Delta Networks, Gated Attention и разреженной Mixture-of-Experts; размер скрытого представления — 4096. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта, а также мультимодальный ввод. Unsloth указывает на применение Dynamic 2.0 GGUF и imatrix-данных для повышения качества в задачах диалога, программирования, длинного контекста и tool calling. Сильными сторонами являются сочетание языкового и визуального понимания, большой контекст, поддержка широкого набора языков и варианты для эффективного локального запуска. Ограничения включают необходимость подходящего GGUF-совместимого программного обеспечения и аппаратных ресурсов; конкретные требования зависят от выбранного уровня квантования. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-397B-A17B — мультимодальная модель семейства Qwen от Alibaba, предназначенная для диалогов, рассуждений, работы с изображениями и видео, программирования и использования инструментов. Это постобученная причинная языковая модель с визуальным энкодером, гибридной архитектурой Gated Delta Networks и разреженной Mixture-of-Experts: всего 397 млрд параметров, из которых активируются 17 млрд. В модели 60 слоёв и 512 экспертов; одновременно задействуются 10 маршрутизируемых и один общий эксперт. Модель принимает текст, изображения и видео, а её основными результатами являются текстовые ответы и вызовы инструментов. Она поддерживает 201 язык и диалект. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. По умолчанию включён режим рассуждений; доступны интеграции с Transformers, vLLM, SGLang и KTransformers. Модель подходит для мультимодальных помощников, анализа визуального содержимого, сложных вопросов, программирования и агентных сценариев с вызовом инструментов. Эффективность вывода и пропускная способность зависят от используемого фреймворка и его версии. Веса и конфигурации опубликованы в формате Transformers/Safetensors под лицензией Apache-2.0.

RedHatAI/Qwen3.8-27B-NVFP4 — квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen; базовая модель указана как Qwen/Qwen3.8-27B. Это плотная causal language model с vision encoder, предназначенная для генерации и анализа текста, программирования, профессиональных и исследовательских задач, многошагового планирования и агентских сценариев. Модель нативно поддерживает понимание изображений и видео, включая документы, STEM-диаграммы и длительные видеоматериалы. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов с применением RoPE scaling, например YaRN. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; предусмотрены режимы рассуждения с настраиваемой глубиной, отключением thinking mode и сохранением контекста рассуждений из предыдущих сообщений. Указанная сборка использует квантизацию NVFP4/FP4, при этом lm_head квантизирован в FP8. К сильным сторонам относятся компактность для модели такого класса, поддержка текста, изображений и видео, длинного контекста, программирования и автономного выполнения сложных задач. Ограничение данной сборки заключается в совместимости: согласно README, она работает только в vLLM и не поддерживается SGLang. Для запуска и качества генерации могут потребоваться специальные параметры семплирования и значительный лимит выходных токенов. Модель распространяется по лицензии Apache-2.0.

Qwen3-8B-FP8 — большая языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизованная версия Qwen3-8B, предназначенная для генерации текста и диалоговых приложений. Модель поддерживает переключение между режимом рассуждений для сложных логических, математических и программных задач и обычным режимом для более быстрых ответов. Она также ориентирована на следование инструкциям, творческое письмо, ролевые сценарии, многошаговые диалоги, перевод и работу с внешними инструментами в агентных системах. Модель является каузальной языковой моделью с 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою. Она содержит 36 слоёв и использует Grouped-Query Attention с 32 головами для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN достигает 131 072 токенов. Поддерживается более 100 языков и диалектов. FP8-квантизация выполнена мелкоблочным методом с размером блока 128, что предназначено для повышения эффективности хранения и инференса. Сильными сторонами модели являются сочетание рассуждений и быстрого общего диалога, мультиязычность, возможности генерации кода и интеграции с инструментами. Ограничения включают зависимость качества и производительности от режима рассуждений, аппаратной конфигурации и используемого inference-фреймворка; для распределённого инференса в Transformers указаны известные проблемы с fine-grained FP8. Модель распространяется по лицензии Apache-2.0.

Карточка модели belltechsoft/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.

Карточка модели mirvo/gemma-4-12B-it на Hugging Face совпадает с карточкой google/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind с открытыми весами, настроенная для следования инструкциям. Она построена на плотной унифицированной архитектуре Gemma4Unified и принимает текст, изображения, видео и аудио, выдавая текст. Модель поддерживает анализ изображений и видеокадров, распознавание речи и перевод речи в текст, а также генерацию текста и кода, рассуждения и вызов инструментов. Модель рассчитана на локальный запуск на потребительских устройствах и сценарии с длинным контекстом; для семейства заявлено до 256 тысяч токенов у версии 12B. Gemma 4 поддерживает более 35 языков непосредственно и обучалась на данных более чем 140 языков. Лицензия — Apache 2.0. Карточка описывает семейство Gemma 4 в целом, поэтому отдельные характеристики и возможности конкретной версии могут зависеть от реализации и настроек.