II.3Рефакторинг, миграция и модернизация

kenpeter123/small-1b-dpo — языковая модель семейства Llama, разработанная автором репозитория и дообученная методом Direct Preference Optimization на базе kenpeter123/small-1b-sft. Она предназначена для генерации текста по запросам; метаданные также отмечают поддержку генерации кода. В README описана архитектура Transformer с 32 слоями, 12 головами внимания и группированным запросом внимания (GQA, 4 KV-головы); число параметров в метаданных — 956,3 млн, а контекст — 8192 токена. DPO-обучение использует пары предпочтений: правильное эталонное решение выбирается вместо ошибочного или повторяющего запрос ответа базовой SFT-модели. Репозиторий содержит веса в формате safetensors, библиотека — Transformers. Лицензия Apache-2.0. Карточка описывает обучающий чекпойнт, но не приводит оценки качества или подробностей о поддерживаемых языках помимо английского в метаданных.

fhai50032 выпустил Unaligned-Thinker-PHI-4 — разговорную языковую модель на базе Phi-4, дообученную методом SFT на наборе fhai50032/Unaligned-Thinking-o1. Модель предназначена для генерации текста в диалогах и ответов с рассуждениями; в карточке приведены примеры обсуждения алгоритмов и AGI. По метаданным это плотная модель с архитектурой LlamaForCausalLM, содержащая 14,1 млрд параметров и поддерживающая контекст до 16 384 токенов. Указаны язык английский и возможность чата. Модель опубликована в форматах PyTorch и safetensors по лицензии Apache-2.0. README сообщает параметры дообучения: три эпохи, глобальный размер пакета 8, скорость обучения 5e-4, LoRA с r=16 и alpha=16, cosine schedule и AdamW 8-bit с weight decay 0,01.

YAYI2-30B — базовая языковая модель, разработанная компанией Wenge Technology (中科闻歌). Эта версия репозитория — конверсия модели wenge-research/yayi2-30b в формат, совместимый с Llama. Модель построена на архитектуре Transformer с плотной архитектурой LlamaForCausalLM и содержит 29,8 млрд параметров; в карточке указано контекстное окно 4096 токенов. Модель предварительно обучена на многоязычном корпусе объёмом 2,65 трлн токенов. В README описаны оценки понимания языка и знаний, математических и логических рассуждений и генерации кода. Метаданные и карточка указывают китайский и английский языки. Это базовая модель для генерации текста и дальнейшей адаптации, а не специализированный чат-чекпойнт. Для запуска в BF16/FP16 README рекомендует не менее 80 ГБ видеопамяти. Использование регулируется лицензией YAYI 2; в метаданных лицензия обозначена как other.

DeepSeek-V4-Pro — крупная языковая модель семейства DeepSeek-V4, разработанная DeepSeek AI. Это предварительная версия модели с архитектурой Mixture-of-Experts (MoE), предназначенная для работы с текстом, задачами рассуждения, программированием, обработкой больших документов и агентскими сценариями. Модель поддерживает контекст длиной до одного миллиона токенов. Модель содержит около 1,6 трлн параметров, из которых 49 млрд активируются при обработке отдельного токена. Она использует гибридную архитектуру внимания с механизмами Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections для повышения стабильности передачи сигналов. Обучение проводилось более чем на 32 трлн токенов с последующей донастройкой посредством SFT, reinforcement learning с GRPO и on-policy distillation. Доступна в смешанной точности FP4 и FP8: параметры MoE-экспертов используют FP4, а большинство остальных параметров — FP8. К сильным сторонам относятся эффективная работа с очень длинным контекстом, высокая ёмкость модели, развитые возможности в области знаний, программирования, рассуждений и агентских задач. По сравнению с DeepSeek-V3.2 в режиме контекста на один миллион токенов заявлено существенное снижение вычислительных затрат и объёма KV-кэша. Ограничения включают чрезвычайно большой общий размер модели и, как следствие, высокие требования к инфраструктуре; конкретные поддерживаемые языки и подробные системные требования в README не указаны. Модель распространяется по лицензии MIT.

Qwen2.5-32B-Instruct-AWQ — инструкционно дообученная языковая модель из семейства Qwen, разработанная командой Qwen. Это причинная языковая модель для генерации текста, диалоговых ассистентов, следования инструкциям, написания и анализа кода, решения математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 32,5 млрд параметров, из них 31 млрд — без учёта эмбеддингов, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-внимании и GQA с 40 головами для Q и 8 для KV. Репозиторий содержит 4-битную AWQ-квантизированную версию, что может снизить требования к памяти по сравнению с полноточной моделью. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, немецкий, испанский, японский и корейский. Полная длина контекста указана до 131 072 токенов, а генерация — до 8192 токенов; при этом текущая конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется включение YaRN. Сильными сторонами модели являются улучшенные возможности в программировании и математике, следование инструкциям, обработка длинных текстов, понимание таблиц и генерация структурированных данных. При использовании статического YaRN производительность на коротких текстах может снижаться, поэтому его рекомендуется включать только при работе с длинным контекстом. Для загрузки и развёртывания требуются совместимые версии Transformers и поддержка AWQ; в документации рекомендуется vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-72B-Instruct — инструкция-настроенная большая языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на архитектуре Qwen2 с 71,5 млрд параметров по метаданным; карточка описывает 80 слоёв, RoPE, SwiGLU, RMSNorm и контекст до 131 072 токенов с генерацией до 8 192 токенов. В текущей конфигурации репозитория задан контекст 32 768 токенов, а для более длинных входов README предлагает YaRN. Модель предназначена для диалогов и следования инструкциям, генерации длинных текстов и структурированных ответов, включая JSON, а также для задач программирования, математики и понимания таблиц. Она поддерживает более 29 языков, включая русский и английский, и предоставляет интерфейс для вызова инструментов. Модель принимает и генерирует текст. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers; README рекомендует актуальную версию библиотеки и vLLM для развёртывания. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели. Удлинение контекста через статический YaRN может снижать производительность на коротких запросах.

Карточка модели NostraEmpire/mirror-qwen2.5-32b-instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.

Qwen2.5-72B-Instruct-GGUF — большая инструкционная языковая модель из серии Qwen2.5, разработанная командой Qwen. Репозиторий содержит 72-миллиардную версию модели Qwen2.5-72B-Instruct в формате GGUF, предназначенном для локального запуска, в том числе с использованием llama.cpp. Модель относится к авторегрессионным causal language models и предназначена для диалоговых систем, генерации и продолжения текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Поддерживается более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель рассчитана на текстовую модальность. Архитектура включает transformers, RoPE, SwiGLU, RMSNorm и bias в Attention QKV; модель содержит 72,7 млрд параметров, из них 70 млрд без учёта embedding, 80 слоёв и механизм GQA с 64 головами для Q и 8 для KV. Для GGUF указана длина контекста 32 768 токенов и генерация до 8192 токенов. Поддерживаются варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Преимуществами являются улучшенные возможности в программировании и математике, следование инструкциям, генерация длинных текстов и устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — отсутствие штатной поддержки контекста до 131 072 токенов; для такого расширения README рекомендует использовать неквантизованные модели и отмечает поддержку YARN только в vLLM. Модель распространяется по лицензии Qwen, обозначенной как other; точные условия приведены в файле лицензии репозитория.

Qwen3-32B — плотная причинно-следственная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалога, следования инструкциям, рассуждений, генерации кода, перевода и работы с внешними инструментами. В одной модели можно переключаться между режимом рассуждений для сложных задач и обычным режимом ответа. Модель содержит 29,7 млрд параметров по метаданным каталога; в README указано 32,8 млрд параметров, включая 31,2 млрд без эмбеддингов. Архитектура — Qwen3ForCausalLM, для запуска поддерживается Transformers. Нативный контекст составляет 40 960 токенов по метаданным каталога; README указывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Семейство поддерживает более 100 языков и диалектов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Модель подходит для многошагового диалога и сценариев с вызовом инструментов, а также для математических и логических рассуждений, творческого письма и программирования. Карточка заявляет сильные способности к следованию инструкциям и многоязычным задачам; качество конкретных ответов зависит от запроса и развертывания. В README не приведены конкретные ограничения или оговорки по безопасности.

NVIDIA Qwen3.8-2.4T-A95B-NVFP4 — квантизированная версия языковой модели Alibaba Qwen3.8-2.4T-A95B, подготовленная с помощью NVIDIA Model Optimizer. Модель предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также длительных агентных сценариев с использованием инструментов. Она принимает текстовые строки и формирует текстовые ответы, включая естественный язык, код, вызовы инструментов и структурированные данные в зависимости от конфигурации приложения. Модель использует архитектуру Transformers с гибридным механизмом внимания и блоками Mixture-of-Experts. Общее количество параметров составляет 2,4 трлн, из них активируется 95 млрд. Поддерживается контекст длиной до 1 млн токенов. Версия NVFP4 применяет 4-битное квантование весов и активаций линейных операторов в трансформерных блоках, что снижает требования к памяти по сравнению с 16-битным представлением. Предусмотрен запуск через vLLM и SGLang на GPU NVIDIA Blackwell; предпочтительная операционная система — Linux. Сильные стороны модели — большой контекст, масштабная MoE-архитектура, возможности в программировании, научном рассуждении, следовании инструкциям, извлечении информации из длинных контекстов и агентном использовании инструментов. Язык обучения и полный состав обучающих данных не раскрыты, а приведённые сведения об оценивании относятся преимущественно к текстовым задачам. Модель оптимизирована для систем с GPU NVIDIA, поэтому её применение на CPU или неподдерживаемом оборудовании может быть ограничено. Использование разрешено в коммерческих и некоммерческих целях на условиях NVIDIA Open Model Agreement; исходная модель разработана Alibaba, а не NVIDIA.

Jackrong/Qwen3.8-27B-MTP-GGUF — мультимодальная причинная языковая модель семейства Qwen3.8, опубликованная пользователем Jackrong в формате GGUF. Она предназначена для диалогов, генерации и анализа текста, программирования, профессиональных и исследовательских задач, долгих агентных сценариев, вызова инструментов, а также понимания изображений и видео, включая документы, STEM-диаграммы и продолжительные видеоматериалы. Модель содержит 27 млрд параметров и сочетает языковую модель с vision-энкодером. Архитектура включает 64 слоя, механизмы Gated DeltaNet и Gated Attention, а также Multi-Token Prediction (MTP). Нативная длина контекста составляет 262 144 токена и может расширяться до 1 000 000 токенов. Поддерживается управляемый режим рассуждений: его можно отключать для отдельных запросов, настраивать глубину через reasoning_effort и сохранять контекст рассуждений с помощью preserve_thinking. Языки явно не перечислены. Ключевое отличие этой версии — встроенная MTP-голова для speculative decoding без отдельной draft-модели. В опубликованном внутреннем тестировании с llama.cpp это дало примерно двукратный прирост пропускной способности и снижение средней задержки примерно в 1,88 раза; рекомендуемый параметр — max draft = 2. Фактическая производительность зависит от оборудования, длины запроса и ответа, глубины рассуждений и настроек запуска. Модель распространяется по лицензии Apache-2.0 и совместима с экосистемами Transformers, vLLM, SGLang, TokenSpeed и другими инструментами, поддерживающими соответствующие форматы.

Gemma 4 26B A4B IT — мультимодальная инструктивно дообученная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 26B A4B. Репозиторий содержит веса в формате safetensors и использует архитектуру Gemma4ForConditionalGeneration с поддержкой зрения и диалогового режима. Модель принимает текст и изображения и генерирует текст; варианты Gemma 4 этого размера рассчитаны на контекст до 256 тысяч токенов. Семейство поддерживает более 140 языков по данным карточки, а также включает механизмы рассуждения, вызова функций и гибридное внимание с локальными и глобальными слоями. Модель подходит для диалоговых ассистентов, генерации и исправления кода, рассуждений, суммаризации, ответов по изображениям и документам, OCR, анализа диаграмм, скриншотов и пользовательских интерфейсов, а также агентных сценариев с вызовом инструментов. Лицензия Apache 2.0. Указанная в карточке поддержка изображений не означает, что именно эта версия умеет обрабатывать видео или аудио: README относит аудиовход к вариантам E2B, E4B и 12B, а метаданные отмечают для этой модели только зрение.

Это инструкционно настроенная плотная языковая модель Qwen2.5-72B, представленная в репозитории Unsloth и основанная на Qwen/Qwen2.5-72B-Instruct. Она предназначена для диалогов, генерации текстов и структурированных ответов, следования инструкциям, программирования и математических задач. Модель построена на архитектуре Qwen2 с причинным языковым моделированием; в метаданных указано 71,5 млрд параметров и контекст до 32 768 токенов. README описывает архитектуру с RoPE, SwiGLU, RMSNorm и смещениями в QKV-слоях, а также расширение контекста до 131 072 токенов с YaRN при дополнительной настройке. Модель поддерживает многоязычные сценарии, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Метаданные указывают поддержку чата и интерфейс вызова инструментов. Репозиторий содержит веса safetensors для Transformers; README рекомендует актуальную версию Transformers, а для развёртывания — vLLM. Лицензия указана как other, поэтому конкретные условия следует проверять в карточке модели. Для обработки контекста свыше 32 768 токенов требуется настройка YaRN; постоянный коэффициент масштабирования в vLLM может ухудшить работу на коротких текстах.

unsloth/Qwen2.5-72B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-72B-Instruct, опубликованная Unsloth. Модель предназначена для диалоговых ассистентов, генерации и обработки текста, следования инструкциям, работы с длинными документами, структурированными данными и форматированными ответами, включая JSON. Она также ориентирована на задачи программирования и математики. Это каузальная языковая модель с архитектурой на базе Transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-слоях внимания. Модель содержит 72,7 млрд параметров, из них 70,0 млрд без учёта embedding-слоёв, 80 слоёв и использует Grouped-Query Attention с 64 головами Q и 8 головами KV. Поддерживается контекст до 131 072 токенов и генерация до 8192 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся улучшенные способности к программированию и математике, следованию инструкциям, генерации длинных текстов, обработке структурированных данных и устойчивости к разнообразным системным промптам. 4-битное представление снижает требования к памяти по сравнению с полноразмерной моделью, но README не содержит точных требований к оборудованию, результатов оценки или подробностей о качестве квантования. Модель текстовая и не предназначена для обработки изображений или других мультимодальных входов. Лицензия указана как other, без дополнительных условий в представленном README.

QuantFactory/Qwen2.5-7B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-7B-Instruct, созданная QuantFactory на основе модели Qwen от Alibaba Cloud с использованием llama.cpp. Модель предназначена для диалоговых сценариев, генерации текста, следования инструкциям, работы со структурированными данными и JSON, а также для задач программирования и математики. Это авторегрессионная causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещений QKV в механизме внимания. Модель содержит 7,61 млрд параметров, 28 слоёв и использует Grouped Query Attention с 28 головами Q и 4 головами KV. Заявлена поддержка контекста до 131 072 токенов и генерации до 8192 токенов; для контекстов свыше 32 768 токенов требуется настройка YaRN. Поддерживается более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, японский, корейский и другие. Сильные стороны модели — улучшенное следование инструкциям, генерация длинных текстов, понимание таблиц и других структурированных данных, формирование JSON, а также развитые навыки в кодировании и математике. К ограничениям относятся возможное снижение качества или производительности на коротких текстах при статическом масштабировании YaRN и необходимость учитывать особенности используемого GGUF-квантизированного варианта. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-235B-A22B-128K-GGUF — GGUF-квантизированная версия большой языковой модели Qwen3-235B-A22B, опубликованная Unsloth и основанная на модели Qwen от команды Qwen. Это авторегрессионная причинная языковая модель с архитектурой mixture-of-experts (MoE), предназначенная для генерации текста, диалогов, следования инструкциям, рассуждений, решения математических и программных задач, творческого письма, многошагового взаимодействия и работы с внешними инструментами. Модель содержит 235 млрд параметров всего, из которых 22 млрд активируются при обработке запроса; в ней 94 слоя, 128 экспертов и 8 активируемых экспертов. Используется grouped-query attention с 64 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с YaRN может достигать 131 072 токенов, что соответствует заявленному варианту на 128K. Модель поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Она позволяет переключаться между режимами thinking для сложных рассуждений и non-thinking для более быстрой генерации. К сильным сторонам относятся сочетание высокой способности к рассуждениям, программированию, агентным сценариям, многоязычной работе и диалогам, а также возможность использования в локальных приложениях и серверных средах, совместимых с GGUF. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к памяти и вычислительным ресурсам; конкретные характеристики зависят от выбранного уровня квантизации, который в README не указан. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-FP8 — FP8-квантизированная инструктивная версия причинной языковой модели Qwen3-Next, разработанная командой Qwen. Модель предназначена для генерации текста, диалоговых приложений, программирования, многошагового решения задач, агентских сценариев и обработки сверхдлинного контекста. Она работает только в instruct-режиме без блоков рассуждений <think></think>. Модель использует гибридную архитектуру Gated DeltaNet и Gated Attention, а также разреженную Mixture-of-Experts. Всего в ней 80 млрд параметров, из которых около 3 млрд активируются для обработки каждого токена; 48 слоёв, 512 экспертов и 10 активируемых экспертов. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Обучение включало предварительное обучение на 15 трлн токенов и последующую настройку; README не указывает полный перечень поддерживаемых языков. Сильные стороны модели — высокая эффективность параметров и вычислений, ускоренный вывод, поддержка сверхдлинного контекста и хорошие результаты в задачах знаний, рассуждений, кодирования, следования инструкциям, письма и работы агентов. Ограничения включают отсутствие thinking-режима, а также возможные отличия заявленных результатов от характеристик FP8-версии: приведённые в карточке эксперименты выполнены на исходной модели в формате bfloat16. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Instruct-FP8 — языковая модель для генерации текста, разработанная командой Qwen и распространяемая в репозитории RedHatAI. Это FP8-квантизированный вариант Qwen3-Next-80B-A3B-Instruct, предназначенный для диалогов, следования инструкциям, решения задач, программирования, многоязычных сценариев и агентских взаимодействий. Модель работает только в instruct-режиме и не формирует блоки рассуждений <think></think>. Модель построена как causal language model с гибридным механизмом внимания Gated DeltaNet и Gated Attention, а также архитектурой Mixture-of-Experts. Она содержит 80 млрд параметров, из которых около 3 млрд активируются на токен, 48 слоёв и 512 экспертов, 10 из которых активируются одновременно. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Обучение включало предварительное обучение на 15 трлн токенов и последующее дообучение. FP8-квантизация выполнена методом fine-grained FP8 с размером блока 128. К сильным сторонам относятся высокая эффективность по числу активируемых параметров, ускоренный вывод, поддержка сверхдлинного контекста, задачи программирования, следование инструкциям и многоязычность. Ограничения включают отсутствие thinking-режима, а также то, что приведённые результаты тестирования получены для исходной модели в формате bfloat16 до FP8-квантизации, поэтому они не обязательно полностью отражают характеристики данного checkpoint. Модель может разворачиваться с использованием, в частности, sglang и vLLM, включая OpenAI-совместимый сервер. Лицензия — Apache-2.0.

vs199507/gemma-4-31B-it-GGUF — GGUF-версия мультимодальной instruction-tuned модели Gemma 4 31B, разработанной Google DeepMind и подготовленной сообществом Unsloth. Модель предназначена для генерации и понимания текста, программирования, рассуждений, работы с изображениями и агентских сценариев с вызовом функций. Это плотная модель примерно с 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное скользящее окно размером 1024 токена с глобальным вниманием. Она принимает текст и изображения и генерирует текст, поддерживает контекст до 256 тысяч токенов и мультиязычную работу более чем со 140 языками. Для модели заявлены настраиваемые режимы рассуждений, улучшенные возможности программирования, native function calling и поддержка системных промптов. К сильным сторонам относятся большой контекст, мультимодальное понимание, развитые возможности рассуждений и широкий спектр прикладных сценариев — от диалогов и анализа документов до coding и автономных агентов. Конкретные характеристики квантования, требования к памяти и производительность этой GGUF-сборки в README не указаны; из-за размера модель ориентирована преимущественно на мощные рабочие станции и серверы. Распространение осуществляется по лицензии Apache 2.0.

Карточка модели Openintelligent123/NVIDIA-Nemotron-3-Super-120B-A12B-BF16 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16, поэтому описание составлено по ней. Nemotron-3-Super-120B-A12B-BF16 — языковая модель NVIDIA для диалога, рассуждений и создания агентных систем. Она предназначена для разработчиков чат-ботов, RAG-систем и совместно работающих ИИ-агентов, а также для автоматизации больших потоков задач, например обработки ИТ-заявок. Модель поддерживает сложное следование инструкциям и работу с длинным контекстом. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и внимания в гибриде LatentMoE; также используются Multi-Token Prediction для ускорения генерации и 12 млрд активных параметров при 120 млрд общих. Карточка указывает контекст до 1 млн токенов, тогда как метаданные Hugging Face — 262 144 токена. Модель принимает текст и генерирует текст; заявлены английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель ориентирована на высокую пропускную способность, агентные сценарии, код, рассуждения и мультиязычный диалог. Карточка заявляет коммерческую готовность, но метаданные указывают лицензию «other», поэтому перед использованием следует проверить её условия. В опубликованном репозитории формат весов указан как safetensors; карточка описывает обучение с NVFP4, но это не означает, что репозиторий представляет квантизованную версию.

unsloth/Qwen2.5-7B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-7B, подготовленная Unsloth на основе Qwen/Qwen2.5-7B-Instruct. Это каузальная текстовая модель для диалогов, следования инструкциям, генерации связных текстов, работы со структурированными данными и JSON, программирования и математических задач. Модель содержит 7,61 млрд параметров, из которых 6,53 млрд — без учёта эмбеддингов, и имеет 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и GQA с 28 головами для Q и 4 для KV. Поддерживается контекст до 131 072 токенов и генерация до 8192 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество версии — 4-битное квантование, позволяющее снизить требования к памяти и упростить локальный запуск, однако квантование может влиять на точность по сравнению с полноточной моделью. Модель рассчитана на текстовые сценарии и не предназначена для обработки изображений или других модальностей. Лицензия — Apache-2.0.

unsloth/Qwen3-30B-A3B-128K-GGUF — GGUF-версия языковой модели Qwen3-30B-A3B, разработанной командой Qwen компании Alibaba Cloud и подготовленной в формате квантования Unsloth. Это авторегрессионная causal language model с архитектурой mixture-of-experts (MoE): 30,5 млрд параметров всего, из которых 3,3 млрд активируются при обработке токена; модель содержит 48 слоёв, 128 экспертов, 8 активных экспертов и использует GQA с 32 головами Q и 4 головами KV. Модель предназначена для диалогов, следования инструкциям, генерации текста и кода, математического и логического рассуждения, творческого письма, многошаговых взаимодействий и агентских сценариев с использованием внешних инструментов. Она поддерживает переключение между режимами thinking и non-thinking: первый ориентирован на сложное рассуждение, а второй — на более быстрые ответы общего назначения. Qwen3 заявляет поддержку более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Нативная длина контекста составляет 32 768 токенов; до 131 072 токенов можно использовать с применением YaRN, что соответствует назначению версии с обозначением 128K. К сильным сторонам относятся сочетание высокой общей ёмкости с небольшим числом активных параметров, развитые способности к рассуждению, программированию и работе в агентских сценариях, а также возможность локального запуска через совместимые инструменты для GGUF. Ограничения включают необходимость корректной настройки режима мышления и YaRN для длинного контекста; конкретные требования к аппаратному обеспечению, показатели производительности и детали квантования в предоставленном README не указаны. Модель распространяется по лицензии Apache-2.0.

QuixiAI/Qwen3-30B-A3B-AWQ — квантизированная в формате AWQ версия Qwen3-30B-A3B, разработанная командой Qwen и опубликованная Eric Hartford. Модель основана на causal language model с архитектурой mixture-of-experts (MoE) и предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, математики, программирования, перевода и агентских сценариев с интеграцией внешних инструментов. Модель поддерживает переключение между режимами рассуждения и обычной генерации, обучена на этапах pretraining и post-training и поддерживает более 100 языков и диалектов. Всего она содержит около 30,5 млрд параметров, из которых при обработке активируется около 3,3 млрд; в составе 48 слоёв, 128 экспертов, одновременно активируются 8, используется Grouped Query Attention с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN заявлена поддержка до 131 072 токенов. К сильным сторонам относятся сочетание высокой ёмкости MoE с меньшим числом активных параметров, развитые возможности рассуждения, программирования, многоязычного общения и работы в агентских задачах, а также наличие эффективного режима без рассуждений. AWQ-квантизация может снизить требования к памяти и упростить локальное развёртывание, однако конкретные требования к оборудованию и влияние квантизации на качество в карточке не указаны. Для работы рекомендуется использовать актуальные версии Transformers, SGLang или vLLM. Модель распространяется по лицензии Apache-2.0.

RedHatAI/gemma-4-31B-it — инструктивная мультимодальная модель семейства Gemma 4, разработанного Google DeepMind и опубликованного Red Hat AI. Это плотная модель на 31 млрд параметров на архитектуре Gemma4ForConditionalGeneration, дообученная на основе google/gemma-4-31B; она принимает текст и изображения и генерирует текст. Вариант 31B предназначен для диалога, рассуждений, генерации и исправления кода, анализа изображений и работы с длинными запросами; поддерживает вызов инструментов и контекст до 256 тыс. токенов. Модель подходит для визуальных вопросов и ответов, распознавания текста и извлечения сведений из документов и изображений, понимания графиков и интерфейсов, а также для суммаризации, общения и помощи с кодом. Семейство Gemma заявляет поддержку более 140 языков при предварительном обучении и более 35 языков в прикладном использовании; README не уточняет точный языковой охват именно этого чекпойнта. Вариант 31B не заявлен как поддерживающий аудио, в отличие от малых моделей семейства. Весовые файлы доступны в формате safetensors, библиотека — Transformers. Лицензия — Apache 2.0.

Kimi-K2-Instruct — инструктивная версия языковой модели Kimi K2, разработанная Moonshot AI. Это крупная модель класса Mixture-of-Experts (MoE), предназначенная для универсального диалога, рассуждений, программирования, работы с инструментами и агентских сценариев. Она ориентирована на готовое использование в чат-приложениях и автономном решении задач без режима длительного пошагового мышления. Модель содержит около 1 триллиона общих параметров, из которых 32 миллиарда активируются для каждого токена. Архитектура включает 61 слой, 384 эксперта с выбором 8 экспертов на токен, один общий эксперт, 64 attention heads, механизм внимания MLA и функцию активации SwiGLU. Размер контекста составляет 128 тысяч токенов, словарь — 160 тысяч токенов. В README языки и мультимодальные возможности не указаны; по представленным данным это текстовая языковая модель. Сильными сторонами заявлены высокая производительность в задачах знаний, рассуждений и программирования, а также оптимизация для tool use и агентского решения задач. В README приведены результаты сравнительных тестов, включая LiveCodeBench, OJBench и MultiPL-E, однако ограничения, гарантии качества и дополнительные требования к аппаратному обеспечению явно не описаны. Модель распространяется по лицензии modified MIT, обозначенной как license: other и license_name: modified-mit.

Mistral-Nemo-Instruct-2407 — языковая модель с инструктивным дообучением, созданная Mistral AI совместно с NVIDIA на базе Mistral-Nemo-Base-2407. Это плотный трансформер Mistral с 12,1 млрд параметров, группированным запросом внимания и контекстом до 131 072 токенов. Модель предназначена для диалога, следования инструкциям, генерации текста и вызова инструментов; обучалась на многоязычных данных и данных для программирования. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Заявлена как замена Mistral 7B с увеличенным контекстом. Распространяется по лицензии Apache 2.0. В карточке отмечено, что у модели нет встроенных механизмов модерации, поэтому её ответы могут не соблюдать заданные ограничения.

Nemotron-3-Super-120B-A12B-BF16 — языковая модель NVIDIA для диалога, рассуждений и создания агентных систем. Она предназначена для разработчиков чат-ботов, RAG-систем и совместно работающих ИИ-агентов, а также для автоматизации больших потоков задач, например обработки ИТ-заявок. Модель поддерживает сложное следование инструкциям и работу с длинным контекстом. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и внимания в гибриде LatentMoE; также используются Multi-Token Prediction для ускорения генерации и 12 млрд активных параметров при 120 млрд общих. Карточка указывает контекст до 1 млн токенов, тогда как метаданные Hugging Face — 262 144 токена. Модель принимает текст и генерирует текст; заявлены английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель ориентирована на высокую пропускную способность, агентные сценарии, код, рассуждения и мультиязычный диалог. Карточка заявляет коммерческую готовность, но метаданные указывают лицензию «other», поэтому перед использованием следует проверить её условия. В опубликованном репозитории формат весов указан как safetensors; карточка описывает обучение с NVFP4, но это не означает, что репозиторий представляет квантизованную версию.

Карточка модели Chiraag25/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4 на Hugging Face совпадает с карточкой baseten/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4-dequant-to-BF16, поэтому описание составлено по ней. Nemotron-3-Ultra-550B-A55B-NVFP4-dequant-to-BF16 — большая языковая модель NVIDIA для диалогов, рассуждений и агентных сценариев. Она использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture of Experts, отдельными слоями Attention и Multi-Token Prediction. Всего в модели 550 млрд параметров, из них 55 млрд активны при вычислении; репозиторий содержит веса SafeTensors в BF16, полученные из NVFP4-чекпойнта. Модель предназначена для сложных многошаговых задач, следования инструкциям, анализа длинных документов и кодовых баз, а также для создания чат-ботов, RAG-систем и AI-агентов. Она поддерживает генерацию текста и чат на английском, французском, испанском, итальянском, немецком, португальском, японском, корейском, хинди, арабском, китайском и иврите. Карточка заявляет контекст до 1 млн токенов, тогда как метаданные указывают 262 144 токена; фактический предел зависит от конфигурации используемого чекпойнта и среды запуска. Модель рассчитана на крупные многонодовые развёртывания и требует мощного оборудования NVIDIA. Лицензия указана как other; README разрешает коммерческое и некоммерческое использование, но конкретные условия следует сверить с текстом лицензии репозитория.

Qwen3-32B-f16-GGUF — размещённая Geoff Munn версия модели Qwen/Qwen3-32B в формате GGUF с весами F16 для запуска через llama.cpp и совместимые приложения. Это плотная языковая модель на 32 млрд параметров, предназначенная для диалога, генерации текста, рассуждений, математики, программирования и многоязычных задач; её также можно подключать к RAG-системам и агентным сценариям. Карточка описывает несколько вариантов квантования семейства и приводит результаты сравнения их качества, но репозиторий обозначен как F16. Указанные в README оценки производительности и качества относятся к конкретным вариантам и настройкам квантования, а не гарантируют такие же результаты для каждого файла. Для запуска нужны совместимое ПО и аппаратные ресурсы, соответствующие размеру 32B модели; вариант Q5_K_HIFI требует специальной сборки llama.cpp. Лицензия — Apache-2.0.

Qwen3.5-122B-A10B-FP8 — мультимодальная модель семейства Qwen3.5, разработанная командой Qwen. Это постобученная версия с причинной языковой моделью и vision encoder, предназначенная для работы с текстом и изображениями, включая рассуждение, программирование, визуальное понимание и агентские сценарии. Модель содержит 122 млрд параметров, из которых 10 млрд активируются при обработке запроса. Она использует гибридную архитектуру Gated Delta Networks и разреженную Mixture-of-Experts с 256 экспертами, из которых активируются 8 маршрутизируемых и 1 общий эксперт. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Данная версия содержит fine-grained FP8-квантизированные веса с размером блока 128; производительность заявлена близкой к исходной модели. Сильными сторонами являются сочетание мультимодальности, большого контекста, разреженной архитектуры для более эффективного вывода и широкого языкового охвата. Ограничения, зависящие от конкретной задачи, аппаратной конфигурации и используемого программного стека, в README не раскрыты; FP8-формат также требует совместимой поддержки. Модель распространяется по лицензии Apache-2.0 и совместима с Hugging Face Transformers, vLLM, SGLang и KTransformers.