II.3Рефакторинг, миграция и модернизация

Карточка модели ArchiveStudio/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Карточка модели sana17041996/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

unsloth/Qwen2.5-7B-Instruct-unsloth-bnb-4bit — это 4-битная динамически квантованная версия инструкционно настроенной языковой модели Qwen2.5-7B-Instruct, подготовленная Unsloth на базе модели Qwen/Qwen2.5-7B-Instruct. Модель предназначена для диалогов, следования инструкциям, генерации текста, работы с кодом и математическими задачами, а также формирования структурированных ответов, включая JSON. Модель является каузальной текстовой LLM примерно с 7 млрд параметров и работает с текстовыми данными. Заявлена поддержка контекста до 128 тысяч токенов и генерации до 8 тысяч токенов. Qwen2.5 поддерживает более 29 языков, среди которых китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество этой версии — сниженное потребление памяти благодаря 4-битной квантизации; Unsloth заявляет, что динамический подход сохраняет точность лучше стандартной 4-битной квантизации. Ограничениями являются зависимость качества от последствий квантизации и отсутствие поддержки мультимодальных входов: в предоставленных данных модель описана как текстовая. Модель распространяется по лицензии Apache-2.0. README также содержит несогласованный фрагмент о базовой версии Qwen2.5-0.5B, поэтому сведения о конкретной архитектуре и точном числе слоёв для данной 7B-версии не указаны.

JunHowie/Qwen3-14B-GPTQ-Int4 — это 4-битная GPTQ-квантизированная версия большой языковой модели Qwen3-14B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, творческого письма, перевода и многоязычных сценариев, включая интеграцию с внешними инструментами и агентами. Модель использует каузальную языковую архитектуру и содержит около 14,8 млрд параметров, из которых 13,2 млрд приходятся на параметры без учёта эмбеддингов. Она имеет 40 слоёв и групповое многоголовое внимание с 40 головами для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Поддерживаются более 100 языков и диалектов. Qwen3 позволяет переключаться между режимами рассуждения и обычной генерации. Квантизация выполнена в формат GPTQ Int4 с размером группы 128. По данным README, настройка desc_act=False повышает эффективность по скорости генерации токенов по сравнению с более ранними квантизированными версиями, что делает модель более подходящей для ресурсоограниченного развертывания. Для запуска рекомендуется vLLM версии 0.9.2 или новее; также заявлена совместимость с экосистемой vLLM и другими инструментами локального инференса. Ограничения включают возможное снижение точности из-за 4-битной квантизации, а также высокие требования к вычислительным ресурсам при использовании длинного контекста и режима рассуждения. Модель распространяется по лицензии Apache-2.0.

Qwen3-14B-MLX-4bit — это 4-битная MLX-версия причинной языковой модели Qwen3-14B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, перевода, написания кода, математического и логического рассуждения, творческих задач и сценариев с агентами и внешними инструментами. Она поддерживает переключение между режимом рассуждения и обычным режимом без рассуждения в рамках одной модели. Модель содержит 14,8 млрд параметров, из которых 13,2 млрд не относятся к embedding, и имеет 40 слоёв. Используется Grouped Query Attention: 40 голов для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с YaRN может достигать 131 072 токенов. Заявлена поддержка более 100 языков и диалектов. Формат MLX и 4-битное квантование ориентированы на эффективный запуск в экосистеме MLX, однако README не содержит конкретных требований к памяти и производительности. Сильными сторонами являются развитые способности к рассуждению, математике, программированию, многоязычному взаимодействию, многошаговым диалогам и использованию инструментов. Режим без рассуждения может повысить эффективность, а режим рассуждения предназначен для более сложных задач. Ограничения включают зависимость от совместимых версий mlx_lm и transformers, а также необходимость подбора параметров генерации: для режима рассуждения не рекомендуется жадное декодирование из-за возможных повторов. Модель распространяется по лицензии Apache-2.0.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter255 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter271 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter319 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

cyankiwi/Qwen3.5-397B-A17B-AWQ-4bit — квантизированная 4-битная версия мультимодальной модели Qwen3.5-397B-A17B, разработанной командой Qwen. Модель представляет собой авторегрессионную языковую модель с vision-энкодером и предназначена для генерации и понимания текста, работы с изображениями, рассуждений, программирования, визуального анализа и агентских сценариев. Она доступна в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts. Общее число параметров составляет 397 млрд, из которых при обработке токена активируется 17 млрд; используется 512 экспертов, 10 маршрутизируемых и один общий эксперт. Нативная длина контекста — 262 144 токена, с возможностью расширения до 1 010 000 токенов. Модель поддерживает 201 язык и диалект, а мультимодальная архитектура ориентирована на совместную обработку текста и визуальных данных. К сильным сторонам относятся высокая эффективность разреженной архитектуры, большой контекст, широкое языковое покрытие и возможности мультимодального понимания. Ограничениями являются значительные требования к вычислительным ресурсам даже при 4-битной квантизации, а также возможные потери точности, связанные с квантизацией AWQ. Репозиторий распространяется по лицензии Apache-2.0.

karlsencoin/Qwen3.5-9B-GGUF — вариант модели Qwen3.5-9B, разработанной командой Qwen; репозиторий подготовлен с использованием технологий Unsloth и распространяется в формате GGUF для локального запуска. Модель предназначена для генерации и понимания текста, программирования, рассуждений, агентских сценариев и обработки визуальной информации. Это каузальная языковая модель с vision-энкодером и мультимодальным ранним объединением токенов. Она содержит около 9 млрд параметров, 32 слоя и гибридную архитектуру на основе Gated Delta Networks, Gated Attention и разреженной Mixture-of-Experts. Нативная длина контекста составляет 262 144 токена, с заявленной возможностью расширения до 1 010 000 токенов. Модель поддерживает 201 язык и диалект; заявлены текстовая и визуальная модальности. К сильным сторонам относятся мультимодальное понимание, высокая эффективность архитектуры, поддержка длинного контекста и пригодность для локального инференса. Ограничения конкретной GGUF-сборки, включая точный уровень квантизации, требования к памяти и совместимость с отдельными рантаймами, в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B v2 — это мультимодальная модель типа Mixture of Experts (MoE), разработанная oktayd на базе Qwen3.6-35B-v2-MoE-Ablit-Heretic-Uncensor-Hermes-MTP-Vision-FT. Модель распространяется в формате Ollama и предназначена для работы с текстом и изображениями, включая анализ скриншотов, документов, диаграмм и сцен. Модель ориентирована на диалог, объяснение научных и технических вопросов, рассуждения, программирование, отладку, создание контента, ролевые сценарии, tool calling и агентские рабочие процессы. Она также сфокусирована на бизнес-задачах, повседневной работе, визуальном вопросно-ответном взаимодействии, OCR и работе с документами. Заявлена поддержка различных стилей общения, включая прямой, неформальный и творческий; в обучении использовались многоязычные материалы, однако конкретный перечень языков не указан. Архитектура содержит около 35 миллиардов параметров, из которых примерно 3 миллиарда активируются для каждого токена; маршрутизация выбирает 8 из 256 экспертов. Это снижает вычислительную нагрузку по сравнению с полным запуском всех параметров, но не уменьшает требования к хранению весов и доступной RAM или VRAM до уровня 3B-модели. Доступны разные варианты квантования и размеры GGUF, что упрощает локальный запуск. Ограничения включают возможность ошибок, повторов и неточных ответов; README не указывает размер контекста и точные языковые характеристики. Лицензия модели — Apache-2.0.

Карточка модели Xyre/Qwen3-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Qwen3-8B-GGUF — квантизированная версия причинной языковой модели Qwen3-8B, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для локального запуска в формате GGUF через llama.cpp, Ollama и совместимые инструменты генерации текста. Модель подходит для диалогов, следования инструкциям, генерации и анализа кода, математического и логического рассуждения, творческого письма, ролевого взаимодействия, перевода и многоязычных задач. Она поддерживает переключение между режимом рассуждения для сложных задач и нережимом рассуждения для более быстрых ответов, а также сценарии взаимодействия с внешними инструментами и агентами. Заявлена поддержка более 100 языков и диалектов. Qwen3-8B содержит 8,2 млрд параметров, 36 слоёв и использует Grouped Query Attention с 32 головами Q и 8 головами KV. Нативная длина контекста составляет 32 768 токенов; с масштабированием YaRN заявлена работа до 131 072 токенов. Доступны варианты квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Квантизация облегчает локальный запуск, но может снижать качество по сравнению с полной версией; использование YaRN на коротких текстах также способно ухудшать производительность. Модель распространяется по лицензии Apache-2.0. README не содержит точных требований к аппаратному обеспечению и подробных результатов бенчмарков, поэтому фактическая скорость и требуемый объём памяти зависят от выбранного варианта квантизации и используемого оборудования.

Qwen3-8B-MLX-4bit — языковая модель семейства Qwen, разработанная командой Qwen. Это причинная языковая модель для генерации текста, диалога, следования инструкциям, написания кода, математических и логических рассуждений, творческих задач, ролевого взаимодействия и агентских сценариев с подключением внешних инструментов. Вариант подготовлен для работы с MLX и использует 4-битное представление параметров. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding, имеет 36 слоёв и архитектуру Grouped Query Attention с 32 головами Q и 8 головами KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Поддерживаются более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Модель допускает переключение между режимом рассуждений для сложных задач и нережимом рассуждений для более эффективного общего диалога. Сильными сторонами являются сочетание рассуждений и эффективного режима работы, развитое следование инструкциям, многоязычность, поддержка программирования и интеграции с инструментами. Ограничения включают необходимость корректно выбирать параметры генерации для режима рассуждений; в README также не приведены конкретные результаты бенчмарков, требования к оборудованию и показатели производительности. Модель распространяется по лицензии Apache-2.0.

Карточка модели unsloth/gemma-4-31B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой unsloth/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальная инструкционная модель семейства Gemma, разработанного Google DeepMind. Это чекпойнт на 12 млрд параметров, полученный из google/gemma-4-12B-it с применением Quantization-Aware Training; в данном репозитории опубликованы веса safetensors, извлечённые из QAT-конвейера в формате половинной точности, а не готовая к запуску квантизованная сборка. Модель предназначена для диалога, генерации и анализа текста, рассуждений, программирования, работы с изображениями, видео и аудио. Модель принимает текст и изображения, может анализировать видео по последовательности кадров; для варианта 12B также заявлена поддержка аудио, включая распознавание речи и перевод речи в текст. Она генерирует текст, поддерживает вызов функций и контекст до 256 тысяч токенов. Семейство рассчитано на многоязычные сценарии: карточка сообщает о поддержке более 35 языков и обучении на более чем 140 языках, но не перечисляет языки отдельно для этого чекпойнта. QAT-обучение призвано сохранить качество, близкое к bfloat16, при снижении требований к памяти в соответствующих квантованных вариантах. Этот репозиторий содержит именно неупакованные QAT-веса, поэтому для непосредственного запуска может потребоваться собственная компиляция или подходящая среда. Лицензия — Apache 2.0.

Карточка модели dannyboy1978/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Mistral-Small-3.1-24B-Instruct-2503-quantized.w4a16 — мультимодальная инструкционная модель, разработанная Red Hat совместно с Neural Magic на базе Mistral-Small-3.1-24B-Instruct-2503 от Mistral AI. Она принимает текст и изображения, а генерирует текст; архитектура указана как Mistral3ForConditionalGeneration. Модель предназначена для разговорных агентов с быстрым откликом, вызова функций с низкой задержкой, программирования, математического рассуждения, анализа длинных документов и визуального понимания. Также она подходит для локального развёртывания и тонкой настройки под специализированные предметные области, включая сценарии с чувствительными данными. Модель использует INT4-квантизацию весов линейных операторов в трансформерных блоках. Применяется симметричная поканальная по группам схема с размером группы 128 и алгоритмом GPTQ, реализованным в llm-compressor. По сравнению с 16-битным представлением это примерно на 75% снижает объём модели на диске и требования к памяти GPU, что является её ключевым преимуществом для быстрого и локального инференса. В README не указаны точное число параметров базовой модели, максимальная длина контекста и полный перечень поддерживаемых возможностей по каждому языку. Заявлена поддержка языков, включая английский, французский, немецкий, испанский, итальянский, португальский, хинди, индонезийский, вьетнамский, арабский, китайский, японский, корейский, русский, украинский и другие. Модель выпущена 15 апреля 2025 года, проверена в RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4. Ограничения включают возможную потерю точности из-за квантизации и запрет использования с нарушением применимого законодательства, а также в языках, официально не поддерживаемых моделью. Распространяется по лицензии Apache-2.0.

Карточка модели tech32432/Qwen2.5-7B-Instruct-IA-Author-Model на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Qwen3-32B-AWQ — квантизированная 4-битная AWQ-версия причинной языковой модели Qwen3-32B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, решения математических и логических задач, написания кода, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с интеграцией внешних инструментов. Она поддерживает переключение между режимом рассуждения для сложных задач и нерезультирующим режимом для более эффективного общего диалога в рамках одной модели. Модель содержит 32,8 млрд параметров, из них 31,2 млрд без учёта embedding, и имеет 64 слоя. Используется Grouped Query Attention: 64 головы для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с YaRN заявлена поддержка до 131 072 токенов. Модель поддерживает более 100 языков и диалектов, ориентирована на многоязычное следование инструкциям и перевод. AWQ-квантизация снижает требования к памяти, однако может влиять на качество по сравнению с полноразмерной версией; README также не содержит подробных результатов бенчмарков и требований к аппаратному обеспечению. Для режима рассуждения модель формирует промежуточное содержимое в блоке <think>...</think>; в README рекомендованы определённые параметры генерации и не рекомендуется жадное декодирование. Указанная лицензия — Apache 2.0.

lmstudio-community/Qwen3-32B-GGUF — квантизированная версия языковой модели Qwen3-32B, разработанной командой Qwen. Формат GGUF подготовлен bartowski на основе llama.cpp, релиз b5200. LM Studio распространяет эту модель в рамках общественной программы, но не является её разработчиком. Модель предназначена для генерации текста, следования инструкциям, многоходовых диалогов, творческого письма, ролевых сценариев, программирования, математических задач и рассуждений общего назначения. Поддерживаются режимы с рассуждением и без него; режим /no_think позволяет отключить рассуждения добавлением соответствующего параметра в конец запроса. Заявлена поддержка более 100 языков и диалектов, а также агентских сценариев. Модель имеет 32 млрд параметров и поддерживает контекст до 131 072 токенов с использованием YaRN; значение по умолчанию составляет 32 000 токенов. К ключевым преимуществам относятся расширенные возможности рассуждения, программирования, математики, диалогового взаимодействия и следования инструкциям. Ограничения включают возможные неточные, вредные или неподходящие ответы, а также отсутствие в README сведений о точном уровне квантизации, требованиях к оборудованию и характеристиках производительности. Модель распространяется по лицензии Apache 2.0.

Litwein/Qwen3.8-Flash-Next-REAP320-oQ3e-DWQ-MTP-Vision-MTPLX — это мультимодальная квантованная версия Qwen3.8-Flash-Next, подготовленная Litwein для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена для генерации текста, агентских сценариев, задач рассуждения и программирования, а также для работы с изображениями, документами, графиками и визуальными вопросами. В обучающих данных указаны, в частности, SWE-bench, математические и кодовые наборы, ChartQA, DocumentVQA, TextVQA и COCO. Модель использует MoE-архитектуру с 512 исходными экспертами, из которых после REAP pruning оставлено 320. Она содержит 133,7 млрд параметров, общий уровень квантования составляет 4,28 бит на вес: маршрутизируемые эксперты представлены в 3-битном формате, отдельные компоненты используют 4–8 бит, а vision tower хранится в bf16. Поддерживаются английский и русский языки, текстово-визуальный ввод и контекст до 262 144 токенов архитектурно; в конфигурации для 48 ГБ памяти заявлено до 163 840 токенов. MTP sidecar и speculative decoding ускоряют генерацию, сохраняя распределение целевой модели. К сильным сторонам относятся мультимодальность, длинный контекст, поддержка агентских и reasoning-сценариев, а также высокая скорость декодирования на Apple M4 Pro с 48 ГБ памяти: примерно 31–35 токенов в секунду при глубине MTP 2. Ограничения включают зависимость от Apple Silicon с не менее 48 ГБ unified memory, MTPLX версии 2.11.2 или новее, быстрого SSD и около 72 ГБ свободного места. Это прунинговые и квантованные веса, поэтому характеристики могут отличаться от исходной модели Qwen3.8-Flash-Next. Лицензия указана как Qwen Community License 1.0.

C4AI Command R7B — открытая исследовательская модель с весами, разработанная Cohere и Cohere For AI. Данный репозиторий содержит её квантизированные версии в формате GGUF с использованием imatrix, предназначенные для локального запуска через llama.cpp и совместимые с рядом клиентских интерфейсов, включая KoboldCPP, Ollama, Jan, text-generation-webui и GPT4All. Модель имеет 7 миллиардов параметров и контекстное окно 128K токенов. Это мультиязычная text-generation модель, обученная на 23 языках. Она предназначена для рассуждений, суммаризации, ответов на вопросы, генерации кода, Retrieval Augmented Generation (RAG) и использования инструментов. Также заявлены агентные возможности: модель может комбинировать несколько инструментов и выполнять многошаговые задачи. К её сильным сторонам относятся широкий контекст, поддержка нескольких языков и ориентация на корпоративные сценарии, включая работу с кодом. Ограничения связаны с относительно небольшим размером по сравнению с крупными моделями и необходимостью использовать совместимое программное обеспечение; для запуска GGUF-файлов требуется llama.cpp версии b4415 или новее. Модель распространяется по лицензии CC-BY-NC, которая не допускает коммерческое использование, а также требует соблюдения Acceptable Use Policy от C4AI. Репозиторий содержит квантизированные производные исходной модели c4ai-command-r7b-12-2024, опубликованной Cohere For AI.

Карточка модели Iambackup/gemma-4-E2B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-E2B-it, поэтому описание составлено по ней. RedHatAI/gemma-4-E2B-it — инструктивный вариант мультимодальной модели Gemma 4, опубликованный Red Hat AI; семейство разработано Google DeepMind. Модель основана на google/gemma-4-E2B и предназначена для диалогов, генерации и редактирования текста, рассуждений, программирования и анализа мультимодальных данных. Она использует плотную архитектуру Gemma 4 и распространяется в формате Safetensors по лицензии Apache 2.0. Версия E2B принимает текст, изображения, видео и аудио и генерирует текстовые ответы. Для небольших моделей семейства заявлено контекстное окно до 128 тысяч токенов; поддерживаются многие языки. Возможности включают понимание изображений и документов, распознавание речи, перевод речи в текст, вызов инструментов и генерацию кода. Гибридное внимание и компактный размер семейства рассчитаны в том числе на локальное выполнение на устройствах с ограниченными ресурсами. Модель может ошибаться в ответах, распознавании и интерпретации мультимодальных входов; качество следует проверять для конкретного языка и сценария. README описывает возможности семейства Gemma 4 в целом, поэтому отдельные детали, не подтверждённые для E2B, не следует считать гарантированными.

Это производная мультимодальная модель семейства Gemma 4 E4B, представленная пользователем aifeifei798 на базе Google Gemma 4 E4B. В карточке указано, что Gemma 4 разработана Google DeepMind; данная версия предназначена для диалога и генеративных сценариев с текстом и изображениями, а семейство поддерживает также видео и аудио на отдельных размерах. Архитектура — плотная Gemma4ForConditionalGeneration с гибридным вниманием: локальные окна чередуются с глобальными слоями. Модель подходит для ответов на вопросы, суммаризации, генерации и исправления кода, извлечения сведений из изображений и документов, распознавания текста на изображениях, понимания диаграмм и интерфейсов, а также агентных сценариев с вызовом инструментов. В README для E4B указано контекстное окно до 128K токенов и поддержка более 35 языков на уровне семейства. Указанные в карточке возможности видео и аудио относятся к семейству, но конкретно для этой версии их поддержка не подтверждена. Веса доступны в формате safetensors; лицензия — Apache-2.0. Карточка предупреждает о возможных фактических ошибках, предвзятости данных, трудностях с языковыми нюансами и сложными открытыми задачами.

GigaChat 3.1 Lightning — компактная instruct-модель семейства GigaChat 3.1 от ai-sage. Это модель класса Mixture-of-Experts с архитектурой DeepSeek V3: 10 млрд параметров, из которых при генерации активны 1,8 млрд. В этой версии веса представлены в BF16; используются Multi-head Latent Attention для сокращения KV-кэша и Multi-Token Prediction, которое может ускорять декодирование. Контекст составляет до 262 144 токенов. Модель предназначена для многоязычных диалогов и инструкций, рассуждений, программирования, вызова функций и развёртывания в прикладных продуктах. Карточка указывает поддержку русского и английского; обучающий корпус семейства охватывает 10 языков. Среди описанных сценариев — работа с поиском и цитированием, интерпретация кода с учётом файлов и диалоги с инструментами. Репозиторий использует Transformers и формат safetensors. Разработчик сообщает об улучшениях на задачах математики, программирования и других сложных областях, а также о высокой скорости генерации; приведённые результаты зависят от бенчмарка и конфигурации оборудования. Лицензия — MIT. Модель может ошибаться, а заявленные характеристики скорости требуют подходящей инфраструктуры и поддержки MTP в используемом движке.

GigaChat 3.1 Lightning — компактная инструкционная модель семейства GigaChat 3.1, разработанная командой ai-sage. Она предназначена для быстрых многоязычных ассистентских сценариев, рассуждений, программирования, генерации текста, функционального вызова и продуктовых применений. Модель поддерживает русский и английский языки; обучающий корпус семейства охватывает 10 языков и включает книги, академические материалы, код, математику и синтетические данные. Модель использует архитектуру Mixture-of-Experts с 10 млрд общих и 1,8 млрд активных параметров. Multi-head Latent Attention (MLA) сжимает KV-кэш, снижая потребление памяти и повышая эффективность на длинных контекстах, а Multi-Token Prediction (MTP) может ускорять спекулятивное и параллельное декодирование. К сильным сторонам относятся высокая скорость инференса, поддержка инструментальных вызовов, кода и задач рассуждения, а также улучшенная устойчивость после DPO-обучения. Максимальный размер контекста в README не указан, поэтому возможности работы с конкретной длиной контекста требуют дополнительной проверки. Модель распространяется по лицензии MIT.

GLM-4-9B-Chat-1M — диалоговая языковая модель семейства GLM-4, разработанная Zhipu AI. Этот репозиторий содержит версию весов для Transformers; модель имеет плотную архитектуру GLM с примерно 8,9 млрд параметров и поддерживает контекст до 1 048 576 токенов. Для работы требуется Transformers версии 4.46.0 или новее. Модель предназначена для многошагового диалога и генерации текста, включая рассуждения по длинным документам. Карточка семейства GLM-4-9B-Chat описывает вызов инструментов, веб-поиск и выполнение кода; метаданные также отмечают интерфейс вызова инструментов. GLM-4 поддерживает 26 языков, а в метаданных этой модели указаны английский и китайский. В README сообщается о результатах на задачах семантики, математики, рассуждений, программирования и знаний, превосходящих Llama-3-8B в приведённых оценках; данных о независимой проверке этих сравнений нет. Указанная в метаданных лицензия — other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Модель является дообученной версией THUDM/glm-4-9b-chat-1m.

InternLM2-Chat-7B — диалоговая языковая модель семейства InternLM2, разработанная командой InternLM. Это плотная авторегрессионная модель на 7,4 млрд параметров для генерации текста и общения по инструкциям; в карточке заявлена поддержка контекста до 200 тысяч токенов, тогда как метаданные репозитория указывают нативную длину 32 768 токенов. Модель предназначена для диалоговых помощников, ответов на вопросы, следования инструкциям, рассуждений, написания текстов и кода, а также анализа длинных документов. README также описывает использование инструментов и многошаговые вызовы, однако в метаданных не отмечен отдельный интерфейс tool calling. Доступ к модели предусмотрен через Transformers, LMDeploy и vLLM. Модель может выдавать предвзятые, дискриминационные или иные нежелательные ответы, поэтому результаты требуют проверки. Код репозитория распространяется по Apache-2.0; для весов README указывает открытость для академических исследований и возможность запросить бесплатное коммерческое разрешение.

Llama-3.3-Nemotron-Super-49B-v1.5-NVFP4 — большая языковая модель NVIDIA, производная от Meta Llama-3.3-70B-Instruct. Это плотная модель семейства Nemotron-NAS с 87 млрд параметров и контекстом до 131 072 токенов; версия NVFP4 предназначена для эффективного использования вычислительных ресурсов. Модель поддерживает диалог, рассуждения и интерфейс вызова инструментов. Модель рассчитана на чат-ботов, AI-агентов, системы RAG и выполнение инструкций. При дообучении улучшены рассуждения и работа с математикой, кодом, наукой и инструментами; применялись supervised fine-tuning, обучение с подкреплением и объединение нескольких чекпойнтов. Основной язык — английский; также поддерживаются немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Языки программирования указаны среди сценариев использования. Модель заявлена как готовая к коммерческому использованию. В метаданных лицензия обозначена как other, поэтому конкретные условия распространения следует сверить с лицензией в репозитории. Для запуска README приводит пример с vLLM и несколькими GPU; практическая скорость и доступная длина контекста зависят от конфигурации оборудования и сервера.

Карточка модели NostraEmpire/mirror-phi-3.5-mini-instruct на Hugging Face совпадает с карточкой microsoft/Phi-3.5-mini-instruct, поэтому описание составлено по ней. Phi-3.5-mini-instruct — компактная языковая модель Microsoft из семейства Phi-3 для генерации текста и диалогов. Это плотная авторегрессионная модель на 3,7 млрд параметров, доступная в формате Safetensors и предназначенная для запуска в условиях ограниченных вычислительных ресурсов и низкой задержки. В README также описаны варианты с контекстом до 128 тыс. токенов; метаданные этой карточки указывают нативный контекст 4096 токенов, поэтому заявленную длину контекста для данного репозитория следует сверять с используемой конфигурацией. Модель дообучена следованием инструкциям и рассчитана на многоязычные диалоги, рассуждения, задачи по математике и логике, а также помощь с кодом. Её можно использовать как основу генеративных функций, для ответов на вопросы по длинным документам и их суммаризации. В карточке отмечены улучшения качества многоязычных многоходовых диалогов и рассуждений относительно Phi-3 Mini Instruct. Лицензия — MIT. Как и другие языковые модели, она может ошибаться и не оценивалась для всех возможных сценариев; перед применением в ответственных областях требуется проверка качества и безопасности. README также отмечает возможную уязвимость к длительным многоходовым jailbreak-атакам, в том числе на разных языках.