II.4Отладка, тестирование и качество ПО

Это инструкционно настроенная плотная языковая модель Qwen2.5-72B, представленная в репозитории Unsloth и основанная на Qwen/Qwen2.5-72B-Instruct. Она предназначена для диалогов, генерации текстов и структурированных ответов, следования инструкциям, программирования и математических задач. Модель построена на архитектуре Qwen2 с причинным языковым моделированием; в метаданных указано 71,5 млрд параметров и контекст до 32 768 токенов. README описывает архитектуру с RoPE, SwiGLU, RMSNorm и смещениями в QKV-слоях, а также расширение контекста до 131 072 токенов с YaRN при дополнительной настройке. Модель поддерживает многоязычные сценарии, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Метаданные указывают поддержку чата и интерфейс вызова инструментов. Репозиторий содержит веса safetensors для Transformers; README рекомендует актуальную версию Transformers, а для развёртывания — vLLM. Лицензия указана как other, поэтому конкретные условия следует проверять в карточке модели. Для обработки контекста свыше 32 768 токенов требуется настройка YaRN; постоянный коэффициент масштабирования в vLLM может ухудшить работу на коротких текстах.

unsloth/Qwen2.5-7B-Instruct-unsloth-bnb-4bit — это 4-битная динамически квантованная версия инструкционно настроенной языковой модели Qwen2.5-7B-Instruct, подготовленная Unsloth на базе модели Qwen/Qwen2.5-7B-Instruct. Модель предназначена для диалогов, следования инструкциям, генерации текста, работы с кодом и математическими задачами, а также формирования структурированных ответов, включая JSON. Модель является каузальной текстовой LLM примерно с 7 млрд параметров и работает с текстовыми данными. Заявлена поддержка контекста до 128 тысяч токенов и генерации до 8 тысяч токенов. Qwen2.5 поддерживает более 29 языков, среди которых китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество этой версии — сниженное потребление памяти благодаря 4-битной квантизации; Unsloth заявляет, что динамический подход сохраняет точность лучше стандартной 4-битной квантизации. Ограничениями являются зависимость качества от последствий квантизации и отсутствие поддержки мультимодальных входов: в предоставленных данных модель описана как текстовая. Модель распространяется по лицензии Apache-2.0. README также содержит несогласованный фрагмент о базовой версии Qwen2.5-0.5B, поэтому сведения о конкретной архитектуре и точном числе слоёв для данной 7B-версии не указаны.

Qwen3-14B-MLX-4bit — это 4-битная MLX-версия причинной языковой модели Qwen3-14B, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, перевода, написания кода, математического и логического рассуждения, творческих задач и сценариев с агентами и внешними инструментами. Она поддерживает переключение между режимом рассуждения и обычным режимом без рассуждения в рамках одной модели. Модель содержит 14,8 млрд параметров, из которых 13,2 млрд не относятся к embedding, и имеет 40 слоёв. Используется Grouped Query Attention: 40 голов для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с YaRN может достигать 131 072 токенов. Заявлена поддержка более 100 языков и диалектов. Формат MLX и 4-битное квантование ориентированы на эффективный запуск в экосистеме MLX, однако README не содержит конкретных требований к памяти и производительности. Сильными сторонами являются развитые способности к рассуждению, математике, программированию, многоязычному взаимодействию, многошаговым диалогам и использованию инструментов. Режим без рассуждения может повысить эффективность, а режим рассуждения предназначен для более сложных задач. Ограничения включают зависимость от совместимых версий mlx_lm и transformers, а также необходимость подбора параметров генерации: для режима рассуждения не рекомендуется жадное декодирование из-за возможных повторов. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-30B-A3B-128K-GGUF — GGUF-версия языковой модели Qwen3-30B-A3B, разработанной командой Qwen компании Alibaba Cloud и подготовленной в формате квантования Unsloth. Это авторегрессионная causal language model с архитектурой mixture-of-experts (MoE): 30,5 млрд параметров всего, из которых 3,3 млрд активируются при обработке токена; модель содержит 48 слоёв, 128 экспертов, 8 активных экспертов и использует GQA с 32 головами Q и 4 головами KV. Модель предназначена для диалогов, следования инструкциям, генерации текста и кода, математического и логического рассуждения, творческого письма, многошаговых взаимодействий и агентских сценариев с использованием внешних инструментов. Она поддерживает переключение между режимами thinking и non-thinking: первый ориентирован на сложное рассуждение, а второй — на более быстрые ответы общего назначения. Qwen3 заявляет поддержку более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Нативная длина контекста составляет 32 768 токенов; до 131 072 токенов можно использовать с применением YaRN, что соответствует назначению версии с обозначением 128K. К сильным сторонам относятся сочетание высокой общей ёмкости с небольшим числом активных параметров, развитые способности к рассуждению, программированию и работе в агентских сценариях, а также возможность локального запуска через совместимые инструменты для GGUF. Ограничения включают необходимость корректной настройки режима мышления и YaRN для длинного контекста; конкретные требования к аппаратному обеспечению, показатели производительности и детали квантования в предоставленном README не указаны. Модель распространяется по лицензии Apache-2.0.

ELVISIO/Qwen3-30B-A3B-Instruct-2507-AWQ — это квантизированная версия Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая рассуждения, понимание текста, математику, научные задачи, программирование, использование инструментов и работу с многоязычными запросами. Модель использует архитектуру причинной языковой модели MoE с 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке токена. Она содержит 48 слоёв, 128 экспертов и активирует 8 экспертов; применяется GQA с 32 головами запросов и 4 ключей/значений. Нативная длина контекста составляет 262 144 токена. Это текстовая модель без мультимодальных возможностей, работающая только в non-thinking режиме и не формирующая блоки <think></think>. Основные сильные стороны — улучшенное следование инструкциям, качество открытой генерации, логическое и математическое рассуждение, программирование, использование инструментов, многоязычное понимание и обработка длинного контекста. Модель подвергнута AWQ int4-квантизации с использованием ms-swift, что снижает требования к памяти, но может сопровождаться некоторой потерей качества по сравнению с полной версией. README не содержит подробных сведений о языках, аппаратных требованиях и ограничениях производительности. Модель распространяется по лицензии Apache 2.0.

Qwen3-30B-A3B-Instruct-2507-AWQ-4bit — 4-битная AWQ-квантизированная версия модели Qwen3-30B-A3B-Instruct-2507, опубликованная пользователем cyankiwi и основанная на модели Qwen/Qwen3. Исходная модель разработана командой Qwen. Это авторегрессионная языковая модель для генерации текста, диалогов и выполнения инструкций. Модель предназначена для следования инструкциям, логического рассуждения, понимания текста, математики, научных задач, программирования, использования инструментов и открытых текстовых запросов. Она поддерживает многоязычные сценарии и контекст длиной до 262 144 токенов. Архитектура — Mixture of Experts: 30,5 млрд параметров всего, из которых 3,3 млрд активируются на запрос; 48 слоёв, 128 экспертов, 8 активируемых экспертов, Grouped Query Attention с 32 головами Q и 4 головами KV. Модель работает только в режиме non-thinking и не формирует блоки <think></think>. Сильные стороны включают улучшенное следование инструкциям, качество рассуждений, программирование, творческое письмо, работу с длинным контекстом и многоязычными данными. Ограничения связаны с использованием только non-thinking режима, возможными ошибками генерации и потерей качества из-за 4-битной квантизации; конкретные требования к аппаратному обеспечению в предоставленных данных не указаны. Лицензия — Apache-2.0.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter239 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter271 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter287 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter63 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter95 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Qwen3-4B-MLX-4bit — это компактная 4-билионная причинная языковая модель семейства Qwen3, разработанная командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, решения математических и логических задач, программирования, перевода и сценариев с использованием внешних инструментов. Она поддерживает переключение между режимом рассуждения для сложных задач и нережимом рассуждения для более быстрой работы в рамках одной модели. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding-слою, и включает 36 слоёв. Используется Grouped Query Attention с 32 головами запросов и 8 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Модель поддерживает более 100 языков и диалектов, ориентирована на многоязычные инструкции и перевод. Формат MLX и 4-битное квантование делают её подходящей для эффективного запуска в экосистеме MLX. Сильными сторонами являются сочетание рассуждения и быстрого диалогового режима, развитые возможности следования инструкциям, многоязычность, программирование и интеграция с инструментами. Ограничения включают текстовую специализацию без заявленной поддержки других модальностей, зависимость длинного контекста от YaRN и необходимость подбора параметров генерации: для режима рассуждения рекомендуется не использовать жадное декодирование. В README указана лицензия Apache-2.0.

cyankiwi/Qwen3.5-397B-A17B-AWQ-4bit — квантизированная 4-битная версия мультимодальной модели Qwen3.5-397B-A17B, разработанной командой Qwen. Модель представляет собой авторегрессионную языковую модель с vision-энкодером и предназначена для генерации и понимания текста, работы с изображениями, рассуждений, программирования, визуального анализа и агентских сценариев. Она доступна в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts. Общее число параметров составляет 397 млрд, из которых при обработке токена активируется 17 млрд; используется 512 экспертов, 10 маршрутизируемых и один общий эксперт. Нативная длина контекста — 262 144 токена, с возможностью расширения до 1 010 000 токенов. Модель поддерживает 201 язык и диалект, а мультимодальная архитектура ориентирована на совместную обработку текста и визуальных данных. К сильным сторонам относятся высокая эффективность разреженной архитектуры, большой контекст, широкое языковое покрытие и возможности мультимодального понимания. Ограничениями являются значительные требования к вычислительным ресурсам даже при 4-битной квантизации, а также возможные потери точности, связанные с квантизацией AWQ. Репозиторий распространяется по лицензии Apache-2.0.

Карточка модели wujitang/Qwen3.8-27B на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

Карточка модели OpenIntelligenceNet/Qwen-3.8-27B-Heretic на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

Qwen3.8-27B-MXFP6 — квантованный вариант мультимодальной модели Qwen3.8 от команды Qwen. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, основанная на архитектуре Qwen3.5 и представленная в формате Transformers с квантизацией Quark MXFP6. Модель принимает текст, изображения и видео и выдаёт текстовые ответы; поддерживает диалог, интерфейс вызова инструментов и настраиваемый режим рассуждений. Модель предназначена для анализа изображений и видео, программирования, профессиональных и исследовательских задач, а также многоэтапной работы агентных систем. В README указана длина контекста 262 144 токена с возможностью расширения до 1 000 000 токенов. Модель можно запускать через Transformers и совместимые среды, включая vLLM и SGLang. Лицензия — Apache-2.0. Доступная карточка описывает семейство Qwen3.8, но подробности конкретной сборки MXFP6, включая языковую поддержку и ограничения квантизации, не приведены.

Qwen3-8B-MLX-4bit — языковая модель семейства Qwen, разработанная командой Qwen. Это причинная языковая модель для генерации текста, диалога, следования инструкциям, написания кода, математических и логических рассуждений, творческих задач, ролевого взаимодействия и агентских сценариев с подключением внешних инструментов. Вариант подготовлен для работы с MLX и использует 4-битное представление параметров. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding, имеет 36 слоёв и архитектуру Grouped Query Attention с 32 головами Q и 8 головами KV. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. Поддерживаются более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Модель допускает переключение между режимом рассуждений для сложных задач и нережимом рассуждений для более эффективного общего диалога. Сильными сторонами являются сочетание рассуждений и эффективного режима работы, развитое следование инструкциям, многоязычность, поддержка программирования и интеграции с инструментами. Ограничения включают необходимость корректно выбирать параметры генерации для режима рассуждений; в README также не приведены конкретные результаты бенчмарков, требования к оборудованию и показатели производительности. Модель распространяется по лицензии Apache-2.0.

cyankiwi/gemma-4-26B-A4B-it-AWQ-8bit — инструкцияно дообученная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате AWQ 8bit. Она основана на Google Gemma 4 26B A4B и использует архитектуру Mixture-of-Experts с 25,2 млрд параметров, из которых около 3,8 млрд активируются при обработке запроса. Модель предназначена для генерации текста, программирования, рассуждений, мультимодального анализа изображений и построения агентных сценариев с вызовом функций. Модель принимает текст и изображения и генерирует текст. Она поддерживает более 140 языков, контекст до 256 тысяч токенов и использует гибридный механизм внимания с чередованием локального sliding window attention и глобального внимания. В конфигурации MoE предусмотрены 128 экспертов, 8 активных экспертов и один общий эксперт; размер скользящего окна составляет 1024 токена, словарь — 262 тысячи токенов. Поддерживаются настраиваемые режимы рассуждений и системные сообщения. Ключевое преимущество — сочетание возможностей модели класса 26B с вычислительной нагрузкой, близкой к модели примерно на 4 млрд активных параметров, что делает инференс быстрее плотной модели Gemma 4 31B. Большой контекст и поддержка изображений подходят для анализа длинных документов, сложных задач рассуждения, программного кода и визуальных данных. Ограничения включают необходимость совместимого оборудования и программного обеспечения для AWQ 8bit, а также потенциальные ошибки и ограничения, свойственные генеративным мультимодальным моделям; конкретные показатели производительности в предоставленном фрагменте README приведены не полностью. Лицензия — Apache 2.0.

Карточка модели unsloth/gemma-4-31B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой unsloth/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальная инструкционная модель семейства Gemma, разработанного Google DeepMind. Это чекпойнт на 12 млрд параметров, полученный из google/gemma-4-12B-it с применением Quantization-Aware Training; в данном репозитории опубликованы веса safetensors, извлечённые из QAT-конвейера в формате половинной точности, а не готовая к запуску квантизованная сборка. Модель предназначена для диалога, генерации и анализа текста, рассуждений, программирования, работы с изображениями, видео и аудио. Модель принимает текст и изображения, может анализировать видео по последовательности кадров; для варианта 12B также заявлена поддержка аудио, включая распознавание речи и перевод речи в текст. Она генерирует текст, поддерживает вызов функций и контекст до 256 тысяч токенов. Семейство рассчитано на многоязычные сценарии: карточка сообщает о поддержке более 35 языков и обучении на более чем 140 языках, но не перечисляет языки отдельно для этого чекпойнта. QAT-обучение призвано сохранить качество, близкое к bfloat16, при снижении требований к памяти в соответствующих квантованных вариантах. Этот репозиторий содержит именно неупакованные QAT-веса, поэтому для непосредственного запуска может потребоваться собственная компиляция или подходящая среда. Лицензия — Apache 2.0.

Карточка модели mbdk0/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели OsGo/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели muhamad-geosurge/invert-polarity-801e2f5f-c60d-45d9-80b6-41cb7e07aa5f на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

K-EXAONE-2.0-750B-A37B — мультиязычная языковая модель общего назначения, разработанная LG AI Research. Это модель семейства EXAONE с архитектурой MoE для генерации текста и диалогов; в репозитории представлены веса Safetensors, а общий размер модели по метаданным составляет 34,1 млрд параметров. Нативная длина контекста — 262 144 токена. Модель предназначена для рассуждений, агентных сценариев, помощи в программировании, понимания длинных текстов и поиска сведений в контексте. Она поддерживает корейский, английский, испанский, немецкий, японский, вьетнамский, французский, итальянский, польский и португальский языки. В README также описаны методы ускорения генерации MTP и DSpark и развертывание на нескольких узлах с GPU. Модель может генерировать некорректные, устаревшие, предвзятые или нежелательные ответы, поэтому результаты следует проверять. Распространяется по лицензии Apache 2.0.

casperhansen/mistral-nemo-instruct-2407-awq — это 4-битная AWQ-квантизированная версия Mistral-Nemo-Instruct-2407, опубликованная пользователем casperhansen на Hugging Face. Исходную модель разработали совместно Mistral AI и NVIDIA; она представляет собой instruction-tuned версию Mistral-Nemo-Base-2407 и предназначена для генерации текста, диалогов, следования инструкциям и вызова функций. Модель содержит около 12 млрд параметров и использует архитектуру Transformer с 40 слоями, размерностью 5120, 32 attention heads и 8 key-value heads в конфигурации GQA, активацией SwiGLU и словарём примерно на 128 тысяч токенов. Исходная модель обучалась с контекстом 128K токенов на многоязычных и программных данных; заявлена поддержка девяти языков, включая русский. AWQ-квантизация до 4 бит уменьшает требования к памяти и подходит для локального инференса через Transformers, vLLM и SGLang, но может немного снижать точность относительно исходной версии. Сильные стороны — большой контекст, многоязычность, работа с кодом, поддержка диалогового режима и function calling, а также более экономичный инференс благодаря квантизации. Ограничение исходной модели — отсутствие встроенных механизмов модерации, поэтому её ответы могут требовать дополнительного контроля. Для базовой Mistral-Nemo-Instruct-2407 указана лицензия Apache 2.0; отдельная карточка AWQ-репозитория не содержит дополнительного лицензионного описания.

Карточка модели Darth-Coder/my-model3-30b-it на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Qwen2.5-3B-Instruct-AWQ — инструкционно дообученная причинная языковая модель из семейства Qwen2.5, разработанная командой Qwen; в примере README также указано, что Qwen создан Alibaba Cloud. Модель предназначена для диалоговых ассистентов, генерации и обработки текста, следования инструкциям, работы со структурированными данными и JSON, а также задач программирования и математики. Модель содержит около 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, и включает 36 слоёв. Архитектура основана на Transformers и использует RoPE, SwiGLU, RMSNorm, смещения в Attention QKV и связанные эмбеддинги слов. Применяется GQA с 16 головами для Q и 2 для KV. Контекст составляет до 32 768 токенов, длина генерации — до 8 192 токенов. Это текстовая модель без заявленной поддержки изображений или других модальностей; семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и другие. Ключевое преимущество версии AWQ — 4-битное квантование, позволяющее снизить требования к памяти и сделать развёртывание компактнее по сравнению с полноточной версией, при этом возможна потеря качества относительно исходной модели. Для работы рекомендуется использовать актуальную версию библиотеки Transformers и совместимые инструменты AWQ. В README указана лицензия qwen-research; точные условия следует проверять в файле лицензии репозитория.

Alignment Lab AI выпустила дообученную на инструкциях плотную языковую модель Qwen2.5 на 71,5 млрд параметров. Она предназначена для диалогов и генерации текста, включая ответы на инструкции, длинные тексты, структурированные данные и вывод в формате JSON; метаданные также отмечают интерфейс вызова инструментов. Архитектура — Qwen2ForCausalLM с RoPE, SwiGLU, RMSNorm и групповым запросным вниманием. Модель принимает текст и генерирует текст. Карточка заявляет поддержку более 29 языков, включая русский и английский. Контекст в конфигурации репозитория составляет 32 768 токенов; для обработки до 131 072 токенов README описывает расширение контекста с помощью YaRN. Генерация может достигать 8 192 токенов. Модель подходит для многоязычных чат-ботов, работы с кодом и математикой, длинных текстов и структурированных ответов. Для контекстов свыше 32 768 токенов требуется настройка YaRN; её статический коэффициент масштабирования в vLLM может снижать качество или производительность на коротких текстах. Лицензия указана как other, поэтому условия использования следует проверять в файлах репозитория.

Qwen3-4B-GGUF — квантизированная версия языковой модели Qwen3-4B, разработанная командой Qwen компании Alibaba Cloud. Это авторегрессионная causal language model для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, творческого письма, ролевого взаимодействия, перевода и сценариев с использованием внешних инструментов. Модель поддерживает более 100 языков и диалектов, включая мультиязычное следование инструкциям и перевод. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding, и включает 36 слоёв. Используется Grouped-Query Attention с 32 головами для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов; с применением RoPE-масштабирования YaRN заявлена поддержка до 131 072 токенов. Доступны варианты квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0 в формате GGUF, ориентированные на локальный запуск, в частности через llama.cpp и Ollama. Ключевая особенность Qwen3 — переключение между режимами thinking для сложных задач рассуждения и non-thinking для более эффективного общего диалога в рамках одной модели. Модель также заявлена как пригодная для агентских задач и интеграции с внешними инструментами. Ограничения включают возможное снижение качества на коротких текстах при использовании статического YaRN, а для квантизированных вариантов рекомендуется настраивать presence penalty для уменьшения повторов. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-4B-GGUF — GGUF-версия языковой модели Qwen3-4B, разработанной Alibaba Cloud и подготовленной Unsloth для запуска и дообучения в совместимых инструментах, включая llama.cpp, Ollama и Open WebUI. Модель предназначена для диалогов, следования инструкциям, генерации и анализа текста, математических и программных задач, многошагового рассуждения, творческого письма, ролевых сценариев, перевода и интеграции с внешними инструментами. Это авторегрессионная causal language model с 4,0 млрд параметров, из которых 3,6 млрд приходятся на нелучевые параметры, 36 слоями и архитектурой Grouped-Query Attention с 32 головами запросов и 8 головами ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с использованием YaRN заявлена поддержка до 131 072 токенов. Модель поддерживает более 100 языков и диалектов, однако в карточке отдельно указан английский язык. Она умеет переключаться между режимами рассуждения и нерссуждения, что позволяет выбирать между качеством решения сложных задач и более быстрым ответом. К сильным сторонам относятся компактный размер, поддержка мультиязычных сценариев, рассуждения, программирования, агентных задач и гибкое переключение режимов работы. Ограничения включают неизвестные из этой карточки точные требования к ресурсам, результаты бенчмарков, перечень поддерживаемых языков с оценкой качества и особенности конкретной квантизации GGUF. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-f32-GGUF — мультимодальная причинная языковая модель с 9 млрд параметров, основанная на Qwen3.5-9B и разработанная командой Alibaba Qwen. Данная версия распространяется в формате GGUF и предназначена для локального и серверного инференса с использованием llama.cpp, vLLM или SGLang. Модель обрабатывает текст, изображения и видео и рассчитана на OCR, визуальные вопросы и ответы, анализ документов, программирование, математические задачи, многоязычное рассуждение и создание мультимодальных агентов. Архитектура включает интегрированный vision encoder, гибридную схему Gated DeltaNet и Gated Attention, 32 слоя, скрытую размерность 4096, словарь из 248 тысяч токенов для 201 языка и нативный контекст до 262 тысяч токенов с возможностью расширения свыше 1 млн с помощью YaRN. Для обработки визуальных данных используется DeepStack ViT, включая временную динамику видео. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, длинный контекст, поддержка большого числа языков и возможность запуска на одном RTX 4090: около 18 ГБ в BF16 или 5 ГБ в 4-битном представлении. Ограничения включают требования к значительным вычислительным и видеоресурсам для полноразмерных вариантов, а также зависимость мультимодального инференса от отдельного файла mmproj. В репозитории доступны варианты BF16, F16, F32 и Q8_0, а также соответствующие мультимодальные проекции. Лицензия — Apache 2.0.