II.4Отладка, тестирование и качество ПО

Gemma 4 31B IT — мультимодальная инструкционно-настроенная модель Google DeepMind на плотной архитектуре Gemma 4, предназначенная для диалогов и генерации текста по текстовым и визуальным запросам. Она принимает текст и изображения и выдаёт текст; поддерживает анализ изображений, рассуждения, программирование и работу с инструментами. Для этой версии заявлено контекстное окно до 256 тыс. токенов. Семейство Gemma 4 обучено на более чем 140 языках, однако для этой карточки отдельный перечень поддерживаемых языков не приведён. Модель подходит для ответов по изображениям и документам, распознавания текста на изображениях, анализа диаграмм и интерфейсов, а также для создания и редактирования текста и кода. Семейство Gemma 4 использует гибридное внимание с локальными и глобальными слоями, рассчитанное на работу с длинным контекстом. Аудиовход в README указан только для вариантов E2B, E4B и 12B, поэтому его не следует приписывать версии 31B. Лицензия — Apache 2.0.

Карточка модели geodavic/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели muhamad-geosurge/invert-polarity-e90e533f-da28-4c2d-a9ff-aef6d003f9f6 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

unsloth/Mistral-Small-3.2-24B-Instruct-2506-GGUF — это GGUF-квантизированная версия мультимодальной инструкционной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и опубликованной в формате GGUF командой Unsloth. Модель предназначена для диалоговых приложений, выполнения инструкций, анализа изображений и текста, программирования, STEM-задач, обработки документов и вызова функций или инструментов. Модель содержит 24 млрд параметров, поддерживает текстовые и визуальные входные данные, а также языки English, French, German, Spanish, Portuguese, Italian, Japanese, Korean, Russian, Chinese, Arabic, Persian, Indonesian, Malay, Nepali, Polish, Romanian, Serbian, Swedish, Turkish, Ukrainian, Vietnamese, Hindi и Bengali. Заявленная длина контекста — до 128K токенов. По сравнению с Mistral-Small-3.1 улучшены следование точным инструкциям, устойчивость к повторяющимся или бесконечным генерациям и надёжность function calling. GGUF-версия включает исправления chat template; для llama.cpp рекомендуется включать режим Jinja. Сильные стороны модели — широкий языковой охват, поддержка зрения, длинный контекст, улучшенные результаты в instruction following, программировании и вызове функций. В опубликованных тестах отдельные показатели зрения немного ниже, чем у версии 3.1, поэтому качество зависит от конкретного типа визуальной задачи. Для запуска требуются совместимые GGUF-инструменты, например llama.cpp или Ollama; рекомендуется низкая температура около 0,15. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen2.5-14B-Instruct-FP8-dynamic — производная FP8 dynamic-квантизованная версия Qwen2.5-14B-Instruct, опубликованная Red Hat AI. Исходная модель разработана командой Qwen и представляет собой инструкционно дообученную авторегрессионную языковую модель для генерации текста и диалогового взаимодействия. Модель предназначена для чат-ботов, следования инструкциям, генерации длинных и структурированных ответов, включая JSON, а также для задач программирования, математики, анализа таблиц и других текстовых сценариев. Это текстовая, не мультимодальная модель с архитектурой Qwen2ForCausalLM; в исходной версии около 14,7 млрд параметров. Заявлена поддержка контекста до 128K токенов и генерации до 8K токенов. Модель мультиязычная; среди явно указанных языков есть английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество варианта RedHatAI — FP8 dynamic-квантизация, рассчитанная на уменьшение требований к памяти и ускорение инференса при сохранении назначения исходной instruct-модели. Ограничения включают типичные для языковых моделей риск ошибок, галлюцинаций и зависимости качества от формулировки запроса; конкретные результаты тестирования именно этой квантизованной версии в найденном репозитории не приведены. Для исходной Qwen2.5-14B-Instruct указана лицензия Apache 2.0; отдельная карточка модели RedHatAI лицензионные условия явно не описывает.

axana-labs/Qwen2.5-72B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-72B-Instruct, разработанной командой Qwen/Alibaba Cloud и опубликованной в формате, совместимом с Transformers. Модель предназначена для диалоговых сценариев, следования инструкциям, генерации и анализа текста, работы со структурированными данными, создания JSON, программирования и математических задач. Модель относится к causal language models и использует архитектуру с RoPE, SwiGLU, RMSNorm, смещениями в QKV и Grouped Query Attention: 64 головы для Q и 8 для KV. Исходная модель содержит около 72,7 млрд параметров, из них 70 млрд без учёта embedding, имеет 80 слоёв, поддерживает контекст до 131 072 токенов и генерацию до 8 192 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество этой версии — 4-битное представление параметров, которое должно снижать требования к памяти и упрощать локальный запуск по сравнению с полноразмерной моделью. Сильными сторонами исходной Qwen2.5 заявлены улучшенные знания, программирование, математика, следование инструкциям, обработка длинных текстов и устойчивость к различным системным промптам. README не содержит подробных сведений о точном формате квантования, аппаратных требованиях, результатах тестирования именно этой сборки или ограничениях качества, поэтому их нельзя определить по имеющимся данным. Лицензия указана как other; конкретные условия использования в README не приведены.

unsloth/Qwen3-235B-A22B-GGUF — GGUF-версия модели Qwen3-235B-A22B, подготовленная Unsloth на основе разработки Qwen. Это каузальная языковая MoE-модель для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, перевода и агентских сценариев с интеграцией внешних инструментов. Модель содержит 235 млрд параметров, из которых 22 млрд активируются при обработке запроса. Она включает 94 слоя, архитектуру GQA с 64 головами внимания для Q и 4 для KV, 128 экспертов, из которых активируются 8. Нативная длина контекста составляет 32 768 токенов, а с использованием YaRN может достигать 131 072 токенов. Поддерживаются более 100 языков и диалектов. Модель позволяет переключаться между режимами рассуждения и обычной генерации, сочетая качество решения сложных задач с более эффективными ответами в общем диалоге. К сильным сторонам относятся развитые способности к рассуждению, программированию, многоязычному взаимодействию, следованию инструкциям и работе в агентских системах. GGUF-формат удобен для локального запуска через llama.cpp, Ollama, LM Studio и совместимые инструменты, однако модель остаётся крайне крупной и требует значительных вычислительных ресурсов; конкретные требования зависят от выбранной квантизации, сведения о которой в карточке не приведены. Модель предназначена для текстовых задач, данных о поддержке изображений или других модальностей нет. Указана лицензия Apache-2.0.

NVFP4/Qwen3-30B-A3B-Instruct-2507 — квантизированная версия причинной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen; формат NVFP4 создан для оптимизированного развертывания. Модель предназначена для генерации текста, следования инструкциям, логического рассуждения, понимания текста, математики, науки, программирования, использования инструментов и открытых диалоговых задач. Она поддерживает многоязычные сценарии и контекст до 262 144 токенов, работает только в нережиме рассуждений и не генерирует блоки <think></think>. Архитектура представляет собой causal language model на основе Mixture of Experts: 30,5 млрд параметров всего, из них 3,3 млрд активируются при обработке запроса; 48 слоев, 128 экспертов, 8 активных экспертов, Grouped Query Attention с 32 головами запросов и 4 головами ключей и значений. К сильным сторонам относятся улучшенные instruction following, качество открытых ответов, покрытие редких знаний, программирование и работа с длинным контекстом. К ограничениям относятся отсутствие режима пошагового рассуждения и потенциальные требования к совместимому программному и аппаратному стеку для запуска NVFP4-квантизации. Лицензия — Apache 2.0.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter15 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter303 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Qwen3-4B-FP8 — языковая модель семейства Qwen, разработанная командой Qwen. Это causal language model для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, программирования, творческого письма, перевода и сценариев с использованием внешних инструментов. Модель поддерживает переключение между режимами thinking для сложных задач и non-thinking для более быстрых ответов в рамках одной модели. Модель содержит 4,0 млрд параметров, из них 3,6 млрд без учёта embedding, и имеет 36 слоёв. Используется Grouped-Query Attention с 32 головами для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов, а с YaRN — до 131 072 токенов. Модель поддерживает более 100 языков и диалектов, ориентирована на мультиязычное следование инструкциям и перевод. Доступна в формате fine-grained FP8-квантизации с размером блока 128, что предназначено для повышения эффективности инференса. Сильные стороны модели — сочетание рассуждений и обычного диалога, развитые возможности следования инструкциям, мультиязычность, поддержка агентных сценариев и большой контекст. Ограничения включают известные проблемы fine-grained FP8 в Transformers при распределённом инференсе на нескольких устройствах; в таких случаях может потребоваться дополнительная настройка. Для корректной работы рекомендуется использовать актуальную версию Transformers или совместимые серверы инференса. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-122B-A10B-FP8 — мультимодальная модель семейства Qwen3.5, разработанная командой Qwen. Это постобученная версия с причинной языковой моделью и vision encoder, предназначенная для работы с текстом и изображениями, включая рассуждение, программирование, визуальное понимание и агентские сценарии. Модель содержит 122 млрд параметров, из которых 10 млрд активируются при обработке запроса. Она использует гибридную архитектуру Gated Delta Networks и разреженную Mixture-of-Experts с 256 экспертами, из которых активируются 8 маршрутизируемых и 1 общий эксперт. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Данная версия содержит fine-grained FP8-квантизированные веса с размером блока 128; производительность заявлена близкой к исходной модели. Сильными сторонами являются сочетание мультимодальности, большого контекста, разреженной архитектуры для более эффективного вывода и широкого языкового охвата. Ограничения, зависящие от конкретной задачи, аппаратной конфигурации и используемого программного стека, в README не раскрыты; FP8-формат также требует совместимой поддержки. Модель распространяется по лицензии Apache-2.0 и совместима с Hugging Face Transformers, vLLM, SGLang и KTransformers.

unsloth/Qwen3-8B-128K-GGUF — это распространённая в формате GGUF версия языковой модели Qwen3-8B, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, математических и логических задач, творческого письма, многошагового взаимодействия и сценариев с внешними инструментами. Она поддерживает более 100 языков и диалектов, включая многоязычные инструкции и перевод. Модель представляет собой авторегрессионную causal language model с 8,2 млрд параметров, включая 6,95 млрд параметров без учёта эмбеддингов, и 36 слоями. Используется Grouped-Query Attention: 32 головы для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с YaRN может достигать 131 072 токенов. Qwen3 поддерживает переключение между режимом размышлений для сложных задач и обычным режимом для более эффективного диалога. Сильными сторонами являются сочетание рассуждений и универсального диалога, возможности работы с агентами, многоязычность и расширенный контекст. Ограничения включают зависимость качества и скорости от конкретной GGUF-квантизации и доступного оборудования; сведения о точном варианте квантизации, требованиях к памяти и производительности в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

Bolt Instruct 32B — англоязычная причинно-следственная языковая модель с настройкой на выполнение инструкций от AI Squared, основанная на объединении моделей Allen Institute for AI OLMo. Вариант 32B предназначен для диалогов, рассуждений и генерации высокого качества; карточка указывает OLMo-3.1-32B-Instruct среди базовых моделей и описывает обучение семейства методом SFT, а для моделей 7B и 32B — с применением QLoRA. Модель подходит для чат-ассистентов и корпоративных сценариев: генерации структурированных ответов, извлечения сведений из документов, суммаризации, RAG и помощи с кодом. Она принимает текст и генерирует текст, поддерживает контекст до 65 536 токенов. В метаданных указана лицензия other; конкретные условия использования следует сверить с карточкой лицензии репозитория. Модель может галлюцинировать без опоры на источники, а качество зависит от размера варианта. Для задач с высокими последствиями требуется проверка человеком.

dots3-note Preview — предварительная открытая мультимодальная модель семейства dots3. В README она описана как Mixture-of-Experts с 280 млрд параметров всего и 16 млрд активируемых параметров; метаданные каталога классифицируют её как плотную модель на 15,4 млрд параметров, поэтому сведения о размере и типе архитектуры расходятся между источниками. Модель принимает текст, изображения, видео и аудио и выдаёт текст; заявленная длина контекста составляет до 512 тыс. токенов по README и 524 288 токенов по метаданным. Модель предназначена для диалога и следования инструкциям, общих знаний, математических и логических рассуждений, генерации кода, использования инструментов и многошаговых агентных сценариев. Она также рассчитана на понимание изображений, документов, диаграмм, аудио и видео, а также на обработку длинных контекстов. В README dots3-note Preview названа наиболее лёгкой моделью семейства с компромиссом между возможностями, задержкой и стоимостью инференса. Модель разработана командой dots3. Для запуска указаны Transformers, SGLang и vLLM; README рекомендует FP8-чекпойнт для развёртывания на узле с восемью GPU. Лицензия — Apache-2.0. Это предварительная версия; заявленные возможности и несоответствие сведений об архитектуре и размере следует учитывать при выборе и развёртывании.

unsloth/gemma-4-12b-it — инструкционная мультимодальная модель от Unsloth на базе Google Gemma 4 12B IT. Она предназначена для диалога, рассуждений, агентных сценариев, генерации и исправления кода, а также понимания изображений и видео. Архитектура Gemma 4 использует чередование локального скользящего и глобального внимания; для варианта 12B заявлено контекстное окно до 256K токенов. Модель поддерживает вызов инструментов и работу с аудио, включая распознавание речи и перевод речи в текст. Модель подходит для ответов по изображениям и документам, OCR, анализа диаграмм и кадров видео, транскрибации речи, суммаризации и генерации текста. В карточке Gemma 4 указана поддержка более 35 языков «из коробки» и предобучение более чем на 140 языках. Возможны фактические ошибки, смещения данных и трудности с нюансами языка и сложными открытыми задачами. Репозиторий использует формат safetensors; лицензия — Apache 2.0.

Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальная инструкционная модель семейства Gemma, разработанного Google DeepMind. Это чекпойнт на 12 млрд параметров, полученный из google/gemma-4-12B-it с применением Quantization-Aware Training; в данном репозитории опубликованы веса safetensors, извлечённые из QAT-конвейера в формате половинной точности, а не готовая к запуску квантизованная сборка. Модель предназначена для диалога, генерации и анализа текста, рассуждений, программирования, работы с изображениями, видео и аудио. Модель принимает текст и изображения, может анализировать видео по последовательности кадров; для варианта 12B также заявлена поддержка аудио, включая распознавание речи и перевод речи в текст. Она генерирует текст, поддерживает вызов функций и контекст до 256 тысяч токенов. Семейство рассчитано на многоязычные сценарии: карточка сообщает о поддержке более 35 языков и обучении на более чем 140 языках, но не перечисляет языки отдельно для этого чекпойнта. QAT-обучение призвано сохранить качество, близкое к bfloat16, при снижении требований к памяти в соответствующих квантованных вариантах. Этот репозиторий содержит именно неупакованные QAT-веса, поэтому для непосредственного запуска может потребоваться собственная компиляция или подходящая среда. Лицензия — Apache 2.0.

Карточка модели Terom/gemma-4-12B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google DeepMind разработала Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальную инструкционную модель с плотной архитектурой Gemma4UnifiedForConditionalGeneration, полученную на основе google/gemma-4-12B-it с применением обучения с учётом квантования (QAT). Несмотря на обозначение Q4_0, в этом варианте используются веса половинной точности, извлечённые из QAT-конвейера; он предназначен для последующей компиляции и исследовательской работы. Репозиторий содержит веса в формате safetensors. Модель принимает текст и изображения, а также аудио и видеокадры; генерирует текст. Она подходит для диалога, рассуждений, анализа документов и изображений, распознавания речи, работы с видео, написания и исправления кода и вызова инструментов. Вариант 12B поддерживает контекст до 256 тысяч токенов; семейство Gemma 4 обучено на более чем 140 языках, а карточка заявляет поддержку более 35 языков для мультимодальных задач. Среди заявленных возможностей — понимание документов и PDF, OCR, распознавание рукописного текста, анализ диаграмм и интерфейсов, а также распознавание речи и перевод аудио в текст. Это открытая модель с лицензией Apache 2.0. Указанные в карточке возможности относятся к семейству Gemma 4; отдельные показатели качества для данного чекпойнта не приведены.

Карточка модели katiyardinesh/gemma-4-31B-it-custom на Hugging Face совпадает с карточкой google/gemma-4-31B-it, поэтому описание составлено по ней. Gemma 4 31B IT — мультимодальная инструкционно-настроенная модель Google DeepMind на плотной архитектуре Gemma 4, предназначенная для диалогов и генерации текста по текстовым и визуальным запросам. Она принимает текст и изображения и выдаёт текст; поддерживает анализ изображений, рассуждения, программирование и работу с инструментами. Для этой версии заявлено контекстное окно до 256 тыс. токенов. Семейство Gemma 4 обучено на более чем 140 языках, однако для этой карточки отдельный перечень поддерживаемых языков не приведён. Модель подходит для ответов по изображениям и документам, распознавания текста на изображениях, анализа диаграмм и интерфейсов, а также для создания и редактирования текста и кода. Семейство Gemma 4 использует гибридное внимание с локальными и глобальными слоями, рассчитанное на работу с длинным контекстом. Аудиовход в README указан только для вариантов E2B, E4B и 12B, поэтому его не следует приписывать версии 31B. Лицензия — Apache 2.0.

Карточка модели ark4004/gemma-4-31B-it-jh на Hugging Face совпадает с карточкой google/gemma-4-31B-it, поэтому описание составлено по ней. Gemma 4 31B IT — мультимодальная инструкционно-настроенная модель Google DeepMind на плотной архитектуре Gemma 4, предназначенная для диалогов и генерации текста по текстовым и визуальным запросам. Она принимает текст и изображения и выдаёт текст; поддерживает анализ изображений, рассуждения, программирование и работу с инструментами. Для этой версии заявлено контекстное окно до 256 тыс. токенов. Семейство Gemma 4 обучено на более чем 140 языках, однако для этой карточки отдельный перечень поддерживаемых языков не приведён. Модель подходит для ответов по изображениям и документам, распознавания текста на изображениях, анализа диаграмм и интерфейсов, а также для создания и редактирования текста и кода. Семейство Gemma 4 использует гибридное внимание с локальными и глобальными слоями, рассчитанное на работу с длинным контекстом. Аудиовход в README указан только для вариантов E2B, E4B и 12B, поэтому его не следует приписывать версии 31B. Лицензия — Apache 2.0.

Карточка модели muhamad-geosurge/invert-polarity-03f4a332-1a37-4914-97ef-8987e8d755bc на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели muhamad-geosurge/invert-polarity-ecd192a7-0f41-4a16-9478-ebe36160e035 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели muhamad-geosurge/invert-polarity-f1cfb5c0-5664-44c6-be26-627fd172b090 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Mistral-Nemo-Instruct-2407 — языковая модель с инструктивным дообучением, созданная Mistral AI совместно с NVIDIA на базе Mistral-Nemo-Base-2407. Это плотный трансформер Mistral с 12,1 млрд параметров, группированным запросом внимания и контекстом до 131 072 токенов. Модель предназначена для диалога, следования инструкциям, генерации текста и вызова инструментов; обучалась на многоязычных данных и данных для программирования. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Заявлена как замена Mistral 7B с увеличенным контекстом. Распространяется по лицензии Apache 2.0. В карточке отмечено, что у модели нет встроенных механизмов модерации, поэтому её ответы могут не соблюдать заданные ограничения.

RedHatAI/Mistral-Small-3.1-24B-Instruct-2503-FP8-dynamic — мультимодальная instruction-модель, разработанная Red Hat совместно с Neural Magic на базе Mistral-Small-3.1-24B-Instruct-2503 от Mistral AI. Архитектура Mistral3ForConditionalGeneration принимает текст и изображения, а генерирует текст. Заявлены поддержка 27 языков, включая русский, английский, французский, немецкий, испанский, китайский и японский, а также задачи text-to-text и image-text-to-text. Модель предназначена для быстрых диалоговых агентов, вызова функций с низкой задержкой, программирования, математического рассуждения, анализа длинных документов и визуального понимания. Она также подходит для дообучения под предметные области и локального развертывания, в том числе в сценариях с чувствительными данными. Размер модели составляет 24 млрд параметров; README не указывает точное максимальное окно контекста. Модель оптимизирована с помощью FP8-квантизации весов и активаций: это примерно вдвое снижает требования к памяти GPU и размер диска, а также может примерно вдвое повысить пропускную способность матричных вычислений по сравнению с FP16. Для весов используется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная потокенная квантизация; квантизуются линейные операторы внутри трансформерных блоков. Ограничения включают необходимость соблюдать законодательство и официально поддерживаемые языки. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-14B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-14B, опубликованная Unsloth на базе Qwen/Qwen2.5-14B-Instruct. Модель предназначена для диалоговых сценариев, следования инструкциям, генерации текста, работы со структурированными данными и JSON, а также задач программирования и математики. Архитектура — causal language model на базе Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и группированным запросом внимания (GQA). Модель содержит 14,7 млрд параметров, из которых 13,1 млрд не относятся к embedding, и имеет 48 слоёв, 40 голов внимания для Q и 8 для KV. Поддерживаются контексты длиной до 131 072 токенов и генерация до 8192 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество варианта — 4-битное представление, снижающее требования к памяти; точные показатели качества и совместимость с конкретными аппаратными конфигурациями в README не указаны. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется использовать актуальную версию библиотеки Transformers; README не содержит подробностей о точном формате квантования, ограничениях производительности или дополнительных условиях использования.

unsloth/Qwen2.5-14B-Instruct-unsloth-bnb-4bit — это 4-битная квантованная версия инструкционно дообученной языковой модели Qwen2.5-14B-Instruct. Базовую модель разработала команда Qwen, а квантованный вариант подготовлен Unsloth. Модель предназначена для диалогов, выполнения инструкций, генерации текста, работы со структурированными данными и JSON, а также для задач программирования и математики. Модель относится к классу causal language models и содержит около 14 миллиардов параметров. Для семейства Qwen2.5 заявлена поддержка контекста до 128 тысяч токенов и генерации до 8 тысяч токенов. Поддерживаются китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский, арабский и другие языки — всего более 29 языков. Мультимодальные возможности для этой модели не заявлены. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному формату, при этом Unsloth заявляет улучшение точности по сравнению со стандартным 4-битным квантованием за счёт выборочной квантовки. Ограничения включают потенциальные потери точности, характерные для квантованных моделей, а также обычные для больших языковых моделей риски фактических ошибок и нестабильности результатов; конкретные показатели качества в README не приведены. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-32B-Instruct-bnb-4bit — 4-битная версия instruction-tuned языковой модели Qwen2.5-32B-Instruct, разработанной командой Qwen. Модель предназначена для диалоговых сценариев, следования инструкциям, генерации текста, работы со структурированными данными и JSON, а также задач программирования и математики. Репозиторий подготовлен с использованием Unsloth и предназначен для загрузки через библиотеку Transformers. Модель является causal language model с архитектурой на базе transformers, использующей RoPE, SwiGLU, RMSNorm и смещения в QKV-матрицах внимания. Она содержит около 32,5 млрд параметров, 31 млрд параметров без учёта эмбеддингов, 64 слоя и групповое обобщённое внимание (GQA) с 40 головами Q и 8 головами KV. Поддерживаются контексты до 131 072 токенов и генерация до 8192 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся улучшенные возможности в программировании и математике, следование разнообразным системным инструкциям, обработка длинного контекста и генерация структурированных ответов. 4-битное представление снижает требования к памяти по сравнению с полноразмерной моделью, но может ограничивать точность относительно моделей с более высокой разрядностью; конкретные характеристики качества и требования к оборудованию в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели ArchiveStudio/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.