II.4Отладка, тестирование и качество ПО

Qwen3-30B-A3B-Thinking-2507-FP8 — языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-версия причинной языковой модели с обучением на этапах pretraining и post-training, предназначенная для генерации текста и решения сложных задач, требующих рассуждений. Модель ориентирована на логическое и математическое рассуждение, научные и академические задачи, программирование, следование инструкциям, использование инструментов и работу с длинным контекстом. Она поддерживает только thinking mode, поэтому рассчитана прежде всего на сложные запросы с увеличенной длиной рассуждений. README не указывает точный список поддерживаемых языков и не заявляет о мультимодальных возможностях, поэтому модель следует считать текстовой. Архитектура — Mixture-of-Experts с 30,5 млрд параметров всего и 3,3 млрд активируемых параметров; модель содержит 48 слоёв, 128 экспертов, из которых активируются 8, и использует Grouped-Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена. К сильным сторонам относятся улучшенные результаты в рассуждениях, математике, кодировании, агентных сценариях и обработке длинного контекста. Ограничения включают режим работы только с рассуждениями, высокие требования к вычислительным ресурсам и необходимость актуальной версии Transformers; конкретные аппаратные требования в README не приведены. Модель распространяется по лицензии Apache 2.0.

Qwen3-Next-80B-A3B-Thinking-GGUF — GGUF-квантизированное представление причинной языковой модели Qwen3-Next-80B-A3B-Thinking, разработанной командой Qwen. Модель предназначена для генерации текста и решения сложных задач, требующих многошагового рассуждения, включая математические задачи, программирование, анализ знаний, следование инструкциям и агентские сценарии. Она работает только в режиме thinking, а шаблон чата автоматически добавляет тег <think>. Модель использует гибридную архитектуру с Gated DeltaNet и Gated Attention, а также разреженную Mixture-of-Experts. Общее число параметров составляет 80 млрд, из которых на каждом токене активируется около 3 млрд; 512 экспертов, 10 активируемых экспертов и один общий эксперт. Архитектура включает 48 слоёв и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Обучение включало предварительное обучение на 15 трлн токенов и последующее дообучение. В README языки и мультимодальные возможности не указаны; по описанию это текстовая модель. Сильными сторонами являются высокая эффективность инференса за счёт разреженной MoE-архитектуры, работа с очень длинным контекстом и хорошие результаты на задачах рассуждения, программирования, мультиязычности и вызова инструментов. Модель может генерировать особенно длинные рассуждения, поэтому лучше подходит для сложных задач, чем для сценариев, требующих кратких ответов и минимальной задержки. Условия использования определяются лицензией Apache-2.0.

Blossom-V7-27B — мультимодальная модель общего назначения с открытыми весами, разработанная командой Blossom. Это плотная модель семейства Qwen3.5, дообученная для работы в роли ассистента и предназначенная для локального запуска. Она принимает текст и изображения, поддерживает диалог, адаптивное рассуждение и вызов инструментов; подходит для повседневных вопросов, математики, программирования, веб-разработки и визуализации данных. Контекст достигает 262 144 токенов, при этом в README рекомендовано 131 072 токена для наилучших результатов. Для ускорения генерации поддерживается спекулятивное декодирование MTP в vLLM и llama.cpp. Модель рассчитана на развёртывание на GPU, где помещаются её веса. README указывает, что для многоходового диалога следует сохранять полное сообщение ассистента, включая поля рассуждения и вызовы инструментов. Также требуется использовать встроенный шаблон чата Blossom; подмена его шаблоном Qwen3.5 может нарушить работу. Репозиторий распространяется по лицензии Apache-2.0.

google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.

GigaChat3-10B-A1.8B-GGUF — квантованный формат модели семейства GigaChat, разработанный командой ai-sage. Это диалоговая текстовая модель для генерации ответов, работы с вопросами и ответами, программированием, математическими и академическими задачами. Модель поддерживает русский и английский языки; в обучающих данных также использовались ещё 10 языков, включая китайский, арабский, узбекский и казахский. Модель основана на архитектуре Mixture-of-Experts с 10 млрд общих и 1,8 млрд активных параметров. Она использует Multi-head Latent Attention для снижения требований к памяти за счёт сжатия KV-кэша и Multi-Token Prediction, ускоряющую генерацию при спекулятивной или параллельной генерации. Заявлен размер контекста до 32 768 токенов. Обучение проводилось на 20 трлн токенов, включая синтетические данные, код, математику, книги и академические источники. К сильным сторонам относятся высокая скорость инференса, сравнительно небольшое число активных параметров и результаты на русскоязычных и англоязычных тестах, включая MMLU, RUBQ, MATH и задачи программирования. Ограничения включают зависимость производительности от режима инференса и аппаратной конфигурации, а также возможное снижение качества при некорректной настройке llama.cpp для обработки tool calling. Модель распространяется по лицензии MIT и предназначена для запуска в формате GGUF, в частности через llama.cpp.

Hunyuan-A13B-Instruct — чат-модель Tencent для генерации текста и ответов на инструкции. Она построена на архитектуре Mixture-of-Experts (MoE) с Grouped Query Attention; README указывает 80 млрд параметров всего и 13 млрд активных при выводе. В метаданных репозитория при этом указано 3,1 млрд параметров, поэтому размер модели в карточке и метаданных расходится. Модель предназначена для диалога, сложных рассуждений, математики, научных вопросов, программирования и агентных сценариев с вызовом инструментов. Поддерживает режимы быстрого и пошагового рассуждения, а README заявляет контекст до 256K токенов. Метаданные указывают контекст 32 768 токенов; доступные сведения не позволяют разрешить это расхождение. Для запуска описана поддержка Transformers, TensorRT-LLM, vLLM и SGLang. В README приведены конкурентные результаты на бенчмарках математики, науки, кода, рассуждений и агентных задач, но они не гарантируют аналогичного качества в прикладных сценариях. Языковая поддержка отдельно не перечислена. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в файле LICENSE репозитория.

Карточка модели davidnichols-ops/NVIDIA-Nemotron-Nano-9B-v2-fork на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-Nano-9B-v2, поэтому описание составлено по ней. NVIDIA Nemotron Nano 9B v2 — языковая модель NVIDIA для диалога, следования инструкциям и задач с рассуждением. В карточке она описана как обученная с нуля; метаданные каталога указывают связь merge с NVIDIA-Nemotron-Nano-12B-v2 и NVIDIA-Nemotron-Nano-12B-v2-Base, поэтому происхождение модели отмечено как слияние. Архитектура Nemotron-Hybrid сочетает преимущественно слои Mamba-2 и MLP с четырьмя слоями Attention. Метаданные указывают 15,1 млрд параметров, контекст до 131 072 токенов и формат safetensors. Модель принимает и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Она рассчитана на ответы на вопросы, программирование, RAG-системы, чат-боты и агентные приложения. Режим рассуждения можно управлять системной инструкцией или бюджетом токенов; разрешение промежуточного рассуждения обычно повышает качество сложных ответов, но увеличивает расход токенов. В README перечислены английский, немецкий, испанский, французский, итальянский и японский; также для входа указаны корейский, португальский, русский и китайский. Лицензия в метаданных обозначена как other, а README заявляет готовность к коммерческому использованию.

PINQWEN-3.5-9B-1M-GGUF — компактная reasoning-модель, разработанная Blackfrost AI на базе архитектуры Qwen 3.5 9B. Модель предназначена для генерации текста, задач программирования, рассуждений и работы с большими объёмами контекста. Она распространяется в формате GGUF для локального запуска через llama.cpp и поддерживает режим пошагового рассуждения с блоками <think> и последующим ответом. Заявленное контекстное окно составляет до 1 000 000 токенов благодаря расширению YaRN, что подходит для анализа целых кодовых баз, книг и других объёмных документов. Доступны варианты квантования от 2 до 8 бит, а также f16; рекомендованным балансом размера и качества назван Q4_K_M. В комплект входят MTP-голова для speculative decoding и отдельный vision projector для обработки изображений в совместимых средах, однако конкретные поддерживаемые языки в README не указаны. К сильным сторонам относятся очень длинный контекст, локальное развертывание, открытое рассуждение, широкий выбор квантований и возможность мультимодального ввода при использовании совместимого runtime. Ограничения включают компромисс между размером, скоростью и качеством при квантовании, зависимость мультимодальных и MTP-возможностей от поддержки со стороны runtime, а также заявленную модель поведения без встроенных отказов, что требует ответственного применения. Лицензия — Apache-2.0; базовая архитектура указана как Qwen 3.5 9B.

Карточка модели inference-optimization/Qwen3-30B-A3B-Thinking-2507-REAP-25-nonuniform на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Thinking-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Thinking-2507 — причинная языковая модель семейства Qwen3 от команды Qwen. Это модель типа Mixture of Experts с 30,5 млрд параметров, из которых при генерации активируются около 3,3 млрд; в архитектуре 128 экспертов, одновременно используются 8. Она предназначена для диалогов и сложных задач рассуждения, включая математику, науку, программирование, следование инструкциям и работу с инструментами. Модель поддерживает только режим рассуждения и имеет нативное контекстное окно 262 144 токена. В README отмечены улучшения в глубине рассуждений, общих возможностях и обработке длинного контекста. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Модель распространяется под лицензией Apache-2.0. Длинные рассуждения могут приводить к большому объёму вывода, а для высоких нагрузок на контекст требуются значительные вычислительные ресурсы; README рекомендует актуальную версию Transformers и описывает запуск через vLLM или SGLang.

Карточка модели inference-optimization/Qwen3-30B-A3B-Thinking-2507-REAP-25-uniform на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Thinking-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Thinking-2507 — причинная языковая модель семейства Qwen3 от команды Qwen. Это модель типа Mixture of Experts с 30,5 млрд параметров, из которых при генерации активируются около 3,3 млрд; в архитектуре 128 экспертов, одновременно используются 8. Она предназначена для диалогов и сложных задач рассуждения, включая математику, науку, программирование, следование инструкциям и работу с инструментами. Модель поддерживает только режим рассуждения и имеет нативное контекстное окно 262 144 токена. В README отмечены улучшения в глубине рассуждений, общих возможностях и обработке длинного контекста. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Модель распространяется под лицензией Apache-2.0. Длинные рассуждения могут приводить к большому объёму вывода, а для высоких нагрузок на контекст требуются значительные вычислительные ресурсы; README рекомендует актуальную версию Transformers и описывает запуск через vLLM или SGLang.

dnotitia/Qwen3-4B-Instruct-2507 — вариант Qwen3-4B, опубликованный Dnotitia с изменённым шаблоном чата; веса совпадают с официальным выпуском Qwen3. Шаблон вынесен в отдельный файл и дополнен тегами для совместимости с обучением через TRL и режимом assistant_only_loss. Модель имеет плотную причинную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и нативный контекст до 262 144 токенов. Модель предназначена для диалогов и генерации текста по инструкциям: она помогает отвечать на вопросы, рассуждать, решать математические и научные задачи, писать код и вызывать инструменты. Это режим без пошагового thinking-вывода; в карточке также заявлены улучшенное понимание длинного контекста и многоязычные знания. Для запуска рекомендуется актуальная версия Transformers, а для агентных сценариев — Qwen-Agent. Модель распространяется по лицензии Apache-2.0. Карточка не приводит конкретный список поддерживаемых языков, поэтому нельзя определить основной язык; качество может зависеть от языка, запроса и длины входного текста. Для обычных запросов авторы рекомендуют ограничивать генерацию примерно 16 384 токенами, хотя нативное окно контекста значительно длиннее.

Qwen3.5-9B-Opus-OpenClaw-Distilled-GGUF — дообученная модель, разработанная ykarout на базе Qwen3.5-9B и производных CoPaw-Flash-9B. Она объединяет агентные возможности OpenClaw и CoPaw с дистиллированным стилем структурированного рассуждения, вдохновлённым Claude Opus. Обучение выполнялось с использованием Unsloth и TRL методом LoRA SFT на унифицированных наборах рассуждений, включая Opus-4.6 reasoning datasets. Модель предназначена для аналитических вопросов и ответов, помощи в программировании, планирования рабочих процессов, многошаговой декомпозиции задач, логически сложных диалогов и сценариев, связанных с инструментами, терминалом и агентными средами. Она ориентирована на стиль «сначала рассуждение, затем ответ» и сохраняет формат с блоком <think> перед итоговым ответом. Модель относится к семейству Qwen3.5, имеет размер около 9 миллиардов параметров и поставляется в формате GGUF для локального запуска. Для LM Studio и llama.cpp заявлена поддержка текста и изображений, а специальная vision-merged версия предназначена для использования с Ollama. Заявленные языки включают английский, арабский, испанский, латынь, турецкий, немецкий, чешский и китайский. К сильным сторонам относятся агентное поведение, планирование, инструментальная направленность, структурированное рассуждение и совместимость с локальными средами развёртывания. Ограничения заключаются в том, что точные характеристики контекстного окна и полный состав мультимодальных возможностей в README не указаны; кроме того, описанная процедура обучения была text-only, поэтому качество работы с изображениями может зависеть от конкретного GGUF-файла и среды запуска. Модель распространяется по лицензии Apache-2.0.

Theta-35 — плотная языковая модель семейства Theta от SVECTOR, предназначенная для диалогов и задач, требующих сложных рассуждений. Она обучалась в несколько этапов: предварительное обучение, supervised fine-tuning и обучение с подкреплением. Архитектура включает Transformers, RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV; в карточке указано 33 млрд параметров, а в метаданных — 32 млрд. Модель поддерживает генерацию текста и интерфейс вызова инструментов. Theta-35 рассчитана на математические и научные рассуждения, логические выводы, многошаговое решение задач, а также понимание и генерацию кода. В метаданных указаны английский язык и контекст до 131 072 токенов; README приводит контекст 32 768 токенов, поэтому фактическую длину контекста следует сверить с документацией и конфигурацией используемой версии. Для работы нужна актуальная версия Transformers, README рекомендует версию 4.43.1 или новее. Модель распространяется по лицензии Apache-2.0.

jondurbin/bagel-dpo-34b-v0.5 — диалоговая языковая модель, созданная дообучением Yi-34B-200K с помощью supervised fine-tuning и Direct Preference Optimization (DPO). Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров и контекстным окном до 200 000 токенов. Модель предназначена для чата и широкого круга текстовых инструкций. Модель обучалась на данных для вопросов и ответов, рассуждений, программирования, математики, естественных наук, суммаризации, ролевого диалога и вызова функций. В карточке заявлены наборы данных для английских и многоязычных задач, однако основной язык модели отдельно не обозначен. Поддерживаются несколько форматов запросов: Vicuna, Llama 2, Alpaca и модифицированный ChatML; шаблон по умолчанию — Llama 2. DPO-настройка направлена на улучшение предпочтительности ответов, а дополнительные данные охватывают творческое письмо, следование контексту, код и правдивость. Среди обучающих данных также есть примеры токсичного контента и offensive cybersecurity. Это может отражаться на генерируемых ответах; модель может ошибаться и не гарантирует достоверность или безопасность. Лицензия указана как other, поэтому условия использования следует уточнить на странице модели.

BTL-4 Compact — текстовая GGUF-версия модели BTL-4 от Bad Theory Labs, распространяемая для запуска в llama.cpp, Ollama и LM Studio. Это квантованная модель класса Mixture of Experts, предназначенная для генерации текста, программирования, работы с технической документацией, агентных сценариев и использования инструментов. Модель поставляется одним файлом размером 9,96 ГБ и не требует загрузки или восстановления базовой модели. Модель содержит 35,1 млрд параметров, из которых около 2,1 млрд активны для каждого токена. Архитектура включает 40 слоёв: 30 слоёв с линейным вниманием и 10 слоёв с полным вниманием; в каждом слое 256 экспертов, из которых для токена выбираются 8. Нативный контекст составляет 262 144 токена. Сборка является текстовой: vision tower исключён. Слой multi-token prediction отключён, но это не мешает обычной работе модели. Главное преимущество BTL-4 Compact — сочетание большого общего числа параметров с относительно низкими вычислительными затратами и возможностью запуска на пользовательском оборудовании. Квантование выполнено с эффективностью 2,30 бита на вес; заявленное сохранение измеренного поведения полной модели составляет 94,1% на тесте из 118 заданий. Ограничения включают потерю качества из-за сильного квантования, отсутствие обработки изображений и чувствительность агентных сценариев к настройкам шаблона чата и формата рассуждений. Для корректной работы требуется версия llama.cpp с поддержкой qwen3_5_moe и определённые параметры запуска. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Cogito v1 preview 14B — инструктивно дообученная генеративная языковая модель компании DeepCogito на архитектуре Qwen2.5-14B. Она принимает текст и генерирует текст, поддерживает прямые ответы и режим с дополнительным рассуждением, который можно включить через системную инструкцию или шаблон чата. Модель рассчитана на программирование, STEM-задачи, следование инструкциям, диалог и вызов инструментов. Модель содержит 14 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. По README, её обучали более чем на 30 языках и оптимизировали для многоязычных задач, кода и вызова инструментов. В карточке заявлено обучение методом Iterated Distillation and Amplification и преимущество над сопоставимыми по размеру моделями на типовых бенчмарках; подробности оценок приведены в публикации разработчика. Модель доступна по лицензии Apache 2.0, разрешающей коммерческое использование. Как и другие генеративные модели, она может ошибаться; README не приводит конкретных ограничений или результатов бенчмарков для этого чекпойнта.

DeepSeek-V2.5-GGUF — квантованная в формате GGUF версия модели DeepSeek-V2.5, разработанной командой DeepSeek-AI. Квантование подготовлено bartowski на основе llama.cpp b3658 и предназначено для локального запуска, в том числе через LM Studio. Модель объединяет возможности инструкционной и кодовой версий DeepSeek и ориентирована на диалоговые сценарии, генерацию текста, программирование и широкий круг универсальных задач. Заявлена поддержка контекстного окна до 163 840 токенов. Используется архитектура MoE: по описанию, модель сочетает вычислительные возможности уровня 200B параметров со скоростью модели уровня 21B, однако точные размеры и характеристики квантования в README не указаны. К сильным сторонам относятся большой контекст, развитые чатовые и кодовые возможности, а также удобство локального использования в формате GGUF. Ограничения включают возможные неточности, вредный или неподходящий контент, а также зависимость качества и производительности от конкретной квантовки и оборудования. Языки и поддержка мультимодальных входов не указаны. Модель распространяется по лицензии DeepSeek; подробные условия приведены по ссылке, указанной в README.

Dolphin 2.9.1 Llama 3 8B — разговорная языковая модель, подготовленная Eric Hartford, Lucas Atkins, Fernando Fernandes и Cognitive Computations на основе Meta Llama 3 8B. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, обученная полным дообучением всех весов и использующая шаблон диалога ChatML. Контекст модели составляет 8192 токена; в README указано, что полное дообучение проводилось с длиной последовательности 4K. Модель предназначена для следования инструкциям, диалогов, генерации кода и математических ответов; также поддерживает начальные агентные сценарии и вызов функций. В обучении использовались наборы данных для диалогов, кода, математики и вызова функций. Модель рассчитана на текстовый ввод и выдаёт текст. Авторы описывают Dolphin как модель без встроенных ограничений на содержание: она может охотно отвечать на небезопасные и неэтичные запросы, поэтому перед предоставлением пользователям авторы рекомендуют добавить собственный слой выравнивания. Лицензия — Meta Llama 3 Community License; коммерческое использование допускается в рамках её условий.

G9v3-39A5B — причинная языковая модель AI9Stars для диалогового помощника, генерации кода, использования инструментов и задач на рассуждение. Модель построена по архитектуре Mixture-of-Experts: в карточке указаны 39 млрд параметров суммарно и около 5 млрд активируемых на токен. Метаданные каталога при этом описывают архитектуру как плотную, поэтому сведения о разреженной MoE-структуре расходятся. Модель поддерживает режимы Think и No Think и контекст до 131 072 токенов. Предназначена для локального и самостоятельного развёртывания; для работы указана библиотека Transformers. Заявленная поддержка языков — английский и китайский. Модель распространяется по лицензии Apache-2.0. Как предварительный выпуск, модель может менять поведение между версиями. Ответы могут быть неточными, предвзятыми или небезопасными; их следует проверять, особенно перед применением в значимых решениях.

coder3101/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic — производная мультимодальная модель Gemma 4, созданная coder3101 на основе google/gemma-4-26B-A4B-it-qat-q4_0-unquantized. Это диалоговая модель с архитектурой Gemma4ForConditionalGeneration и поддержкой анализа изображений; она принимает текст и изображения и выдаёт текст. Базовое семейство Gemma 4 разработано Google DeepMind. Модель предназначена для диалогов, рассуждений, программирования и понимания изображений. Возможные сценарии включают ответы на вопросы по изображениям, извлечение данных из документов, распознавание текста и объектов на изображениях, анализ диаграмм и интерфейсов, генерацию и исправление кода, составление резюме и работу с инструментами. В карточке базового семейства заявлена поддержка более 35 языков и контекст до 256 тысяч токенов для варианта 26B A4B; аудиовозможности указаны только для других размеров Gemma 4, а README описывает видео для семейства в целом, поэтому эти возможности не приписываются данной модели. Модель помечена как uncensored/decensored/abliterated, что указывает на изменение поведения относительно базовой модели, но подробности обучения и конкретные эффекты не раскрыты. Возможны фактические ошибки, смещения и трудности с нюансами языка; ответы следует проверять, особенно в сложных или критичных задачах. Лицензия — Apache-2.0.

Карточка модели OsGo/gemma-4-E2B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-E2B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.

gemma4-E2B-it-qat-Q4-unsloth-heretic — модифицированная instruction-tuned модель семейства Gemma 4 E2B. Базовую модель разработала Google DeepMind, веса подготовлены в формате Unsloth, а данная сборка опубликована MobiusDevelopment и обработана инструментом Heretic. Из модели удалено встроенное поведение отказа отвечать на отдельные запросы («abliteration» или decensoring), при этом заявлено сохранение общих возможностей базовой модели. Модель предназначена для генерации текста, диалоговых и агентских сценариев, программирования, дополнения и исправления кода, function calling и задач, требующих обработки длинного контекста. Gemma 4 E2B поддерживает текстовые и графические входы, а также аудио; выводом является текст. Заявлены понимание изображений, OCR, анализ документов и PDF, интерфейсов и графиков, распознавание речи и перевод речи в текст, встроенный режим пошагового рассуждения и мультиязычная работа более чем со 140 языками. Архитектура использует гибридное внимание с чередованием локального sliding-window и глобального внимания, Per-Layer Embeddings и Proportional RoPE. Вариант E2B имеет 2,3 млрд эффективных параметров и 5,1 млрд параметров с учётом эмбеддингов, 35 слоёв, окно локального внимания 512 токенов, контекст до 128K токенов и словарь размером 262 тысяч токенов. Доступны bf16 safetensors для полной мультимодальной версии, текстовый GGUF Q4_K_M и отдельные vision/audio mmproj GGUF. Главная особенность и одновременно ограничение сборки — отсутствие встроенных отказов, поэтому её ответы требуют дополнительного контроля безопасности; качество после модификации может отличаться от базовой модели. Использование регулируется лицензией Gemma и условиями Google Gemma Terms of Use; в метаданных также указана лицензия Apache-2.0.

GLM-4.7-Flash — языковая модель семейства GLM от Z.ai, представленная как модель Mixture of Experts с конфигурацией 30B-A3B: около 30 млрд параметров всего и примерно 3 млрд активных на токен. Метаданные Hugging Face указывают 4,1 млрд параметров, поэтому сведения о размере в источниках расходятся. Модель распространяется в формате Safetensors и работает через Transformers; для локального запуска также заявлена поддержка vLLM и SGLang. Модель предназначена для генерации текста и диалогов, включая рассуждения, программирование и агентные сценарии. В карточке приведены результаты бенчмарков по математике, вопросам на научные знания и программированию; заявлено окно контекста 202 752 токена. Карточка указывает английский и китайский языки. Модель выпущена Z.ai под лицензией MIT. Производитель позиционирует её как вариант для относительно лёгкого локального развёртывания с балансом производительности и эффективности. Для vLLM и SGLang требуются версии из основных веток проектов.

Карточка модели RedHatAI/granite-4.2-3b на Hugging Face совпадает с карточкой ibm-granite/granite-4.2-3b, поэтому описание составлено по ней. Granite-4.2-3B — компактная языковая модель IBM Granite Team на базе плотного декодирующего трансформера GraniteForCausalLM с 3,4 млрд параметров. Она дообучена на Granite-4.1-3B-Base и рассчитана на диалог, рассуждения и следование инструкциям; доступны режимы полного, облегчённого и отключённого рассуждения. Модель предназначена для решения математических и логических задач, программирования, многошагового анализа и вызова инструментов в агентных сценариях. Она поддерживает контекст до 131 072 токенов по метаданным; в README заявлено окно 512 тысяч токенов. Поддерживаемые языки включают английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский; качество может быть ниже английского. Модель использует архитектуру decoder-only dense Transformer, формат весов safetensors и библиотеку Transformers. Она выпущена по лицензии Apache 2.0, допускающей коммерческое и академическое использование. Ответы могут быть неточными, предвзятыми или небезопасными; промежуточные рассуждения не всегда отражают итоговый ответ.

Meta Llama 3 70B Instruct — разработанная Meta инструкционная языковая модель для диалоговых сценариев. Это плотная авторегрессионная трансформерная модель семейства Llama с 69,5 млрд параметров и механизмом Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей. Модель принимает текст и генерирует текст, включая код; поддерживает контекст до 8192 токенов. Модель предназначена прежде всего для общения с ассистентом на английском языке и может использоваться в коммерческих и исследовательских приложениях: для ответов на вопросы, написания и объяснения кода, а также генерации текста. Карточка отмечает высокие результаты семейства на распространённых отраслевых тестах, но не приводит их численные значения. Модель статична, обучена на офлайн-данных и может выдавать неточные или небезопасные ответы; для конкретного приложения следует настраивать дополнительные меры безопасности. Использование регулируется пользовательской коммерческой лицензией Meta Llama 3 и политикой допустимого использования.

Meta-Llama-3-70B-Instruct-iMat-GGUF — квантизированная GGUF-версия 70-миллиардной инструкционно настроенной языковой модели Meta Llama 3, разработанной Meta. Модель предназначена для диалоговых ассистентов, генерации текста и кода, а также коммерческих и исследовательских сценариев на английском языке. Инструкционная настройка выполнена с применением supervised fine-tuning и reinforcement learning with human feedback для повышения полезности и безопасности. Модель принимает только текст и генерирует текст или код. Она построена на авторегрессионной оптимизированной архитектуре Transformer с Grouped-Query Attention, имеет контекст длиной 8k токенов и обучалась на более чем 15 триллионах токенов общедоступных онлайн-данных; дата отсечения знаний — декабрь 2023 года. Данная сборка квантизирована с использованием importance matrix, включает варианты K и IQ, а также исправленный токен завершения для инструкционного режима. Для корректной работы требуется совместимый рантайм, например llama.cpp, актуальный chat template llama3 и правильная загрузка всех частей файлов, если модель разделена. Сильные стороны модели — большой размер, диалоговая специализация, поддержка генерации кода и улучшенная точность квантизации за счёт importance matrix. Ограничения включают английскую ориентацию, текстовую модальность, контекст 8k токенов, статичность обучающего набора и зависимость результатов от выбранного кванта и совместимости токенизатора. Указана кастомная коммерческая лицензия Llama 3; её условия определяются Llama 3 Community License и Acceptable Use Policy.

Motif 3 — мультиязычная авторегрессионная языковая модель Motif Technologies с архитектурой Mixture-of-Experts (MoE), представленная как диалоговая версия базовой Motif-3-Base. По метаданным, модель содержит 11 млрд параметров; README описывает конфигурацию на 314 млрд параметров всего, из которых 13,2 млрд активируются на токен, поэтому сведения о размере в источниках расходятся. Модель принимает текст и генерирует текст, поддерживает контекст до 262 144 токенов и рассчитана на английский и корейский языки, а также на код и математические задачи. Модель предназначена для диалога, генерации и продолжения текста, программирования, рассуждений и агентных сценариев с использованием инструментов, включая решение задач через терминал. В архитектуре заявлены Grouped Differential Latent Attention, 384 маршрутизируемых эксперта, Multi-Token Prediction для ускорения генерации и другие собственные компоненты. README сообщает о сильных результатах на агентных и инструментальных тестах, но не предоставляет полную таблицу оценок в доступном тексте. Веса доступны для скачивания; лицензия по метаданным — MIT.

Nemotron-H-47B-Reasoning-128K — большая языковая модель NVIDIA для диалогов, рассуждений и обычных задач генерации текста. Она сочетает слои Mamba-2 и MLP с пятью слоями Attention, содержит 47 млрд параметров и поддерживает контекст до 128 тыс. токенов. В зависимости от системной инструкции модель может сначала сформировать рассуждение, а затем ответ, либо выдать ответ без видимого рассуждения. Модель принимает и генерирует текст. Заявлена поддержка английского, немецкого, испанского, французского, итальянского, корейского, португальского, русского, японского и китайского языков. Подходит для диалогов, ответов на вопросы, задач по математике, науке, программированию и другим темам. Доступны контрольные точки BF16 для Transformers и TensorRT-LLM, а также FB8 для TensorRT-LLM; модель рассчитана на запуск с ускорением NVIDIA GPU. Модель может выдавать неточные, неполные, нерелевантные или избыточные ответы, а также воспроизводить токсичность и предвзятость из обучающих данных. В README также отмечена уязвимость к некоторым вариантам косвенной prompt injection. Лицензия указана как other; README ограничивает назначение исследованиями и разработкой.

Nexa-AI-4B-Instruct — мультиязычная инструкционная языковая модель, совместно разработанная Neura Tech AI и Lumina AI на основе Qwen/Qwen3-4B-Instruct-2507. Это плотный декодерный Transformer с 3,7 млрд параметров, предназначенный для диалогов и выполнения инструкций; модель распространяется в формате Safetensors через библиотеку Transformers. Модель подходит для генерации ответов, помощи с программированием, математических и логических задач, а также сценариев с вызовом инструментов и агентами. Она поддерживает английский, хинди и китайский; в карточке также заявлены другие языки. Контекстное окно составляет до 262 144 токенов. Разработчики сообщают о дообученной настройке на полезные ответы и приводят результаты сравнительных тестов, но в карточке нет достаточных подробностей об условиях оценки для независимой проверки этих заявлений. Лицензия — Apache-2.0.

YOYO-AI разработала YOYO-V3 — объединённую разговорную модель на архитектуре Qwen3 MoE, созданную слиянием instruct-, reasoning- и code-моделей Qwen3. Она предназначена для диалогов, выполнения инструкций, рассуждений и генерации кода; режимы с рассуждением и без него переключаются через шаблон чата. В репозитории указаны точность bfloat16 и контекст до 1 010 000 токенов. Модель поддерживает английский и китайский языки, а метаданные также отмечают интерфейс вызова инструментов. Лицензия — Apache-2.0. Слияние выполнено методами nuslerp и nearswap на основе Qwen3-30B-A3B-Instruct-2507, Qwen3-30B-A3B-Thinking-2507 и Qwen3-Coder-30B-A3B-Instruct. Автор предупреждает о возможном ухудшении качества после слияния: в обычном режиме модель может выдавать длинные цепочки рассуждений, а в режиме рассуждений — не формировать итоговое резюме.