II.4Отладка, тестирование и качество ПО

Карточка модели ISTA-DASLab/Meta-Llama-3-8B-Instruct на Hugging Face совпадает с карточкой kuotient/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

MaziyarPanahi/Meta-Llama-3-8B-Instruct-GGUF — это квантизированная версия инструкционно дообученной модели Meta-Llama-3-8B-Instruct, разработанной Meta и преобразованной в формат GGUF пользователем MaziyarPanahi. Модель предназначена для диалоговых ассистентов, генерации текста и кода, а также коммерческого и исследовательского использования на английском языке. Для работы необходимо применять шаблон запросов Llama 3. Модель представляет собой авторегрессионную языковую модель на оптимизированной архитектуре Transformer с 8 млрд параметров и механизмом Grouped-Query Attention (GQA). Она принимает только текст и генерирует текст или код, имеет контекст 8 тысяч токенов и обучалась на более чем 15 трлн токенов общедоступных онлайн-данных. Инструкционная версия использует supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Репозиторий содержит варианты квантизации от 2 до 16 бит, что позволяет выбирать компромисс между размером модели, скоростью и качеством вывода. Сильными сторонами являются поддержка диалоговых сценариев, генерации кода и возможность запуска через совместимые инструменты для GGUF, включая llama.cpp, с меньшими требованиями к ресурсам благодаря квантизации. Ограничения включают преимущественную ориентацию на английский язык, контекст длиной 8 тысяч токенов, статичность модели и возможные потери качества в квантизированных вариантах. Использование регулируется пользовательской лицензией Meta Llama 3 и соответствующей политикой допустимого использования.

MiMo-V2-Flash — большая языковая модель Xiaomi для генерации текста, диалогов, рассуждений и агентных сценариев, включая работу с инструментами. В README она описана как MoE-модель с гибридным вниманием, многотокенным предсказанием и 309 млрд параметров, из которых активно используются 15 млрд. Метаданные Hugging Face указывают архитектуру MiMoV2FlashForCausalLM, 12 млрд параметров и файлы Safetensors в формате FP8; это расходится с характеристиками размера в README. Модель принимает текст и рассчитана на контекст до 262 144 токенов. Модель предназначена для быстрых ответов, сложных рассуждений и агентных рабочих процессов; карточка также сообщает о результатах на SWE-Bench и других тестах. Для развёртывания README рекомендует SGLang и описывает вариант запуска с выгрузкой MoE-экспертов на CPU через KTransformers. Языки в предоставленных данных не перечислены. Лицензия — MIT. Реальное качество зависит от задачи и конфигурации развёртывания; заявленные в README результаты бенчмарков являются оценками разработчика.

unsloth/MiniMax-M3 — производная версия MiniMax-M3 от MiniMax, представленная в формате safetensors. Это мультимодальная модель архитектуры MoE со Sparse Attention: около 428 млрд параметров, из которых активируются около 23 млрд. Она принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Модель предназначена для диалогов с визуальным содержимым, анализа изображений и видео, программирования и агентных сценариев с вызовом инструментов. В README заявлены ускорение обработки длинного контекста и сильные результаты в длительных агентных задачах, однако конкретные бенчмарки для этой копии не приведены. Для запуска README рекомендует SGLang, vLLM или Transformers. В метаданных указана лицензия other; дополнительные условия следует сверять с лицензией базовой модели. Карточка описывает модель как дообучение MiniMaxAI/MiniMax-M3, но не сообщает о собственном обучающем наборе или отдельных изменениях относительно базы.

Карточка модели minjaechoi/nemotron3-nano-30b-a3b-2p03bit-r22 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16, поэтому описание составлено по ней. NVIDIA Nemotron-3-Nano-30B-A3B-BF16 — языковая модель общего назначения, обученная с нуля NVIDIA Corporation для диалогов, рассуждений и выполнения инструкций. Она предназначена для разработчиков чат-ботов, агентных систем, RAG-приложений и других решений на базе ИИ; также подходит для задач программирования и многоязычного общения. Модель использует гибридную архитектуру Mixture-of-Experts: 23 слоя Mamba-2 и MoE и 6 слоёв внимания. Всего в ней 30 млрд параметров, из которых активны 3,5 млрд на токен; веса представлены в BF16. Метаданные указывают 1,9 млрд параметров. Контекст в конфигурации Hugging Face составляет 262 144 токена; README сообщает о поддержке до 1 млн токенов при соответствующих настройках и повышенных требованиях к видеопамяти. Модель принимает текст и выдаёт текст, поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Режим рассуждений настраивается через шаблон чата; также заявлен интерфейс вызова инструментов. Модель заявлена как пригодная для коммерческого использования. В метаданных лицензия обозначена как other, поэтому перед внедрением следует проверить условия лицензии в карточке модели. Русский язык среди поддерживаемых не указан; возможности рассуждения могут снижаться при отключении промежуточного этапа рассуждений, а использование длинного контекста требует больше видеопамяти.

NVIDIA Nemotron-3-Super-120B-A12B-BF16 — большая языковая модель с открытыми весами, разработанная NVIDIA Corporation. Представленная версия распространяется в формате GGUF и сгенерирована с использованием llama.cpp; исходная модель выпущена 11 марта 2026 года. Модель предназначена для агентских сценариев, рассуждений с длинным контекстом, использования инструментов, RAG и высоконагруженных задач, включая автоматизацию IT-заявок. Архитектура LatentMoE объединяет Mamba-2, Mixture of Experts и механизмы внимания, а также Multi-Token Prediction. Всего модель содержит 120 млрд параметров, из которых 12 млрд активны при обработке запроса, и поддерживает контекст до 1 млн токенов. Доступны английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Режим рассуждений можно включать или отключать через шаблон чата. К сильным сторонам относятся сочетание большого контекста, разреженной MoE-архитектуры, поддержки инструментов и ориентация на агентские и корпоративные рабочие процессы. Ограничения включают значительный общий размер модели и высокие требования к инфраструктуре: для исходной версии указано минимум 8 GPU H100 с 80 ГБ памяти. GGUF-версия использует специальную настройку квантования с повышением точности отдельных слоёв, что может увеличить размер файла. Модель распространяется по лицензии NVIDIA Nemotron Open Model License.

mateussj выпустил объединённую модель Phi-3.5-mini-instruct-2x-v1 на основе microsoft/Phi-3.5-mini-instruct. Она использует архитектуру Phi-3 с плотной причинной языковой моделью на 3,7 млрд параметров и предназначена для диалогов и генерации текста по инструкциям. В README описано слияние методом TIES с помощью mergekit; базовая модель включена в конфигурацию с разными значениями плотности и весов. Модель принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов. Метаданные указывают формат safetensors и библиотеку Transformers. Условия лицензии и отдельные языки этой версии в предоставленных данных не раскрыты; базовая модель описана как многоязычная.

phi-4-GGUF — это квантизированная в формате GGUF версия языковой модели Phi-4, разработанной Microsoft. Квантизация выполнена bartowski на основе llama.cpp, релиз b4456. Модель предназначена для генерации текста, диалогового взаимодействия, решения математических задач, программирования и других задач обработки естественного языка. Модель поддерживает контекст до 16 000 токенов и обучалась на 9,8 триллиона токенов, включая синтетические данные, отфильтрованные общедоступные веб-страницы, академические книги и наборы вопросов и ответов. В метаданных указан английский язык. Формат GGUF и совместимость с llama.cpp делают модель пригодной для локального запуска в приложениях, поддерживающих этот формат, включая LM Studio. К сильным сторонам относятся широкий набор обучающих данных, поддержка длинного контекста и специализация на задачах диалога, математики и кода. Модель может генерировать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. В README не указаны конкретная архитектура, число параметров и характеристики отдельных вариантов квантизации. Модель распространяется по лицензии MIT.

Qwen3.6-35B-A3B-UD-MLX-3bit — это 3-битно квантованный вариант модели Qwen3.6-35B-A3B, подготовленный Unsloth в формате MLX на базе модели Qwen. Модель предназначена для генерации текста, программирования, агентных сценариев и задач, связанных с анализом изображений, поскольку включает языковую модель с vision encoder. В README отдельно отмечены улучшения для frontend-разработки, рассуждений на уровне репозитория, сохранения контекста рассуждений и вызова инструментов. Архитектура представляет собой causal language model с Mixture of Experts: всего 35 млрд параметров, из которых активируются 3 млрд. Модель содержит 40 слоёв, 256 экспертов с маршрутизацией к 8 экспертам и одним общим экспертом, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена, с заявленным расширением до 1 010 000 токенов. Поддержка языков в предоставленных данных не указана. К сильным сторонам относятся высокая вычислительная эффективность MoE-архитектуры, большой контекст, возможности работы с изображениями и специализация на кодинге и агентных рабочих процессах. Ограничения связаны с 3-битным квантованием и зависимостью от совместимого стека MLX; влияние квантования на качество в README не описано. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-9B — плотная языковая модель на 9 млрд параметров от Empero, полученная дистилляцией рассуждений модели-учителя Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B. Это полное дообучение всех параметров базовой модели на SFT-примерах: примерно 70 тысяч отобранных трасс учителя по математике, программированию, общим рассуждениям, следованию инструкциям и работе с инструментами. Модель использует архитектуру Qwen3.5 и формат весов Safetensors; нативный контекст составляет 262 144 токена. Она предназначена для генерации ответов с пошаговыми рассуждениями, решения математических задач, написания кода и вызова инструментов. В карточке приведены результаты тестирования на GSM8K и MMLU; на MMLU модель заметно превзошла базовую Qwen3.5-9B, тогда как на GSM8K показала немного более низкий результат. Интерфейс вызова функций поддерживается без дополнительной обёртки. Лицензия — Apache-2.0. Тонкая настройка проводилась только для текста; визуальные возможности унаследованы от мультимодальной базы, но в карточке не оценивались.

Ring-mini-2.0 — диалоговая языковая модель InclusionAI на архитектуре Mixture of Experts (MoE), основанная на Ling 2.0. Модель дообучена с применением SFT, обучения с проверкой результатов (RLVR) и RLHF; метаданные указывают 1,2 млрд параметров, тогда как README сообщает 16,8 млрд общих и 1,4 млрд активируемых параметров. В метаданных заявлена длина контекста 32 768 токенов, а README — поддержка до 128 тысяч токенов с YaRN. Модель предназначена для генерации текста и диалогов, включая сложные рассуждения, логические и математические задачи, а также генерацию кода. Разреженная MoE-архитектура рассчитана на эффективный инференс; README приводит показатели скорости на оборудовании H20, которые зависят от конфигурации развертывания. Подтверждённого списка поддерживаемых естественных языков в предоставленных данных нет. Модель распространяется по лицензии MIT. Заявленные в README результаты на бенчмарках и скорость инференса не являются гарантией качества или производительности в конкретной среде.

Tess-4-35B-A3B — мультимодальная модель семейства Tess-4, разработанная Migel Tissera и представленная в этом репозитории как неизменённая копия весов оригинальной модели. Это постобученная смесь экспертов на базе Qwen/Qwen3.6-35B-A3B: модель имеет около 35 млрд параметров общей ёмкости и активирует примерно 3 млрд параметров на токен. Используется гибридное внимание с gated-delta-net и полным GQA в каждом четвёртом слое. Модель предназначена для диалогов, многошагового использования инструментов, агентного программирования, анализа изображений и работы с длинными техническими документами. Карточка описывает обучение на 64K-токенных агентных трассах; базовая архитектура поддерживает контекст до 262K позиций. Веса сохраняют визуальный тракт Qwen и обработку изображений и видео. Указан английский язык. Для запуска BF16-весов требуется современная версия Transformers с поддержкой мультимодальной архитектуры Qwen3.6 MoE; полный набор весов занимает около 72 ГБ. Указанная лицензия — Apache-2.0. Заявления о качестве и скорости в README частично основаны на данных автора и сообщества; GGUF-оптимизации и ускорение с MTP относятся к отдельному репозиторию и специализированной сборке llama.cpp.

Salience-1.5-Pro — мультимодальная модель класса vision-language, разработанная vectionlabs и представленная в GGUF-квантизациях автором bartowski. Она предназначена для работы с текстом и изображениями, задач рассуждения, программирования, software engineering, агентских сценариев и использования инструментов. В карточке также заявлены архитектура mixture-of-experts (MoE), поддержка длинного контекста и язык English; точный размер исходной модели и максимальная длина контекста не указаны. Модель содержит MTP-слои (Multi-Token Prediction), которые могут использоваться в llama.cpp для self-speculative decoding и ускорения генерации с параметром --spec-type draft-mtp. Доступны варианты от BF16 размером 71,07 ГБ до более компактных квантизаций Q8_0, Q6, Q5, Q4 и Q3; рекомендуемые варианты различаются балансом между качеством и требованиями к памяти. Ограничения включают зависимость от совместимого программного обеспечения и возможную необходимость обновления llama.cpp или других приложений при поддержке новой архитектуры. Распространение указано по лицензии Apache-2.0. Квантизации рассчитаны на запуск через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI.

Whittle-Qwen-3.8-35B-A3B-GGUF — это квантизированная версия модели logic65/Whittle-Qwen-3.8-35B-A3B, разработанная David Aylward (logic65) при участии Claude от Anthropic. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp без патчей. Она ориентирована на генерацию текста, диалоги, рассуждения, программирование и математические задачи, а также на исследовательские сценарии локального запуска. Модель построена в формате qwen4_exp как смесь экспертов (Mixture of Experts): содержит около 35,1 млрд параметров, из которых активно используется примерно 3 млрд. Важная особенность — 10-миллиардная n-граммная память, являющаяся несущей частью модели; её отключение существенно ухудшает результаты на незнакомом коде. Модель дистиллирована из Qwen3.8-27B и использует память из Qwen3.8-Flash-Next. Заявлена поддержка английского, китайского и многоязычного текста. Доступны варианты квантизации от Q3_K_M до Q8_0 размером примерно от 16,7 до 37,8 ГБ. Сильные стороны модели — низкое число активных параметров при большом общем размере, поддержка режима рассуждений и эффективный локальный запуск со скоростью, близкой к моделям с 3 млрд активных параметров. Для работы требуется сохранять компонент памяти целиком; рекомендуется размещать его в оперативной памяти, поэтому требования к системе существенно зависят от выбранной квантизации. README не указывает максимальный контекст. Для лучших результатов рекомендуется включать thinking и использовать сэмплирование; жадная генерация может зацикливаться. Модель распространяется по лицензии Apache-2.0.

AriannaV4 — мультимодальная модель-ассистент, созданная SurgeFF на базе google/gemma-4-12B с объединёнными весами Aria v4. Это самостоятельная модель для локального запуска; доступны веса в формате safetensors и варианты GGUF разной точности для llama.cpp, Ollama и LM Studio. Архитектура относится к Gemma 4 Unified, размер базовой модели — 12 млрд параметров. Модель предназначена для диалогов, рассуждений, работы с текстом и кодом, математических задач, выбора инструментов, а также понимания изображений, аудио и видео. Для голосового ввода и вывода в реальном времени, генерации изображений и видео и получения эмбеддингов README описывает отдельные подключаемые компоненты: эти возможности не встроены в веса AriannaV4. Репозиторий предназначен для локального развертывания и позиционируется автором как production-ассистент. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространяет производные работы на тех же условиях и запрещает коммерческое использование.

Cogito-v1 Preview — серия открытых гибридных reasoning-моделей, разработанная DeepCogito. Модели обучены с использованием метода Iterated Distillation and Amplification (IDA) и ориентированы на повышение качества открытых моделей за счёт масштабируемого выравнивания и самоулучшения. Серия предназначена для генерации текста, программирования, задач STEM, многоязычных сценариев и агентских приложений. Каждая модель поддерживает стандартный режим с прямым ответом и reasoning-режим с саморефлексией. Доступны варианты на базах LLaMA и Qwen размером 3B, 8B, 14B, 32B и 70B параметров: LLaMA-3B, LLaMA-8B, Qwen-14B, Qwen-32B и LLaMA-70B. Для каждой ветки предоставляется квантованная версия q4-km. Конкретные сведения о поддерживаемых языках, максимальном контексте и точных архитектурных характеристиках не указаны. К сильным сторонам относятся гибридный режим работы, ориентация на reasoning, кодирование, STEM и агентские задачи, а также наличие нескольких размеров для выбора компромисса между качеством и ресурсами. По заявлению разработчика, модели превосходят сопоставимые по размеру открытые модели LLaMA, DeepSeek и Qwen, а 70B-вариант превосходит LLaMA 4 109B MoE на бенчмарках; независимые результаты в README не приведены. Модели распространяются по лицензии Apache License 2.0.

Это канал-квантизованная версия DeepSeek-R1, подготовленная Meituan: веса BF16 преобразованы в INT8 с поканальными масштабами. Модель предназначена для генерации текста в диалоге и решения задач, требующих рассуждений, включая математику, программирование и ответы на сложные вопросы. В метаданных архитектура указана как DeepSeek V3 с плотной causal language model; размер — 37,6 млрд параметров, нативный контекст — 163 840 токенов. Репозиторий содержит веса Safetensors и интерфейс вызова инструментов. В README сообщается о сохранении точности на GSM8K и MMLU и ускорении до 50% в указанном бенчмарке на нескольких A100; эти результаты относятся к описанной конфигурации и не гарантируют такого ускорения на другом оборудовании. Для запуска может потребоваться поддержка поканальной INT8-квантизации в используемом inference-движке. Лицензия модели — MIT.

Это конверсия в формат MLX модели Jackrong/DeepSeek-V4-Pro-Qwen3.5-9B, опубликованная сообществом mlx-community. Модель построена на архитектуре Qwen3.5 и предназначена для диалогов, работы с текстом и кодом, а также обработки изображений и видеовходов; доступны интерфейсы вызова инструментов. Веса представлены в BF16, сохранены шаблон чата и настройки мультимодального процессора. Репозиторий ориентирован на запуск на Apple Silicon через mlx-vlm; для мультимодального использования рекомендуется эта библиотека. Модель поддерживает английский, китайский, испанский, русский и японский языки. Лицензия — Apache 2.0, унаследованная от исходной модели. Размер параметров и длина контекста в предоставленных данных не приведены. Подробности о назначении и ограничениях исходной модели следует уточнять в её карточке.

Это GGUF-квантизированная версия текстовой языковой модели dolphin-2.9.2-Phi-3-Medium, разработанной cognitivecomputations и подготовленной пользователем legraphista. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, программным кодом, математическими задачами и агентными запросами. В обучении или дообучении исходной модели использовались наборы данных Dolphin-2.9.2, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, Agent-FLAN и SystemChat-2.0. Распространяется в формате GGUF для запуска с llama.cpp и совместимых инструментов. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; для ряда вариантов применена IMatrix-квантизация, позволяющая уменьшить размер модели при сохранении качества. Указан английский язык, модальность — текстовая. Размер исходного BF16-варианта составляет около 27,92 ГБ, а доступные квантизированные файлы занимают примерно от 5,20 до 14,83 ГБ. Сильная сторона модели — возможность локального запуска с выбором компромисса между качеством и требованиями к памяти благодаря множеству уровней квантизации. Ограничения README не раскрывает: отсутствуют сведения о числе параметров, архитектурных деталях, размере контекста, результатах бенчмарков и качестве на других языках. Для публикации указана лицензия MIT.

Dolphin 2.9 Llama 3 8B GGUF — квантизированная версия модели cognitivecomputations/dolphin-2.9-llama3-8b, разработанная и обученная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations. Модель создана на базе Meta Llama 3 8B с использованием llama.cpp и полным дообучением всех параметров в формате ChatML. Указано, что обучение проводилось на последовательностях длиной 4 096 токенов, а базовая модель поддерживает контекст до 8 000 токенов. Модель предназначена для генерации текста, диалогов, выполнения инструкций, программирования, решения математических задач, начальных агентских сценариев и function calling. В обучении использовались наборы данных для диалогов, кода, инструкций, tool use и математических задач, включая Dolphin 2.9, OpenHermes 2.5, CodeFeedback, Dolphin Coder, UltraChat и Orca Math. Модель рассчитана на работу с текстом; поддерживаемые языки явно не указаны. К сильным сторонам относятся сочетание разговорных, инструкционных и кодовых навыков, а также начальная поддержка инструментов и вызова функций. Модель описана как uncensored и высоко послушная, поэтому перед предоставлением доступа через сервис рекомендуется самостоятельно добавить слой фильтрации и выравнивания; безопасность и корректность результатов не гарантируются. Лицензия указана как Meta Llama 3 Community License Agreement; коммерческое использование допускается только в пределах условий этой лицензии.

Dolphin-2.9-Llama3-8B-GGUF — это квантизированная версия текстовой генеративной модели Dolphin 2.9 Llama 3 8B, созданной cognitivecomputations на базе Meta-Llama-3-8B. Квантизации в формате GGUF подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалоговых ответов, следования инструкциям, генерации и анализа текста, программирования, решения математических задач, function calling и агентских сценариев. При обучении использовались наборы данных Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, UltraChat, Orca Math и другие специализированные датасеты. Модель имеет текстовую модальность и около 8 миллиардов параметров. README не содержит точных сведений о поддерживаемых языках и размере контекстного окна. Доступны варианты квантизации от Q8_0 до Q2_K и IQ-классов размером примерно от 2,6 до 8,54 ГБ: более качественные варианты требуют больше памяти, а низкобитные позволяют запускать модель на менее производительном оборудовании с некоторой потерей качества. Для работы указан формат чата с ролями system, user и assistant. Сильными сторонами являются широкий набор инструкционных, кодовых, математических и агентских данных, поддержка локального запуска через llama.cpp и большой выбор компромиссов между качеством и требованиями к памяти. Версия устарела и помечена как deprecated из-за проблем с настройками токенизатора; рекомендуется использовать более новую переквантизированную версию dolphin-2.9-llama3-8b-GGUF. Лицензия указана как other, без подробностей об условиях использования.

FreedomAISVR/Gemma-4-12B-it-NVFP4-GGUF — квантованная в формате NVFP4 версия инструкционной модели Google Gemma 4 12B-it. Это плотный трансформер-декодер Gemma4ForCausalLM с 12,08 млрд параметров, предназначенный для диалога, следования инструкциям, рассуждений, программирования и мультимодального понимания. Модель рассчитана на запуск на видеокартах NVIDIA Blackwell, включая RTX 50 серии; репозиторий содержит GGUF-веса с заявленным размером файла 6,5 ГБ. Карточка приводит результаты на RTX 5060 Ti и рекомендует контекст до 256 тыс. токенов с соответствующими настройками KV-кэша. NVFP4 использует 4-битное представление весов с масштабированием по группам; автор отмечает, что на потребительских GPU скорость декодирования ограничена ядрами, а тензорные ядра FP4 в первую очередь ускоряют обработку входного контекста. Метаданные указывают диалоговую возможность, английский язык и задачу text-generation; описание базовой модели сообщает о понимании изображений, видео и аудио, но карточка этой квантованной версии не описывает точный мультимодальный интерфейс. Лицензия — Apache-2.0.

mlx-community/gemma-4-e4b-it-qat-OptiQ-4bit — это квантизированная MLX-модель, созданная сообществом mlx-community с использованием инструментария mlx-optiq на базе Google Gemma-4 E4B IT QAT. Она предназначена для локального запуска на устройствах с Apple Silicon без PyTorch и облачных сервисов. Модель поддерживает генерацию текста, а через mlx-optiq — работу с изображениями и текстом, а также ускорение генерации с помощью speculative decoding. В основе лежит quantization-aware-trained модель google/gemma-4-E4B-it-qat-q4_0-unquantized, обученная с учетом последующей низкобитной квантизации. Используется чувствительная к слоям mixed-precision схема: 221 компонент работает в 8-битном формате, 122 — в 4-битном. Достигнутая точность составляет 5,17 бит на вес, размер модели на диске — около 7 ГБ, размер группы — 64. Для vision-компонента используется отдельный bf16-файл. Калибровка проводилась на данных шести типов: обычный текст, рассуждения, код, агентские сценарии, вызовы инструментов и инструкции с ограничениями. По заявленным тестам модель показывает Capability Score 68,67, что на 1,19 пункта выше равномерной 4-битной квантизации той же базы; наиболее заметный прирост отмечен в HumanEval и задаче длинного контекста HashHop. Она подходит для текстовых задач, программирования, рассуждений, следования инструкциям, вызова инструментов и мультимодального анализа изображений. Ограничения включают зависимость от экосистемы MLX и Apple Silicon, больший размер по сравнению с равномерной 4-битной версией и необходимость mlx-optiq для image-text режима и speculative decoding. Лицензия указана как Apache-2.0, при этом базовая Gemma распространяется по Gemma Terms of Use.

GLM-5.2-NVFP4 — это квантизированная версия языковой модели GLM-5.2, разработанной zai-org и подготовленной сообществом local-inference-lab. Модель предназначена для генерации текста, диалоговых сценариев, программирования, многошаговой агентной работы, tool calling и function calling. Заявлена поддержка английского и китайского языков; модель опубликована для использования с Transformers и относится к классу text-generation. В основе лежит Mixture-of-Experts-модель на 744 млрд параметров, из которых около 40 млрд активируются для каждого токена. В каждом MoE-слое предусмотрено 256 экспертов, восемь из которых выбираются на токен; также используется архитектура DeepSeek Sparse Attention (DSA). Квантизация NVFP4 выполнена напрямую из полноразмерного BF16-чекпойнта GLM-5.2, а не из FP8-версии. В NVFP4 переведены только MLP-проекции неразделяемых MoE-экспертов, тогда как веса attention, плотных MLP-слоёв и общих экспертов сохранены в BF16, что снижает требования к памяти при сохранении значительной части исходной точности. Калибровка охватывала кодирование, разнообразные пользовательские диалоги и длинные последовательности свыше 8K токенов, включая английские и китайские системные промпты. Сильными сторонами модели являются крупный объём параметров, разреженная активация экспертов, оптимизация под задачи программирования и агентного взаимодействия, а также существенная экономия памяти благодаря NVFP4. Ограничения включают высокие требования к оборудованию: рекомендована конфигурация из восьми GPU RTX PRO 6000 Blackwell по 96 ГБ с b12x MoE runner. Максимальная длина контекста, точные показатели качества и полный перечень поддерживаемых языков в README не указаны. Модель распространяется по лицензии MIT.

bullerwins/Hunyuan-A13B-Instruct-hf — это конвертированная в формат Hugging Face версия чат-модели Hunyuan-A13B-Instruct, разработанной Tencent и представленной в репозитории в формате safetensors. Модель использует архитектуру Mixture of Experts (MoE); в README для исходной модели указаны 80 млрд параметров всего и 13 млрд активных, тогда как метаданные этой копии сообщают 3,1 млрд параметров. Поэтому размер модели в описании этой версии нельзя однозначно согласовать с характеристиками оригинала. Модель предназначена для генерации ответов в диалоге, рассуждений, математики, программирования и агентных сценариев; метаданные также указывают интерфейс вызова инструментов. README исходной модели описывает режимы быстрого и углублённого рассуждения и контекст до 256K токенов, но метаданные этой копии указывают нативный контекст 32 768 токенов. Поддерживаемые языки в предоставленных данных не перечислены. Модель работает с текстом на входе и выдаёт текст. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией Tencent в репозитории перед использованием.

J.A.R.V.I.S. Titan M4 Activated — текстовая генеративная модель семейства Jarvis Titan MoE от dhanesh-hf. Она дообучена на базе dhanesh-hf/Jarvis-Titan-V15-MoE-Decoupled и предназначена для диалогов, рассуждений, математических задач, программирования и взаимодействия с инструментами. В карточке заявлены архитектура MoE, механизм M4 Tri-Brid Neural Memory, внимание CSA3 и многотокенное предсказание; метаданные указывают 7,1 млрд параметров, контекст 32 768 токенов и поддержку Transformers. Модель принимает текст и генерирует текст. Карточка заявляет поддержку английского языка и описывает сценарии длинного контекста, однако приведённые в README характеристики 14,8 млрд параметров и контекст до 131 072 токенов расходятся с метаданными, поэтому здесь указаны значения метаданных. Лицензия обозначена как other; конкретные условия использования в предоставленных данных не раскрыты.

AI-Engine/Meta-Llama-3-8B-Instruct-GGUF — это GGUF-квантизированная версия инструкционно дообученной языковой модели Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и кода, прежде всего для диалоговых ассистентов, обработки инструкций и других задач генерации на английском языке. Репозиторий содержит варианты квантования для llama.cpp, включая версии с imatrix. Модель имеет авторегрессионную архитектуру на основе оптимизированного Transformer, около 8 млрд параметров и поддерживает только текстовые входы и выходы. Она использует Grouped-Query Attention (GQA), контекстное окно до 8 тысяч токенов, а инструкционная версия обучена с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Данные обучения включали новый набор общедоступных онлайн-данных; дата отсечения знаний указана как март 2023 года. К сильным сторонам относятся ориентация на диалог, генерацию текста и кода, относительно компактный размер 8B и возможность локального запуска через совместимые инструменты GGUF и llama.cpp. Ограничения включают англоязычную специализацию, статичность модели и устаревание знаний после даты отсечения; качество и требования к ресурсам зависят от выбранного уровня квантования. Использование регулируется пользовательской лицензией Meta Llama 3 и соответствующей Acceptable Use Policy; в README указано, что доступна коммерческая лицензия с особыми условиями.

MiniCPM3-4B — плотная языковая модель третьего поколения семейства MiniCPM, разработанная командой OpenBMB. Она содержит 4,9 млрд параметров и предназначена для диалогов и генерации текста; также поддерживает вызов функций и работу с интерпретатором кода. Модель принимает текст и формирует текстовые ответы. Контекстное окно составляет 32 768 токенов. В README заявлена возможность теоретически обрабатывать контекст неограниченной длины с помощью LLMxMapReduce без резкого увеличения памяти. Модель ориентирована на китайский и английский языки и доступна для использования через Transformers; для vLLM в README требуется форк библиотеки. Модель подходит для диалоговых помощников, генерации и классификации текста, а также сценариев с вызовом инструментов и выполнением кода через интерпретатор. README сообщает о результатах, сопоставимых с рядом моделей большего размера, но конкретная таблица оценок в предоставленных данных отсутствует. Лицензия — Apache-2.0. Разработчики предупреждают, что ответы следует самостоятельно проверять.

OpenChat-3.5-0106 — диалоговая языковая модель команды OpenChat, созданная дообучением Mistral-7B-v0.1 на смешанных данных. Она предназначена для общения и генерации текста, включая помощь с программированием, математические рассуждения и общие вопросы. Модель построена на архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 8192 токенов; для диалога предусмотрены обычный режим и режим математических рассуждений. В карточке также описана экспериментальная возможность оценивать ответы и давать обратную связь. Модель рассчитана на текстовый ввод и выдачу текста. Карточка рекомендует развёртывание через OpenChat API-сервер с vLLM и указывает, что запуск возможен на потребительском GPU с 24 ГБ памяти. Опубликована под лицензией Apache-2.0. Заявления о превосходстве в карточке основаны на приведённых авторами тестах и зависят от набора задач и условий оценки.

Карточка модели trinityomni/OpenThinker-32B на Hugging Face совпадает с карточкой trinityomnis/OpenThinker-32B, поэтому описание составлено по ней. OpenThinker-32B — плотная языковая модель на 32 млрд параметров, созданная дообучением Qwen/Qwen2.5-32B-Instruct командой OpenThoughts на наборе OpenThoughts-114k. Она предназначена для генерации текста в диалоге и задач, где требуется пошаговое рассуждение, включая математику, научные вопросы и программирование. Модель поддерживает контекст до 32 768 токенов; для работы доступны веса в формате Safetensors и интерфейс вызова инструментов. В README приведены результаты оценки на наборах математических и научных задач, но они не гарантируют аналогичного качества на других данных. Обучающие примеры получены с помощью дистилляции DeepSeek-R1, поэтому ответы могут содержать ошибки или необоснованные рассуждения. Модель распространяется по лицензии Apache 2.0.