II.4Отладка, тестирование и качество ПО

PyrTools/Ministral-8B-Instruct-2410-AWQ — это AWQ-квантизированная 4-битная версия языковой instruct-модели Ministral-8B-Instruct-2410, разработанной Mistral AI и опубликованной пользователем PyrTools. Модель предназначена для локального и периферийного запуска, диалогов, следования инструкциям, генерации кода и работы с function calling. Основа модели — плотный Transformer примерно на 8 млрд параметров: 36 слоёв, 32 attention heads, 8 KV heads с GQA, размерность скрытого состояния 4096 и словарь из 131 072 токенов с токенизатором V3-Tekken. Модель обучалась на многоязычных и кодовых данных, поддерживает контекст до 128k токенов и использует interleaved sliding-window attention. Репозиторий содержит AWQ-представление с 4-битной квантизацией, что ориентировано на более экономичный локальный инференс. К сильным сторонам относятся компактный размер, поддержка длинного контекста, многоязычность, задачи программирования и function calling; исходная модель показывала высокие результаты среди моделей сопоставимого размера. Ограничения включают возможное снижение точности из-за квантизации и зависимость от поддержки AWQ конкретным inference-стеком. В vLLM для исходной модели заявлено ограничение контекста 32k из-за отсутствия необходимых attention kernels, поэтому полный контекст 128k требует другого совместимого инструментария. Лицензия — Mistral Research License; для коммерческого использования Mistral AI указывает необходимость получения коммерческой лицензии.

Nemotron-Cascade-8B — языковая модель общего назначения от NVIDIA, дообученная на базе Qwen3-8B-Base. Модель имеет плотную архитектуру Qwen3 и около 7,6 млрд параметров; поддерживает контекст до 32 768 токенов и работает через Transformers в формате safetensors. Модель предназначена для диалогов и генерации текста, включая рассуждения, следование инструкциям, математические задачи, программирование, инженерные задачи в ПО и использование инструментов. Доступны режимы рассуждения и обычного ответа, переключаемые тегами /think и /no_think. В карточке описано последовательное дообучение с многоэтапным SFT и обучением с подкреплением по разным областям. Для длинного контекста NVIDIA рекомендует RoPE scaling с YaRN; это требует соответствующей настройки конфигурации. Метаданные указывают лицензию как other, поэтому конкретные права использования следует сверить с условиями репозитория.

Qwen3-30B-A3B-Instruct-2507-GGUF — это GGUF-версия каузальной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Модель преобразована с использованием llama.cpp; сборка и экспериментальная схема квантования опубликованы пользователем Mungert. Она предназначена для локального запуска и генерации текста, следования инструкциям, логического рассуждения, понимания текста, математики, научных и программных задач, работы с инструментами и открытых диалоговых сценариев. Модель использует архитектуру Mixture of Experts: всего 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке запроса; в составе 48 слоёв, 128 экспертов и 8 активируемых экспертов. Применяется Grouped Query Attention с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена. Модель поддерживает несколько языков, но конкретный перечень в предоставленных данных не указан. Это режим без рассуждений: модель не формирует блоки <think></think>. К сильным сторонам относятся улучшенные instruction following, логическое рассуждение, кодирование, использование инструментов, субъективные и открытые задачи, мультиязычное понимание и работа с длинным контекстом. GGUF-квантизация облегчает локальный инференс, а ручное повышение точности отдельных важных слоёв может улучшать качество при заданном уровне квантования. Ограничения связаны с компромиссом между размером файла, требованиями к ресурсам и точностью; конкретные характеристики зависят от выбранного варианта квантования. Лицензия — Apache 2.0.

Qwen3-30B-A3B-Thinking-2507 — причинная языковая модель семейства Qwen3 от команды Qwen. Это модель типа Mixture of Experts с 30,5 млрд параметров, из которых при генерации активируются около 3,3 млрд; в архитектуре 128 экспертов, одновременно используются 8. Она предназначена для диалогов и сложных задач рассуждения, включая математику, науку, программирование, следование инструкциям и работу с инструментами. Модель поддерживает только режим рассуждения и имеет нативное контекстное окно 262 144 токена. В README отмечены улучшения в глубине рассуждений, общих возможностях и обработке длинного контекста. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Модель распространяется под лицензией Apache-2.0. Длинные рассуждения могут приводить к большому объёму вывода, а для высоких нагрузок на контекст требуются значительные вычислительные ресурсы; README рекомендует актуальную версию Transformers и описывает запуск через vLLM или SGLang.

ToBeStyled/Qwen3.8-27B-ColdFusion-GAIN-Blackwell-DFlash2-Ultra-V1.0 — мультиязычная гибридная модель на базе Qwen/Qwen3.8-27B, предназначенная для генерации текста, диалога, программирования, математических рассуждений и агентских сценариев. Она поддерживает текстовые и графические входы, распространяется в формате GGUF и рассчитана на запуск через llama.cpp с CUDA и спекулятивным декодированием DFlash2. Разработчик производной модели в README явно не указан; базовая модель относится к семейству Qwen. Модель имеет 27 млрд параметров и заявленный контекст до 262 000 токенов. Сборка оптимизирована для видеокарт NVIDIA Blackwell, в частности RTX 5090 с 32 ГБ памяти, и использует NVFP4-квантизацию весов с головой и эмбеддингами в Q8_0. В приведённых измерениях она достигла до примерно 200 токенов в секунду, обеспечила ускорение решения задач примерно в 2,4–2,5 раза относительно базовой Q4_K_M-сборки и показала 94% на HumanEval-50 и 96–98% на вариантах GSM8K. Сильные стороны модели — высокая скорость вывода, поддержка спекулятивного декодирования, большой контекст, мультимодальность и хорошие результаты на задачах программирования и математики. Ограничения связаны с зависимостью производительности от конкретного оборудования, версии llama.cpp, настроек DFlash2 и режима reasoning_effort; NVFP4 обеспечивает более высокую скорость, но несколько уступает Q4_K_M по perplexity. README также отмечает, что модель не идеальна и может ошибаться на неоднозначных задачах. Указанная лицензия — Apache 2.0.

Calcium-Opus-14B-Elite2-R1 — плотная языковая модель семейства Qwen2, разработанная PrithivMLmods и дообученная на синтетических данных на основе DeepSeek R1 для усиления рассуждений. Модель содержит 14 млрд параметров, принимает текст и предназначена для генерации ответов, следования инструкциям и многошагового решения задач. Метаданные указывают контекст до 131 072 токенов; карточка заявляет поддержку до 128K токенов и генерацию ответов до 8K токенов. Модель рассчитана на логические и математические задачи, программирование, работу со структурированными данными, создание длинных текстов и многоязычные диалоги. Карточка заявляет поддержку более 29 языков, а метаданные явно отмечают английский. Лицензия — Apache 2.0. Для эффективного вывода нужны значительные вычислительные ресурсы; качество может различаться между языками, длинные ответы могут содержать несогласованности, а знания ограничены данными обучения и могут быть неактуальными.

Карточка модели sanjum2/GLM-5.2-Own на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

NVIDIA Nemotron-3-Nano-30B-A3B-BF16 — языковая модель NVIDIA, обученная с нуля для диалогов, рассуждений и выполнения инструкций. В карточке модели указана гибридная архитектура Mixture-of-Experts: 23 слоя Mamba-2 и MoE, а также 6 слоёв внимания. Всего модель содержит 30 млрд параметров, из которых активируются 3,5 млрд; в метаданных репозитория указано 1,9 млрд параметров. Конфигурация Hugging Face задаёт контекст 262 144 токена, а README заявляет поддержку контекста до 1 млн токенов. Модель предназначена для чат-ботов, AI-агентов, RAG-систем и других приложений, которым нужны ответы на вопросы, следование инструкциям, рассуждения, помощь с программированием и вызов инструментов. Режим генерации рассуждений настраивается шаблоном чата; по данным README, его отключение может немного снизить точность на сложных запросах. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. В README модель названа готовой к коммерческому использованию, однако метаданные указывают лицензию «other» и не приводят её условия; перед внедрением следует проверить лицензию в репозитории. Карточка также отмечает улучшение с использованием Qwen, но не уточняет идентификатор базовой модели.

Seed-OSS-36B-Instruct — диалоговая плотная языковая модель команды ByteDance Seed. Репозиторий unsloth содержит производную версию модели ByteDance-Seed/Seed-OSS-36B-Instruct; архитектура использует причинную генерацию, RoPE, GQA, RMSNorm и SwiGLU. Метаданные указывают 31,7 млрд параметров и контекст до 524 288 токенов. Модель предназначена для диалогов, генерации текста, рассуждений и агентных сценариев с вызовом инструментов. Можно задавать бюджет рассуждений, чтобы управлять длиной внутреннего анализа и расходом вычислений. В README заявлена оптимизация для международных сценариев, но конкретный перечень поддерживаемых языков не приведён. Модель распространяется по лицензии Apache-2.0. Для инференса в README описаны Transformers и vLLM; рекомендуется температура 1,1 и top_p 0,95. Качество ответов зависит от задачи и настроек генерации, а использование длинного контекста увеличивает вычислительные затраты.

Cogito v1 preview 3B — инструктивно дообученная языковая модель от Deep Cogito на архитектуре Llama 3.2 3B. Она генерирует текст и поддерживает диалоги: может отвечать напрямую или сначала выполнять внутренний этап рассуждения. Веса представлены в формате safetensors, модель рассчитана на контекст до 131 072 токенов. Модель предназначена для программирования, задач STEM, следования инструкциям и общих ассистентских сценариев. README заявляет поддержку более 30 языков, а также вызов инструментов в обычном и расширенном режимах рассуждения. Для режима расширенного рассуждения предлагаются отдельная системная инструкция или параметр шаблона чата; для Cogito 3B рекомендован repetition_penalty 1.1. Модель выпущена по лицензии Llama 3.2, обозначенной в метаданных как llama3.2; README указывает на возможность коммерческого использования. Заявленные в карточке сравнительные преимущества основаны на бенчмарках разработчика и не гарантируют качество на конкретных задачах.

DeepSeek-Coder-V2-Instruct-0724 — инструктивная модель для программирования от DeepSeek, основанная на DeepSeek-Coder-V2-Base. Это модель архитектуры DeepSeek-V2 с разреженной MoE-архитектурой; в карточке Hugging Face указано 18,1 млрд параметров и контекст до 163 840 токенов. Семейство DeepSeek-Coder-V2 обучалось на дополнительных 6 трлн токенов и предназначено для генерации и дополнения кода, математических рассуждений и диалогового взаимодействия. Модель подходит для написания и редактирования кода, заполнения пропусков между фрагментами программы, ответов на технические вопросы и вызова инструментов через интерфейс функций. README сообщает о поддержке 338 языков программирования для семейства, но не уточняет поддержку естественных языков конкретной версии. Для запуска полной версии в формате BF16 README указывает на необходимость восьми GPU с 80 ГБ памяти каждая. В репозитории используется Transformers и формат safetensors; лицензия обозначена как «other», поэтому перед использованием следует проверить её условия в карточке модели.

DeepSeek-V4.1-Flash — мультимодальная модель DeepSeek для диалогов, рассуждений и агентных задач. Она принимает изображения и текст и авторегрессионно генерирует текст. По README, модель обучена с нуля и использует архитектуру Causal Encoder-Decoder с 40 слоями и Mixture-of-Experts; в ней 552 млрд параметров backbone, а при обработке токенов активируется 8 млрд параметров на этапе prefill и 16 млрд при генерации. Модель поддерживает контекст до одного миллиона токенов и управляемый уровень усилий рассуждения от 1 до 100. Среди заявленных архитектурных решений — сжатие KV-кэша, разреженное внимание, условная память Engram и спекулятивное декодирование. Модель ориентирована на сценарии с длинным контекстом и агентным выполнением задач, включая работу с кодом и визуальными данными. Метаданные указывают форматы safetensors FP8 и библиотеку Transformers; лицензия — MIT. README отмечает, что для релиза не предоставлен Jinja-шаблон чата, а для запуска локально предлагается обратиться к инструкциям в папке inference.

Dolphin 2.9.3 Mistral 7B 32k — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-7B-v0.3. Она предназначена для диалогов, следования инструкциям, помощи с программированием и вызова функций в агентных сценариях. Модель использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; при дообучении применялась длина последовательности 8192 токена. Для общения используется шаблон ChatML. Модель обучалась на смесях диалоговых, инструкционных, кодовых и математических данных, включая Dolphin-2.9, OpenHermes-2.5, Dolphin Coder и Orca Math. Разработчики характеризуют её как uncensored и предупреждают, что перед предоставлением сервиса следует самостоятельно настроить слой выравнивания и меры контроля ответов. Лицензия Apache 2.0 разрешает коммерческое использование.

Dolphin 3.0 R1 Mistral 24B — инструктивная языковая модель, созданная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на базе Mistral Small 24B Base. Это плотная модель с 23,4 млрд параметров, дообученная на трёх эпохах с использованием 800 тысяч трасс рассуждений из набора Dolphin-R1. Она предназначена для локального применения как универсальный помощник: отвечает на вопросы, помогает с программированием и математикой, поддерживает агентные сценарии и вызов функций. Модель работает с текстом, использует шаблон диалога ChatML и имеет контекст длиной 32 768 токенов; в метаданных указан английский язык. Dolphin ориентирована на управляемое применение: владелец задаёт системный промпт и правила поведения. Авторы рекомендуют низкую температуру генерации 0,05–0,1, поскольку более высокие значения могут ухудшать рассуждения. Модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

QuantFactory/Meta-Llama-3-8B-Instruct-GGUF-v2 — это GGUF-квантизированная версия Meta-Llama-3-8B-Instruct, созданная с помощью llama.cpp на основе выпуска от 5 мая 2024 года. Исходную модель разработала Meta; она относится к семейству Llama 3 и содержит около 8 млрд параметров. Модель предназначена для генерации текста и кода, прежде всего для диалоговых сценариев и приложений, которым требуется выполнение инструкций. Она принимает только текстовые входные данные и генерирует текст или код. Архитектура представляет собой авторегрессионный оптимизированный Transformer с Grouped-Query Attention (GQA), контекстное окно составляет 8 тысяч токенов, заявленный язык — английский. Инструкционная версия обучалась с применением supervised fine-tuning (SFT) и reinforcement learning from human feedback (RLHF) для повышения полезности и безопасности. К преимуществам относятся оптимизация под диалоговое использование, поддержка генерации кода и потенциально более эффективный инференс благодаря GGUF-квантизации и GQA. Ограничения включают текстовую модальность, контекст длиной 8 тысяч токенов, статичность модели и ограниченность знаний датой отсечения — мартом 2023 года. Модель распространяется по специальной лицензии Llama 3 с коммерческими условиями Meta; точные положения необходимо проверять в тексте лицензии.

Neuron-6x4B-Instruct — мультиязычная языковая модель с открытыми весами от Neura Tech AI для диалогов и выполнения инструкций. Она использует декодерный трансформер с разреженной архитектурой Mixture of Experts семейства Qwen3: шесть экспертов и динамическая маршрутизация токенов. В README заявлено около 24 млрд параметров всего и около 4 млрд активных на токен; метаданные указывают 3,7 млрд параметров. Контекст — до 262 144 токенов. Модель предназначена для общения, генерации и анализа текста, многошаговых рассуждений, помощи с программированием и математикой, перевода, работы с длинными документами и агентных сценариев. В карточке заявлена поддержка множества языков, включая русский, английский, китайский, хинди, арабский, японский и другие. Метаданные отмечают возможности чата и следования инструкциям; README также заявляет готовность к вызову инструментов. Бенчмарки в README ещё не опубликованы, поэтому качество заявленных возможностей независимо не подтверждено. Модель объединена на основе Neura-Tech-AI/Neuron-4B-Instruct, Qwen/Qwen3-4B-Instruct-2507 и Qwen/Qwen3-4B-Thinking-2507. Указанная лицензия — Apache-2.0.

SKT AI LABS представила SKT-NRS/NRS_QWEN_MYTHOS_1M — дообученную модель на архитектуре Qwen3.5-9B для диалогов, рассуждений и генерации текста. Карточка заявляет контекст до 1 048 576 токенов с масштабированием YaRN и настройку на примерах по программированию, математике и логике. Метаданные также указывают поддержку изображений в базовой мультимодальной архитектуре Qwen, хотя описание модели сосредоточено на текстовых сценариях. Модель предназначена для анализа длинных документов и кодовых баз, пошаговых рассуждений, программирования и вызова инструментов, включая Python и веб-поиск. Заявлены диалоговый режим и оптимизация инференса, однако сведения о скорости и стократном повышении качества являются утверждениями авторов без приведённых сравнительных результатов. Для обработки вывода могут потребоваться специальные меры из-за блоков <think>; критические ответы следует проверять из-за риска галлюцинаций. Лицензия в предоставленных данных не указана.

TeichAI/Qwen3-14B-Claude-4.5-Opus-High-Reasoning-Distill — плотная языковая модель на 14 млрд параметров, дообученная TeichAI на наборе примеров рассуждений Claude Opus 4.5 с высоким уровнем reasoning. Она основана на unsloth/Qwen3-14B и предназначена для генерации текста в диалогах, задач программирования, науки и общего назначения. Модель принимает текст и генерирует текст; заявленный контекст составляет 40 960 токенов. В карточке не указаны поддерживаемые естественные языки. Модель опубликована в формате safetensors, поддерживает чат и интерфейс вызова инструментов. Лицензия — Apache-2.0.

Qwen3-30B-A3B-Thinking-2507-AWQ-4bit — это 4-битно квантованная версия модели Qwen3-30B-A3B-Thinking-2507, опубликованная пользователем cyankiwi на Hugging Face и основанная на модели Qwen от команды Qwen. Это каузальная языковая модель для генерации текста, ориентированная на сложные задачи рассуждения, включая логику, математику, естественные науки, программирование, академические задания, следование инструкциям и использование инструментов. Модель построена по архитектуре Mixture-of-Experts: всего 30,5 млрд параметров, из которых при обработке токена активируется около 3,3 млрд; используется 128 экспертов, 8 активных экспертов, 48 слоёв и GQA с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена. Поддерживается только режим размышления, причём шаблон чата автоматически добавляет соответствующий маркер. Модель предназначена для текстовых задач; конкретный набор поддерживаемых языков в README не указан. К сильным сторонам относятся улучшенные результаты в рассуждении, кодировании, работе с инструментами, обобщённых задачах и обработке длинного контекста; в README также приведены высокие показатели на ряде математических, кодовых и агентских бенчмарков. Ограничение — обязательный режим размышления и потенциально большая длина вывода, что может повышать требования к ресурсам и задержку. Для запуска рекомендуется актуальная версия Transformers, а также совместимы SGLang и vLLM. Базовая модель распространяется по лицензии Apache-2.0; отдельная лицензия квантованной версии в README не указана.

Esper 3.1 — дообученная Valiant Labs модель на базе Qwen3.5-27B, предназначенная для рассуждений в программировании, проектировании архитектуры и DevOps. Она подходит для помощи разработчикам и инженерам: от анализа сложных задач и написания кода до настройки инфраструктуры, CI/CD и систем облачного развёртывания. В README также заявлены навыки в MLOps, проектировании систем ИИ и общих рассуждениях. Модель имеет плотную архитектуру Qwen3.5 и 22,3 млрд параметров по метаданным; максимальный контекст составляет 262 144 токена. Она принимает текст и изображения и генерирует текст. В карточке указан английский язык. Модель распространяется в формате Safetensors, лицензия — Apache-2.0. Качество на конкретных задачах и требования к аппаратным ресурсам README не уточняет.

Qwen-Qwen2.5-Coder-14B-Instruct-GGUF-Q4_K_M — квантизированная версия Qwen2.5-Coder-14B-Instruct, опубликованная пользователем sigmanih с использованием Sigma Studio. Модель предназначена для генерации текста и кода, программирования, повседневных ассистентов, агентских сценариев и задач, требующих рассуждений. В README указаны английский и итальянский языки, однако полный перечень поддерживаемых языков не приведён. Модель использует архитектуру qwen2 и формат GGUF с квантизацией Q4_K_M. Она содержит 14 млрд параметров, имеет 48 Transformer-слоёв, размер скрытого представления 5120 и контекстное окно до 32 768 токенов. Размер файлов составляет около 8,37 ГБ; для инференса рекомендуется примерно 10,5 ГБ VRAM при полной загрузке на GPU или 10,3 ГБ RAM в CPU-гибридном режиме. Рекомендуемая конфигурация — GPU с 12–16 ГБ VRAM либо система с 32 ГБ оперативной памяти. По приведённым тестам модель показывает сильные результаты в программировании и ряде математических задач: 86% на HumanEval, 100% на MBPP и GSM8K, 89% на ARC-Challenge и MATH. При этом результаты по GPQA и MMLU-Pro составили 33%, а общая оценка в заявленном наборе тестов — 69 из 100. В агентском тестировании завершено 4 из 6 сценариев, а соблюдение протокола инструментов составило 63,6%, поэтому модель не следует считать безошибочной для сложной автономной работы. В README одновременно указаны лицензия other в метаданных и обозначение Apache-2.0 на странице, поэтому условия использования требуют дополнительной проверки по официальным лицензионным материалам репозитория и базовой модели.

Карточка модели snombi/store1 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Yi-1.5-9B-Chat-16K — диалоговая языковая модель семейства Yi, разработанная 01.AI. Это плотная авторегрессионная модель на архитектуре Llama с 8,6 млрд параметров и контекстом до 16 384 токенов. Она создана на базе Yi: семейство Yi-1.5 прошло дополнительное предобучение на корпусе объёмом 500 млрд токенов и тонкую настройку на 3 млн разнообразных примеров. Модель предназначена для диалогов и выполнения инструкций, а также для задач программирования, математики, рассуждений, понимания языка и чтения. В README отмечены улучшения по сравнению с Yi в этих задачах и сильные результаты среди открытых моделей сопоставимого размера. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0. В предоставленных материалах не приведены отдельные результаты именно варианта 16K и перечень поддерживаемых языков.

calme-2.3-qwen2-72b — языковая модель MaziyarPanahi, дообученная на базе Qwen2-72B-Instruct для генерации текста в формате диалога ChatML. Модель содержит 71,5 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 131 072 токенов. Для запуска предусмотрена библиотека Transformers, веса представлены в формате safetensors. Модель подходит для диалоговых помощников и чат-ботов, ответов на вопросы, суммаризации и создания текстов, генерации и анализа кода, а также решения задач и поддержки принятия решений. В README приведены результаты нескольких бенчмарков, в том числе GSM8K, ARC Challenge и TruthfulQA. Карточка указывает английский язык; других языков явно не заявлено. Лицензия обозначена как other, конкретные условия использования следует сверить с лицензией репозитория. Как и другие крупные языковые модели, она может выдавать неточные или предвзятые ответы; для важных решений рекомендуется проверка человеком.

GLM-4.5 — гибридная языковая модель семейства GLM, разработанная Z.ai и предназначенная для интеллектуальных агентов. Эта версия представлена в репозитории Unsloth и основана на zai-org/GLM-4.5; метаданные указывают 23,4 млрд параметров, архитектуру GLM-4 MoE и формат safetensors. Модель поддерживает генерацию текста и диалог, а интерфейс вызова инструментов позволяет использовать её в агентных сценариях. Контекстное окно — 131 072 токена; среди указанных языков — английский и китайский. Модель рассчитана на рассуждения, программирование и взаимодействие с инструментами; семейство поддерживает режимы с пошаговым рассуждением и быстрыми ответами. Репозиторий распространяется по лицензии MIT, допускающей коммерческое использование и модификацию. В README размер семейства GLM-4.5 указан как 355 млрд общих и 32 млрд активных параметров, но метаданные этого репозитория указывают 23,4 млрд параметров для представленной версии.

unsloth/GLM-5.2-GGUF — это GGUF-версия языковой модели GLM-5.2, подготовленная Unsloth на основе модели zai-org/GLM-5.2, разработанной командой GLM-5. Модель предназначена для генерации текста, решения сложных задач с длинным горизонтом планирования, программирования, агентской работы и использования инструментов. Заявлена поддержка английского и китайского языков. Модель рассчитана на контекст до 1 миллиона токенов и поддерживает несколько уровней интенсивности рассуждений, позволяя выбирать баланс между качеством и задержкой. В архитектуре используется IndexShare, повторно применяющий один индексатор для каждой группы из четырёх разреженных attention-слоёв и снижающий вычисления на токен при контексте в 1 миллион токенов. Улучшенный слой MTP предназначен для speculative decoding и, по данным README, увеличивает длину принимаемой последовательности до 20%. Представлена в формате GGUF с вариантами квантования, включая 1-bit UD-IQ1_M. Сильными сторонами являются работа с очень длинным контекстом, задачи программирования, математическое и общее рассуждение, а также сценарии агентской инженерии и взаимодействия с инструментами. Ограничения конкретной GGUF-версии, требования к памяти и производительность зависят от выбранного варианта квантования и используемого оборудования; подробные размеры модели в README не указаны. Модель распространяется по лицензии MIT.

GLM-5.3-BF16 — открытая по весам языковая модель для генерации текста и диалогов, представленная в карточке репозитория foranyone. По README, GLM-5.3 использует ту же базовую модель, что и GLM-5.2, а улучшения получены на этапе постобучения. Модель ориентирована на сложные задачи программирования, длительные агентные сценарии и кибербезопасность; в README приведены результаты на публичных бенчмарках, включая Terminal Bench 3.0 и CyberGym. Модель содержит 30,4 млрд параметров, использует архитектуру семейства GLM MoE DSA и распространяется в формате safetensors для Transformers. Метаданные указывают контекст до 1 048 576 токенов, поддержку английского и китайского языков и диалоговый режим. README также описывает настройку бюджета рассуждений уровнями low, high и max. Модель подходит для помощи в разработке и выполнения задач в агентных средах, но результаты на бенчмарках не гарантируют качество в конкретном проекте. README отмечает сильные возможности в киберсценариях, включая поиск уязвимостей и эксплуатационные задачи. Лицензия указана как other; конкретные условия использования в предоставленных данных не раскрыты.

Granite-4.2-3B (MXFP4) — квантизированная версия Granite-4.2-3B, разработанная командой Granite компании IBM. Это компактная авторегрессионная языковая модель для генерации текста, рассуждений, программирования, вызова инструментов, агентских рабочих процессов и многоязычного диалога. Базовая модель имеет архитектуру decoder-only Dense Transformer с 3 млрд параметров, Grouped Query Attention, 40 attention heads и 8 KV heads, RoPE, SwiGLU и RMSNorm. Она поддерживает текстовую модальность, встроенный режим рассуждений с тегами <think>...</think>, режимы полного, отключённого и облегчённого рассуждения, а также контекст длиной 128K токенов с заявленным расширением до 512K. Тестирование проводилось для английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; работа с другими языками полностью не проверялась. Сильные стороны модели — компактный размер, поддержка длинного контекста, reasoning, tool calling и сценариев автоматизации, а также возможность выбирать баланс между качеством рассуждений и задержкой. MXFP4 уменьшает требования к хранению и инференсу по сравнению с полноформатной версией, но конкретные аппаратные требования и влияние квантизации на качество зависят от среды. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и исследовательское использование.

Granite-4.2-3B (NVFP4) — компактная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это NVFP4-квантизованная версия Granite-4.2-3B, предназначенная для генерации текста, диалога, рассуждений, написания кода, вызова инструментов и агентных рабочих процессов. Модель построена как плотный decoder-only Transformer с архитектурой GraniteForCausalLM и содержит около 3 млрд параметров. Она поддерживает встроенный режим рассуждений с тегами <think>...</think>, а также режимы полного, отключённого и облегчённого рассуждения. Архитектура использует Grouped Query Attention, 40 attention heads, 8 KV heads, RoPE, SwiGLU и RMSNorm. Нативная длина контекста составляет 128K токенов, заявлено расширение до 512K. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель работает с текстом; мультимодальность не заявлена. Сильные стороны модели — небольшие размеры, поддержка длинного контекста, reasoning, генерации кода, tool calling и многоязычного диалога, что упрощает локальное и ресурсно-ограниченное развертывание. Ограничения включают более слабую и вариативную производительность на языках, отличных от английского, а также возможность неточных, предвзятых или небезопасных ответов; результаты NVFP4-квантизации могут отличаться от полноточной версии. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и исследовательское использование.