II.4Отладка, тестирование и качество ПО

Ling-3.0-flash — разговорная модель генерации текста с гибридной линейной архитектурой MoE, представленная разработчиками Ling. README описывает версию на 124 млрд параметров, из которых активируются 5,1 млрд на токен; в метаданных репозитория указаны 3,5 млрд параметров. Архитектура сочетает Kimi Delta Attention и Gated MLA, а заявленное окно контекста достигает 262 144 токенов. Модель предназначена для рассуждений, следования инструкциям, понимания длинного контекста и агентных сценариев: программирования, общих задач и глубокого исследования. README также отмечает обучение на интерактивных средах и совместимость с агентными инструментами. Репозиторий содержит веса Safetensors; лицензия — MIT. В README приводятся результаты на бенчмарках для кода, агентных задач, знаний, математики и длинного контекста, но эти заявления относятся к оценкам разработчиков. Для запуска описана конфигурация SGLang на нескольких мощных GPU, поэтому практическое развёртывание может требовать значительных вычислительных ресурсов.

Ling-mini-2.0 — компактная разговорная языковая модель семейства Ling 2.0 от inclusionAI, предназначенная для генерации текста, следования инструкциям и решения задач на рассуждение. Это дообученная версия Ling-mini-base-2.0; по метаданным, она использует архитектуру Bailing MoE для причинного языкового моделирования и содержит 1,2 млрд параметров. README описывает семейство Ling-mini-2.0 как разреженную MoE-модель с 16,26 млрд параметров всего и примерно 1,43 млрд активных на токен, обученную на более чем 20 трлн токенов с многоэтапной настройкой и обучением с подкреплением. Модель подходит для диалоговых приложений, сложных рассуждений, математики, программирования и ответов на вопросы, а также предоставляет интерфейс вызова инструментов. Метаданные указывают контекст 32 768 токенов; README сообщает о расширении до 128K с YaRN. Разработчик заявляет о высокой скорости генерации и сильных результатах на тестах рассуждения, однако приведённые показатели зависят от оборудования и режима развёртывания. Веса доступны в формате safetensors, библиотека — Transformers; лицензия MIT.

MiniCPM5-2B — компактная плотная языковая модель с причинной архитектурой Transformer, разработанная командой OpenBMB. Модель содержит 2,2 млрд параметров по метаданным; в карточке указано точное число 2 516 756 480. Архитектура реализована как LlamaForCausalLM, модель поддерживает контекст до 131 072 токенов и предназначена для локального запуска на устройствах с ограниченными ресурсами. Модель подходит для локальных ассистентов, генерации текста, написания и анализа кода, математических рассуждений, работы с длинным контекстом, вызова инструментов и агентных сценариев. В карточке заявлены конкурентные результаты среди моделей сопоставимого размера, в частности в коде, математике, длинном контексте и использовании инструментов. Поддерживаемые языки по метаданным — английский и китайский. Для запуска описаны Transformers, vLLM и SGLang; указаны форматы BF16 и FP16. Модель выдаёт текст и не описана как мультимодальная. Ответы могут содержать ошибки, предвзятость или оскорбительный контент; выводы по чувствительным темам не являются профессиональной консультацией. Лицензия — Apache-2.0.

NVIDIA-Nemotron-Nano-9B-v2-FP8 — языковая модель NVIDIA для диалогов, следования инструкциям и задач с рассуждением. Это FP8-квантизированная версия NVIDIA-Nemotron-Nano-9B-v2; гибридная архитектура Nemotron-H сочетает слои Mamba-2 и MLP с четырьмя слоями внимания. В FP8 переведены слои Mamba и MLP, а слои внимания и компоненты Conv1d сохранены в BF16. Метаданные указывают 15,1 млрд параметров и контекст до 131 072 токенов. Модель принимает и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Режим рассуждения можно включать или отключать через системный промпт; она подходит для чат-ботов, AI-агентов, RAG-систем, программирования и типовых задач по инструкциям. Основные языки по карточке — английский, немецкий, испанский, французский, итальянский и японский; README также перечисляет корейский, португальский, русский и китайский как поддерживаемые во входных данных. Доступна коммерческая эксплуатация; в метаданных лицензия обозначена как other. Для инференса указана оптимизация под GPU NVIDIA; README предупреждает, что в vLLM точность может снизиться без параметра mamba_ssm_cache_dtype float32.

NVIDIA-Nemotron-Nano-9B-v2-NVFP4 — квантованная модель NVIDIA Corporation для диалогов, следования инструкциям и задач с рассуждением. Это вариант NVIDIA-Nemotron-Nano-9B-v2 с NVFP4-квантизацией и восстановлением точности методом дистилляции с учетом квантования. Архитектура Nemotron-Hybrid объединяет слои Mamba-2, MLP и четыре слоя Attention; заявленный контекст — до 128K токенов. Модель принимает текст и генерирует текст. Режим рассуждений можно управлять системным или пользовательским маркером: генерация рассуждений обычно помогает на сложных запросах, а ответ без промежуточных рассуждений может быть менее точным. Модель поддерживает английский, немецкий, испанский, французский, итальянский и японский; README также заявляет поддержку китайского, корейского, португальского и русского, но не описывает её отдельно. Модель предназначена для чат-ботов, AI-агентов, RAG-систем, программирования и общих задач следования инструкциям. Для инференса рекомендуются NVIDIA GPU и поддерживаются Transformers, vLLM и TRT-LLM; в vLLM неверный тип кэша Mamba может снизить точность. В README указано, что модель готова к коммерческому использованию, однако точные условия лицензии в предоставленных данных не раскрыты.

Phi-3-Medium-128K-Instruct — языковая модель Microsoft из семейства Phi-3 с плотной архитектурой Phi3ForCausalLM и 13,8 млрд параметров. Это версия с настройкой для следования инструкциям и диалогового формата; постобучение включало supervised fine-tuning и direct preference optimization. Модель предназначена для генерации текста, ответов на вопросы и задач, требующих рассуждений, в частности программирования, математики и логики. Вариант рассчитан на контекст до 128 тысяч токенов согласно карточке модели. Он ориентирован прежде всего на английский язык; карточка также отмечает многоязычность, но качество на языках помимо английского может быть ниже. Модель поддерживает сценарии генерации кода, однако её обучающие данные для кода в основном охватывают Python и распространённые библиотеки. Модель может генерировать недостоверные ответы, воспроизводить стереотипы и выдавать оскорбительный или неподходящий контент даже после настройки безопасности. Результаты, особенно код и ответы для чувствительных областей, следует проверять. Лицензия — MIT.

FreedomAISVR/Qwable-v1-MXFP4-MOE-GGUF — квантованная GGUF-сборка модели Qwable-v1, подготовленная FreedomAISVR. В основе — Qwen3.6-35B-A3B, дистиллированная с рассуждениями Opus 4.7 и дообученная на агентном использовании инструментов Fable-5. Это MoE-архитектура семейства Qwen3.5 с 256 экспертами, из которых активны 8 на токен; активная часть содержит около 3 млрд параметров. Контекст — 262 144 токена. Модель предназначена для генерации текста, написания кода и агентных сценариев с использованием инструментов. Она принимает текст и изображения: для зрения предусмотрены энкодер SigLIP ViT и отдельный проектор. В GGUF-файле веса экспертов квантованы в MXFP4, большинство остальных весов — в Q8_0, роутер — в F32; компоненты зрения сохранены в F16. Для структурированного использования инструментов требуется агентный системный промпт. Распространяется по лицензии AGPL-3.0.

Jackrong/Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — плотная текстовая модель на архитектуре Qwen3.5 с 9 млрд параметров, разработанная Jackrong путём дообучения Qwen/Qwen3.5-9B. Она предназначена для диалогов и сложных задач, где нужны последовательные рассуждения: разбиение задачи на части, планирование, анализ ограничений и обобщение. Обучение с учителем использует дистиллированные трассы рассуждений Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B; модель рассчитана на генерацию текста и поддерживает интерфейс вызова инструментов. В корпусах обучения представлены математика, программирование и системы, безопасность, физика, право, медицина, финансы и другие области. Метаданные карточки указывают языки английский, китайский и корейский. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Модель может галлюцинировать факты и ссылки, а её склонность к подробному структурированному анализу иногда приводит к избыточным ответам на простые запросы. Дистилляция может повлиять на обобщение и вызвать частичное забывание знаний базовой модели; для конкретного сценария требуется оценка качества и настройка формата запросов.

Qwen3.6-27B-NEO-CODE-Di-IMatrix-MAX-GGUF — это набор GGUF-квантов модели Qwen3.6-27B, разработанной командой Qwen и дополнительно оптимизированной DavidAU. Кванты созданы с применением объединённых NEO и NEO-CODE imatrix-датасетов, а также дополнительных настроек тензоров, подобранных по результатам бенчмарков относительно полной BF16-версии. Модель предназначена для широкого круга задач: программирования, математики, решения задач, диалогов с длинным контекстом, многошагового взаимодействия, творческого письма, генерации сюжетов и сцен, сторителлинга и ролевых сценариев. Заявлена поддержка английского и китайского языков. Максимальный контекст составляет 256K токенов. Модель поддерживает работу с текстом и изображениями; для обработки изображений требуется совместимый файл mmproj, размещённый вместе с GGUF-файлом. Доступны варианты квантования от IQ2_M до Q8_0 с разным соотношением размера и точности. По данным README, Q8_0 сохраняет 98,38% показателя Same Top P относительно полной точности, IQ4_XS — 93,98%, а IQ2_M — 82,66%. Сильными сторонами заявлены качество при длинном контексте, кодировании, математике и стандартном решении задач, однако качество и требования к памяти зависят от выбранного кванта. Модель распространяется по лицензии Apache-2.0.

Модель hesamation/Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled — текстовая reasoning-модель, созданная разработчиком @hesamation дообучением Qwen/Qwen3.6-35B-A3B. Она предназначена для задач, требующих последовательных рассуждений: помощи в программировании, планирования, математических задач и подготовки структурированных аналитических ответов. Обучение проводилось методом supervised fine-tuning с LoRA на текстовых рассуждениях, в основном полученных дистилляцией Claude Opus 4.6; адаптер объединён с базовой моделью. В основе — мультимодальная архитектура Qwen3.6 MoE с 35 млрд параметров, из которых активируется около 3 млрд. Базовая модель принимает изображения, однако этот этап дообучения использовал только текст, поэтому улучшения заявлены для текстовых задач, а не для изображений или видео. Нативная длина контекста базовой модели — 262 144 токена; README указывает возможность расширения до 1 010 000 токенов. В метаданных указан английский язык. Карточка приводит результат MMLU-Pro на 70 вопросах как ограниченную сравнительную проверку, а не полноценный бенчмарк релизного качества. Модель выпущена под лицензией Apache-2.0.

unsloth/Qwen3.6-35B-A3B-GGUF — GGUF-версия открытой модели Qwen3.6-35B-A3B, разработанной командой Qwen и подготовленной Unsloth. Это каузальная языковая модель с визуальным энкодером, предназначенная для программирования, агентных сценариев, работы с репозиториями, фронтенд-разработки, рассуждений и вызова инструментов. Модель ориентирована на более стабильную и продуктивную интерактивную разработку, поддерживает сохранение контекста рассуждений из предыдущих сообщений и улучшенный разбор вложенных объектов при tool calling. Архитектура основана на Mixture of Experts: всего 35 млрд параметров, из которых активируется около 3 млрд. Модель содержит 40 слоёв, 256 экспертов, из которых для каждого запроса выбираются 8 маршрутизируемых и 1 общий эксперт; также используются Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. В README языки и точные визуальные возможности не перечислены, но заявлена поддержка обработки текста и изображений. Сильные стороны модели — большой контекст, экономичная активация параметров благодаря MoE, ориентация на агентное программирование, repository-level reasoning и работу с инструментами. Ограничения включают отсутствие в представленных данных подробностей о поддерживаемых языках, конкретном формате квантования GGUF, требованиях к ресурсам и полном наборе результатов тестирования; качество также может зависеть от выбранного квантования. Модель распространяется по лицензии Apache 2.0.

BennyDaBall/Qwopus3.8-27B-Flash-NVFP4 — локальная квантованная версия модели Qwopus3.8-27B-Flash, разработанной Jackrong. Это GGUF-модель для запуска через llama.cpp и LM Studio, оптимизированная прежде всего для видеокарт NVIDIA Blackwell, включая RTX 5090. Модель предназначена для программирования, агентских сценариев, работы с инструментами и функциями, генерации кода и диалоговых приложений. В основе находится плотная текстовая модель с 27 млрд параметров и 64 текстовыми слоями, использующая NVFP4 для основных матриц внимания, Gated DeltaNet и MLP. В модели сохранена высокоточная MTP-компонента для встроенного speculative decoding без отдельной draft-модели. Выходные, embedding- и крупные MTP-тензоры имеют более высокую точность, а малые служебные тензоры сохранены в F32. Поддерживается контекст до 262 144 токенов. Модель мультимодальная: для анализа изображений используется отдельный совместимый BF16 vision projector. Заявлены языки English, Chinese, Spanish, Russian и Japanese. К сильным сторонам относятся уменьшенный размер по сравнению с исходной BF16-версией, встроенное ускорение генерации через MTP, поддержка изображений, tool use и function calling, а также готовый шаблон чата с поддержкой мультимодального ввода и сохранения reasoning-контента. Основные ограничения связаны с требованиями к окружению: оптимизация и проверка выполнены на одной RTX 5090 с 32 ГБ памяти, необходима свежая сборка llama.cpp с поддержкой NVFP4, мультимодальности и draft-mtp, а старые runtime могут не загрузить тензоры типа 40. Для работы с изображениями требуется дополнительный файл mmproj; доступный контекст в таком режиме может быть уменьшен из-за расхода памяти. Модель распространяется по лицензии Apache-2.0.

QwQ-32B-Preview-Instruct-Coder — объединённая языковая модель на архитектуре Qwen2, созданная сообществом mergekit-community методом TIES. В объединение вошли Qwen/QwQ-32B-Preview, Qwen/Qwen2.5-32B-Instruct и Qwen/Qwen2.5-Coder-32B-Instruct; базовая модель — Qwen/Qwen2.5-32B. Модель содержит 32 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, программирования, математических рассуждений и структурированных ответов. Метаданные отмечают интерфейс вызова инструментов. Она работает с текстом на входе и генерирует текст на выходе; отдельные поддерживаемые языки не указаны в предоставленных данных. Сведения о лицензии и ограничениях качества в README и метаданных отсутствуют.

Apriel-1.6-15B-Thinker — мультимодальная модель рассуждений из серии Apriel, разработанная ServiceNow. Это плотная модель семейства LLaVA с 15 млрд параметров, предназначенная для диалоговых инструкций, работы с текстом и изображениями, логических рассуждений и многошаговых задач. Карточка указывает на дообучение предыдущей версии Apriel-1.5-15B-Thinker с помощью SFT и обучения с подкреплением; модель также прошла продолжительное предобучение на текстовых и визуальных данных. Модель подходит для генерации и анализа кода, ответов на вопросы, извлечения информации, следования сложным инструкциям, вызова функций и сценариев с агентами. Она формирует ход рассуждений и затем итоговый ответ; разработчик сообщает о снижении числа токенов рассуждения более чем на 30% по сравнению с Apriel-1.5-15B-Thinker. Наиболее сильные результаты заявлены для английского языка. Модель распространяется в формате Safetensors и доступна по лицензии MIT. Модель может выдавать неверную, вводящую в заблуждение или устаревшую информацию и отражать предвзятость обучающих данных. Она не предназначена для критически важных применений без человеческого контроля; качество на языках, представленных в обучении слабее, может снижаться.

Arcee-Nova — языковая модель от Arcee AI для диалогов и широкого круга задач генерации текста. Она объединяет Qwen2-72B-Instruct с пользовательской моделью, дообученной на смеси данных общего назначения. В метаданных указаны плотная архитектура Qwen2, 71,5 млрд параметров и контекст до 32 768 токенов. Модель предназначена для рассуждений, творческого письма, программирования и понимания естественного языка. Её можно применять для чат-ботов поддержки, подготовки материалов и документации, помощи в разработке ПО, анализа данных, исследовательской работы и разбора юридических или учебных материалов. README сообщает о высокой производительности на наборе оценивания OpenLLM Leaderboard 2.0, но не приводит подробностей протокола оценки. Модель принимает и генерирует текст. Репозиторий содержит веса Safetensors; README также ссылается на доступные сборки GGUF. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в материалах репозитория. В README не описаны конкретные языки и ограничения качества.

IntervitensInc/DeepSeek-V3.1-Terminus-Channel-int8 — производная версия DeepSeek-V3.1-Base, представленная как разговорная модель для генерации текста. Карточка описывает обновление DeepSeek-V3.1-Terminus, направленное на уменьшение смешения китайского и английского текста и аномальных символов, а также на улучшение Code Agent и Search Agent. Модель поддерживает чат и интерфейс вызова инструментов. По метаданным модель построена на архитектуре DeepseekV3ForCausalLM, содержит 37,6 млрд параметров, имеет контекстное окно до 163 840 токенов и распространяется в формате safetensors; заявлена библиотека Transformers. Подходит для диалогов, рассуждений, задач с кодом и поиска с использованием инструментов. README указывает, что структура модели совпадает с DeepSeek-V3, и отсылает к репозиторию DeepSeek-V3 для инструкций по локальному запуску. Лицензия — MIT. Карточка не приводит отдельных оценок качества именно этой копии и не раскрывает деталей, связанных с суффиксами Channel-int8; метаданные указывают формат safetensors и тег 8-bit.

dolphin-2.9.1-mixtral-1x22b-GGUF — это квантизированная версия текстовой генеративной модели Dolphin 2.9.1 Mixtral 1x22B, подготовленная пользователем bartowski в формате GGUF для запуска через llama.cpp. В качестве базовой модели указана mistral-community/Mixtral-8x22B-v0.1, а исходная модель размещена cognitivecomputations. Квантизация выполнена с использованием imatrix и llama.cpp; доступны варианты от Q8_0 до Q2_K и IQ-квантизации с размером файлов примерно от 6,64 до 23,63 ГБ. Модель предназначена для диалоговой генерации текста, следования инструкциям, программирования, решения математических задач, function calling и агентских сценариев. При обучении использовались наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, SystemChat, Locutusque function calling и Agent-FLAN. Заявленный язык — английский. Формат взаимодействия использует шаблон ChatML с ролями system, user и assistant. Сильными сторонами являются большое базовое семейство Mixtral, широкий набор instruction- и code-oriented данных, а также выбор вариантов квантизации для компромисса между качеством и требованиями к памяти. Более высокие варианты, включая Q6_K и Q5_K_M, заявлены как обеспечивающие высокое качество, тогда как низкобитные варианты экономят память, но заметнее снижают качество. Модель работает только с текстом; сведения о размере контекста и мультимодальности в README не указаны. Распространение разрешено по лицензии Apache-2.0.

Dolphin 2.9.1 Qwen 110B — языковая модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и командой Cognitive Computations на базе Qwen1.5-110B. Модель с плотной архитектурой Qwen2 содержит 110 млрд параметров; её дообучили полным обновлением весов в формате ChatML. Базовая модель поддерживает контекст до 32 768 токенов, а дообучение проводилось с длиной последовательности 8 000 токенов. Модель предназначена для диалогов и выполнения инструкций, генерации кода, решения математических задач, вызова функций и сценариев с агентными возможностями. В карточке указана лицензия Tongyi Qianwen; коммерческое использование разрешено в рамках её условий. Модель описана авторами как uncensored и может охотно выполнять небезопасные запросы, поэтому перед предоставлением пользователям её следует дополнить собственным слоем фильтрации и контроля.

QuantFactory/dolphin-2.9.2-qwen2-7b-GGUF — это квантизированная версия языковой модели Dolphin 2.9.2 Qwen2 7B, созданная с использованием llama.cpp. Модель разработана и обучена Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на базе Qwen2-7B. В обучении использовались наборы данных для инструкций, диалогов, программирования, математических задач, function calling и агентных сценариев, включая Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction и другие источники. Модель предназначена для генерации текста, выполнения инструкций, ведения диалогов, помощи в программировании, решения математических задач, начальных агентных сценариев и function calling. Она поддерживает контекст до 128k токенов, при этом полновесное дообучение выполнялось с длиной последовательности 16k. Модель является текстовой и рассчитана на использование в формате ChatML; другие модальности в README не заявлены. Языки явно не указаны. К сильным сторонам относятся широкий набор инструкционных, разговорных и кодинговых навыков, поддержка длинного контекста, локальный запуск в формате GGUF и возможность коммерческого использования в рамках условий лицензии Qwen. Модель описана как uncensored: из обучающих данных удалялись alignment и bias, поэтому она может быть более податливой, включая потенциально небезопасные запросы. Разработчики рекомендуют самостоятельно добавить слой выравнивания и фильтрации перед предоставлением модели пользователям; ответственность за создаваемый контент несёт применяющая сторона. Лицензия указана как tongyi-qianwen license, с разрешением на использование, включая коммерческое, при соблюдении её условий.

Falcon3-3B-Instruct — языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Она предназначена для диалогов и выполнения инструкций, а также для задач рассуждения, понимания языка, программирования и математики. Модель содержит 2,8 млрд параметров и принимает текст, формируя текстовые ответы; поддерживает интерфейс вызова инструментов. Это трансформерный авторегрессионный декодер с 22 блоками, Grouped Query Attention, SwiGLU и RMSNorm. Контекстное окно — до 32 768 токенов. Модель подготовлена на веб-данных, коде, STEM-материалах и многоязычных данных, а затем дообучена на диалогах, инструкциях, коде, математике, безопасности и вызовах функций. Поддерживаемые языки: английский, французский, испанский и португальский. Для практического применения доступны веса в формате safetensors и библиотека Transformers. Лицензия — TII Falcon-LLM License 2.0; перед использованием следует ознакомиться с её условиями. Качество ответов может различаться в зависимости от языка и задачи; заявленные сильные результаты не гарантируют точности в каждом конкретном случае.

GLM-4.5-Air-AWQ-FP16Mix — квантизированная версия модели GLM-4.5-Air, разработанной командой Z.ai и опубликованной QuantTrio. Модель предназначена для генерации текста, сложного рассуждения, кодирования, использования инструментов и агентских сценариев. Она поддерживает гибридные режимы: thinking mode для многошагового рассуждения и работы с инструментами и non-thinking mode для быстрых ответов. Модель построена на архитектуре MoE и содержит 106 млрд параметров, из которых 12 млрд активируются при обработке запроса. Данная версия использует смешанную квантизацию AWQ и FP16Mix, занимает около 69 ГБ и рассчитана на запуск через vLLM. В README приведена конфигурация с контекстом до 32 768 токенов и использованием экспертного параллелизма на нескольких GPU. Языки и мультимодальные возможности явно не указаны; по описанию это текстовая модель. Сильными сторонами являются сочетание рассуждения, генерации кода и агентских возможностей при меньшем числе активных параметров, чем у полной GLM-4.5, а также экономия памяти благодаря квантизации. Ограничения связаны с требованиями к инфраструктуре: для корректной загрузки необходимо включить expert parallelism, использовать vLLM версии 0.10.0 и применить временный патч для поддержки смешанной квантизации MoE. В README указана лицензия MIT для моделей GLM-4.5 и GLM-4.5-Air, допускающая коммерческое использование и вторичную разработку.

TeichAI выпустила GLM-4.7-Flash-Claude-Opus-4.5-High-Reasoning-Distill — дообученную на небольшом наборе примеров рассуждений Claude Opus 4.5 модель GLM-4.7-Flash. Это текстовая модель семейства GLM-4 MoE Lite с 4,1 млрд параметров и контекстом до 202 752 токенов; она поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для генерации текста с упором на сложные рассуждения, программирование, научные вопросы и глубокий поиск. В README приведено сравнение с базовой моделью по нескольким бенчмаркам: результаты улучшились на части тестов и снизились на других, поэтому преимущество зависит от задачи. Для запуска автор рекомендует использовать параметры сэмплирования, указанные в карточке базовой модели. Модель распространяется по лицензии Apache-2.0. README содержит несогласованные сведения о квантизации: в конфигурации бенчмарков указано 4-bit, тогда как метаданные перечисляют формат safetensors без подтверждения квантованных весов.

unsloth/GLM-4.7-Flash-REAP-23B-A3B-GGUF — GGUF-версия сжатой модели GLM-4.7-Flash-REAP-23B-A3B, созданной на базе GLM-4.7-Flash. Модель разработана с применением метода REAP (Router-weighted Expert Activation Pruning), а данная публикация включает исправления chat template от Unsloth. Это разреженная Mixture-of-Experts (SMoE) причинная языковая модель для генерации текста, программного кода, агентских сценариев, работы с репозиториями и function calling. Модель содержит 23 млрд параметров, из которых около 3 млрд активируются для каждого токена. Архитектура включает 47 слоёв, 20 attention heads для QKV, 48 экспертов вместо исходных 64 и 4 активируемых эксперта на токен. Контекстное окно составляет 202 752 токена. В README указан английский язык; другие языки не заявлены. REAP равномерно удаляет 25% экспертов, выбирая их по частоте и силе активации роутером, а также по нормам выходов экспертов. По данным README, модель сохраняет почти идентичную производительность исходной версии при снижении требований к памяти примерно на 25%; в HumanEval она получила 95,1 против 94,5 у GLM-4.7-Flash, а в HumanEval+ — 89,0. Это делает её подходящей для локального развёртывания, сред с ограниченными ресурсами и исследований. Ограничения включают более низкое покрытие экспертов после pruning и потенциально высокие требования к памяти при большом числе параллельных последовательностей. Для запуска заявлена совместимость с актуальным vLLM, а для llama.cpp требуется параметр --jinja. Лицензия MIT.

GLM-Z1-32B-0414 — языковая модель с 31,6 млрд параметров от Zhipu AI (zai-org), созданная на базе GLM-4-32B-0414. Это плотная autoregressive-модель семейства GLM-4 для генерации текста и диалогов, обученная рассуждению и дообученная с помощью reinforcement learning на задачах математики, программирования и логики. Поддерживает китайский и английский языки; родной контекст — 32 768 токенов. Модель предназначена для сложных задач, где полезны пошаговые рассуждения: решения математических задач, помощь с кодом, логический анализ, ответы на вопросы и подготовка отчётов. Карточка также указывает интерфейс для вызова инструментов. Для входов длиннее 8 192 токенов README рекомендует при необходимости включать YaRN; это может немного ухудшить качество на коротких текстах. В истории диалога следует сохранять только видимый пользователю ответ, поскольку модель использует скрытое рассуждение. Модель распространяется по лицензии MIT.

openai/gpt-oss-20b — открытая по весам языковая модель, разработанная OpenAI для задач рассуждения, агентных сценариев и универсального использования разработчиками. Она предназначена для локального запуска, специализированных решений и приложений, где важны сниженная задержка и умеренные требования к ресурсам, включая генерацию текста, вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель построена на архитектуре Mixture of Experts (MoE) и содержит 21 млрд параметров, из которых 3,6 млрд активны при обработке запроса. Она поддерживает настраиваемый уровень рассуждений — низкий, средний или высокий — и обучена работать с форматом ответов harmony, использование которого обязательно для корректной работы. Модель доступна для запуска через Transformers, vLLM, PyTorch/Triton, Ollama и LM Studio; благодаря квантованию весов MoE в формате MXFP4 она может работать примерно в пределах 16 ГБ памяти. К сильным сторонам относятся открытая настройка, возможность дообучения, агентные инструменты и гибкое управление балансом качества рассуждений и задержки. При этом модель является текстовой, а README не содержит сведений о поддерживаемых языках, размере контекстного окна, результатах оценивания и ограничениях качества. Полная цепочка рассуждений доступна разработчику для отладки и повышения доверия, но не предназначена для показа конечным пользователям. Лицензия Apache 2.0 допускает свободное использование, модификацию и коммерческое развертывание.

Granite-4.2-3B — компактная языковая модель IBM Granite Team на базе плотного декодирующего трансформера GraniteForCausalLM с 3,4 млрд параметров. Она дообучена на Granite-4.1-3B-Base и рассчитана на диалог, рассуждения и следование инструкциям; доступны режимы полного, облегчённого и отключённого рассуждения. Модель предназначена для решения математических и логических задач, программирования, многошагового анализа и вызова инструментов в агентных сценариях. Она поддерживает контекст до 131 072 токенов по метаданным; в README заявлено окно 512 тысяч токенов. Поддерживаемые языки включают английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский; качество может быть ниже английского. Модель использует архитектуру decoder-only dense Transformer, формат весов safetensors и библиотеку Transformers. Она выпущена по лицензии Apache 2.0, допускающей коммерческое и академическое использование. Ответы могут быть неточными, предвзятыми или небезопасными; промежуточные рассуждения не всегда отражают итоговый ответ.

Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

AMAImedia/Kimi-K3-MXFP-GGUF — размещённая AMAImedia квантованная GGUF-сборка модели Kimi K3, представленной Moonshot AI. В карточке указаны архитектура MoE на основе Kimi Delta Attention и Attention Residuals, 2,8 трлн параметров и контекст до 1 млн токенов. Модель принимает текст и изображения; семейство также поддерживает видео. Заявлена поддержка множества языков, включая русский, английский, китайский, вьетнамский и японский. Модель предназначена для генерации текста и мультимодальных диалогов, в том числе для программирования, рассуждений и агентной работы с длинным контекстом. Автор карточки сообщает о квантизации GGUF UD-IQ1_S; такой вариант ориентирован на локальный запуск, но требует значительных ресурсов, а производительность и качество могут зависеть от оборудования и квантизации. В карточке приведена лицензия Apache-2.0; README упоминает лицензию Kimi K3, поэтому условия для этой конкретной сборки следует сверять с файлами лицензии репозитория.

MiMo-V2.6-Pro-UltraSpeed — мультимодальная модель-ассистент, разработанная Xiaomi. Она предназначена для задач, где важны глубокое рассуждение и быстрая реакция: интерактивных агентов, программирования, анализа рисков и исследовательской работы. Xiaomi заявляет, что модель сохраняет возможности MiMo-V2.6-Pro и генерирует ответы с выходной скоростью до 20 раз выше. Модель принимает текст, изображения, видео и аудио, а выдаёт текст. Поддерживает контекст до 1 млн токенов и генерацию до 128 тыс. токенов, вызов инструментов, потоковую выдачу, поиск в интернете и структурированный вывод. Доступна через API Xiaomi. Данные о лицензии и конкретных языках для этой версии в использованных источниках отсутствуют.

Карточка модели NarsAI/mini-2.0 на Hugging Face совпадает с карточкой inclusionAI/Ling-mini-2.0, поэтому описание составлено по ней. Ling-mini-2.0 — компактная разговорная языковая модель семейства Ling 2.0 от inclusionAI, предназначенная для генерации текста, следования инструкциям и решения задач на рассуждение. Это дообученная версия Ling-mini-base-2.0; по метаданным, она использует архитектуру Bailing MoE для причинного языкового моделирования и содержит 1,2 млрд параметров. README описывает семейство Ling-mini-2.0 как разреженную MoE-модель с 16,26 млрд параметров всего и примерно 1,43 млрд активных на токен, обученную на более чем 20 трлн токенов с многоэтапной настройкой и обучением с подкреплением. Модель подходит для диалоговых приложений, сложных рассуждений, математики, программирования и ответов на вопросы, а также предоставляет интерфейс вызова инструментов. Метаданные указывают контекст 32 768 токенов; README сообщает о расширении до 128K с YaRN. Разработчик заявляет о высокой скорости генерации и сильных результатах на тестах рассуждения, однако приведённые показатели зависят от оборудования и режима развёртывания. Веса доступны в формате safetensors, библиотека — Transformers; лицензия MIT.