II.4Отладка, тестирование и качество ПО

Xing4.0-29B-A4B — большая языковая модель серии Xing, ранее называвшейся TeleChat, разработанная China Telecom Artificial Intelligence Technology Co., Ltd. Это плотная причинная языковая модель с архитектурой Xing4_0; по README она содержит 29 млрд параметров, из которых активны 4 млрд на токен, а метаданные указывают 6,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и контекст длиной 262 144 токена, который, согласно README, можно расширить до 512 тыс. Модель предназначена для рассуждений, программирования, многошагового планирования и агентных сценариев с вызовом инструментов. Её можно применять для вопросов и ответов по знаниям, понимания таблиц, классификации намерений и аудита контрактов, а также дообучать на данных конкретной предметной области. Для запуска заявлена совместимость с Transformers, vLLM, SGLang и KTransformers; указан формат весов safetensors. Модель разработана и обучалась на Ascend NPU с MindSpore, однако эти сведения сами по себе не ограничивают выбор инфраструктуры для инференса. Карточка не сообщает поддерживаемые естественные языки. Лицензия Apache-2.0. Метаданные и README расходятся в размере модели: 6,5 млрд параметров в метаданных против 29 млрд общих и 4 млрд активных на токен в README.

Blossom-V7.1-35B-A3B — открытая мультимодальная модель общего назначения от разработчиков семейства Blossom, дообученная на базе Qwen3.6-35B-A3B. Она принимает текст и изображения и предназначена для диалогов, ответов на вопросы, математики, рассуждений, программирования, веб-разработки, визуализации данных и агентных сценариев с вызовом инструментов. Модель построена на архитектуре Qwen3.5 MoE; в названии варианта указано 35B-A3B. Поддерживает режимы рассуждения medium и max, вызов инструментов с промежуточным рассуждением и контекст до 262 144 токенов, при этом для лучших результатов рекомендуется до 131 072 токенов. Доступны веса Safetensors; README также описывает запуск через Transformers, vLLM и llama.cpp для соответствующих вариантов. Для многоходового диалога нужно сохранять полные сообщения ассистента, включая поля рассуждений и вызовы инструментов. Модель рассчитана на локальное развёртывание и гибридный CPU/GPU-инференс. Для корректной работы требуется встроенный шаблон чата Blossom; замена его на шаблон Qwen может нарушить работу. Лицензия — Apache-2.0. В README указано, что обучающие данные планируют выпустить позднее.

Cogito v2.1 — инструктивная языковая модель Deep Cogito на архитектуре DeepSeek V3, дообученная на базе deepseek-ai/DeepSeek-V3-Base. В README модель названа вариантом MoE на 671 млрд параметров, однако метаданные репозитория указывают 37,6 млрд параметров и класс DeepseekV3ForCausalLM; поэтому фактический размер именно этого чекпойнта требует осторожной интерпретации. Модель принимает текст и генерирует текст, поддерживает диалог, вызов инструментов и гибридный режим рассуждений: может отвечать напрямую или сначала рассуждать и проверять ответ. Указаны контекст до 128 тысяч токенов в README и 163 840 токенов в метаданных. Модель предназначена для программирования, задач STEM, следования инструкциям, общих диалогов и сценариев с вызовом инструментов. В README заявлена поддержка более 30 языков и обучение с использованием итеративной дистилляции и усиления (IDA). Модель распространяется по лицензии MIT, допускающей коммерческое использование. Для запуска описанного в README варианта на 671 млрд параметров в BF16 требуется значительная вычислительная инфраструктура; там же рекомендуется FP8-версия для сервинга на восьми H200.

Cogito v2 Preview 70B — диалоговая языковая модель с настройкой по инструкциям, разработанная командой DeepCogito на основе Meta Llama 3.1 70B. Это плотная авторегрессионная модель примерно на 69,5 млрд параметров для генерации текста; она работает в стандартном режиме или может включать расширенное рассуждение и самоанализ. Для включения режима рассуждения в Transformers предусмотрен параметр enable_thinking в шаблоне чата либо специальная системная инструкция. Модель предназначена для программирования, задач STEM, следования инструкциям и общих диалогов. В README заявлена поддержка инструментов, параллельных вызовов инструментов и более чем 30 языков. Контекст составляет до 128 тысяч токенов по README и 131 072 токена по метаданным. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия Llama 3.1 разрешает коммерческое использование на условиях лицензии Meta.

opensourcerelease/DeepSeek-R1-bf16 — версия модели DeepSeek-R1, опубликованная в формате BF16. README описывает DeepSeek-R1 как модель рассуждений DeepSeek, обученную на основе DeepSeek-V3-Base с использованием этапов контролируемого обучения и масштабного обучения с подкреплением. Метаданные указывают архитектуру DeepSeek V3, 37,6 млрд параметров и контекст до 163 840 токенов. Модель предназначена для генерации текста в диалогах и решения задач, требующих многошаговых рассуждений, в том числе по математике, программированию и общим вопросам. README отмечает способности к самопроверке и рефлексии; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Модель опубликована под лицензией MIT. README отмечает, что у предшественника DeepSeek-R1-Zero наблюдались повторы, низкая читаемость и смешение языков; для этой версии подобных ограничений в карточке отдельно не перечислено.

Dolphin 2.9.4 Llama 3.1 8B — диалоговая модель на архитектуре Llama 3.1, дообученная Эриком Хартфордом и Cognitive Computations на базе Meta-Llama-3.1-8B. Она содержит около 7,5 млрд параметров, использует формат ChatML и поддерживает контекст до 131 072 токенов; при дообучении использовалась длина последовательности 8 192 токена. Модель предназначена для диалога и следования инструкциям, написания и разбора кода, математических задач и сценариев с агентными функциями и вызовом инструментов. В карточке заявлена поддержка инструкций на многих языках и высокая подчиняемость системным инструкциям. Это неконтент-фильтрованная модель, поэтому для публичного сервиса разработчик рекомендует самостоятельно добавить слой выравнивания. Распространяется по лицензии Llama 3.1.

Карточка модели rector89/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

MLX-версия модели K2-Horizon-7B-oQ6e — квантованная конверсия IFM/K2-Horizon-7B, разработанной командой IFM. Модель относится к семейству K2 Horizon и предназначена для генерации текста, рассуждений, программирования, работы с инструментами и многошаговыми диалогами. Конверсия выполнена в формате MLX с использованием смешанной 6-битной квантизации oQ6e, оптимизированной для Apple Silicon. Модель имеет плотную архитектуру и около 7 миллиардов параметров, поддерживает контекст до 512 тысяч токенов и работает с текстом. Она ориентирована на задачи, требующие развитого рассуждения, включая разработку ПО, работу в терминале, банковские сценарии, поиск и анализ информации, а также математические задачи. Для получения наилучших результатов рекомендуется использовать высокий уровень усилий рассуждения reasoning_effort="high". Модель поддерживает специальные блоки рассуждений, вызовы инструментов и многоходовые беседы через пользовательский шаблон чата IFM. В README приведены результаты тестирования исходной K2-Horizon-7B: 70,6% в SWE-bench Verified, 39,06% в Terminal-Bench 2.1, 25,8% в tau3-Banking, 59,0% в BrowseComp и 73,3% в HMMT February 2026. Ограничения связаны с необходимостью использовать MLX-совместимую среду и oMLX версии 0.6.4 или новее с патчем поддержки типа модели k2_horizon; без него модель не загрузится. Модель распространяется по лицензии Apache-2.0, как и исходная модель.

NVIDIA Kimi-K3-NVFP4 — квантизированная версия мультимодальной модели Kimi-K3, разработанной Moonshot AI и оптимизированной NVIDIA с помощью Model Optimizer. Это авторегрессионная transformer-модель архитектуры Mixture-of-Experts с компонентами Kimi Delta Attention, Attention Residuals и Stable LatentMoE. Объём модели составляет 2,8 трлн параметров, при этом для каждого токена активируются 16 из 896 экспертов. Версия NVFP4 — 1.0, квантизация выполнена с использованием nvidia-modelopt v0.45.0. Модель предназначена для генерации текста и кода, длительных задач программирования, глубокого рассуждения, разработки игр, end-to-end knowledge work и мультимодальных агентских сценариев. Она принимает текст, изображения и видео, а её нативное контекстное окно составляет 1 048 576 токенов. На выходе формируется текст, включая естественно-языковые ответы, код, структурированный JSON, запросы инструментов и инструкции для координации агентов. Поддерживаются vLLM и SGLang; целевая аппаратная платформа — NVIDIA Blackwell B200 и B300 под Linux. К сильным сторонам относятся мультимодальность, чрезвычайно длинный контекст, MoE-архитектура и готовность к развёртыванию на NVIDIA GPU, включая NVFP4-квантизацию. Ограничения связаны с высокой общей размерностью модели и требованиями к специализированной аппаратуре; размер и свойства обучающих данных не раскрыты. Модель рассчитана на коммерческое и некоммерческое использование, однако её применение регулируется NVIDIA Open Model Agreement и дополнительными условиями лицензии Kimi-K3.

Sawfwair подготовила вариант Meta Muse-Glimmer-30B для запуска на Apple Silicon через MLX и среду mere.run. Это плотная мультимодальная модель с причинным трансформером и визуальным энкодером; базовая модель содержит около 29,6 млрд параметров. В этой сборке применена выборочная 4-битная аффинная квантизация с размером группы 64: часть матриц квантована, а визуальный энкодер, эмбеддинги токенов и некоторые другие веса сохранены в BF16. Модель предназначена для диалоговых агентных задач с текстом и изображениями: анализа скриншотов, графиков, документов и изображений, планирования шагов, вызова инструментов, программирования и генерации синтетических данных. Она принимает текст и изображения и выдаёт текст. Карточка описывает Muse Glimmer как коммерческую и исследовательскую модель; для этой сборки указана лицензия Apache-2.0. Модель может ошибаться в многошаговых рассуждениях и давать неточные, предвзятые или нежелательные ответы. Квантизация может немного ухудшать качество в отдельных случаях; качество также может быть ниже на языках, которые недостаточно представлены в оценках. Вход и выход аудио не поддерживаются.

microsoft/phi-4-gguf — GGUF-версия модели phi-4, разработанной Microsoft Research. Это открытая языковая модель для генерации текста, ориентированная преимущественно на английский язык. Она предназначена для исследовательских задач, создания генеративных функций и универсальных AI-систем, особенно в средах с ограниченными ресурсами и требованиями к низкой задержке, а также для задач рассуждения, логики, математики, программирования, диалогового взаимодействия и следования инструкциям. Модель построена как плотный decoder-only Transformer с 14 млрд параметров и поддерживает текстовые входы и выходы. Контекстное окно составляет 16K токенов; рекомендуемый формат взаимодействия — chat-промпты. Обучение проводилось на 9,8 трлн токенов в период с октября по ноябрь 2024 года, а выпуск состоялся 12 декабря 2024 года. Данные включали синтетические учебные материалы, отфильтрованные общедоступные документы, код, академические книги, наборы вопросов и ответов и данные для supervised fine-tuning и direct preference optimization. Мультиязычные данные составляли около 8% корпуса, поэтому основной акцент сделан на английском языке. К сильным сторонам относятся компактный для своих возможностей размер, ориентация на рассуждение и логические задачи, а также дополнительное выравнивание для соблюдения инструкций и повышения безопасности. Ограничения включают статичность модели и отсечение общедоступных данных июнем 2024 года, преимущественную ориентацию на английский язык и необходимость самостоятельной проверки точности, безопасности, справедливости и соответствия требованиям законодательства в конкретных сценариях, особенно в высокорисковых областях. Модель распространяется по лицензии MIT.

SIQ-1-35B — дообученная и дистиллированная модель семейства Qwen, разработанная AlexWortega на базе Qwen/Qwen3.6-35B-A3B. Это текстовая MoE-модель для генерации текста с 35 млрд параметров суммарно и примерно 3 млрд активных параметров на каждом токене. Модель ориентирована на английский язык и поддерживает гибридный режим рассуждений: пошаговое мышление с блоком <think> или прямую генерацию ответа. Модель предназначена для универсальных агентных сценариев, включая автономное ML-исследование, написание и отладку кода, использование инструментов, планирование действий и сложное рассуждение. В README заявлены сильные результаты на GPQA-Diamond, IFEval, агентном кодинге и задачах autoresearch; также отмечается сниженный расход токенов по сравнению с рядом более крупных моделей. Режим reasoning effort позволяет регулировать длину рассуждений, а отключение мышления подходит для быстрых ответов и задач с высокой пропускной способностью. Приведённые результаты зависят от квантизации, формата вычислений, настроек генерации и тестового стенда; часть сравнений выполнена на Q4_K_M GGUF, а результаты autoresearch не сопоставимы с официальными рейтингами из-за ограничений оборудования. Контекстное окно и мультимодальные возможности в README не указаны, поэтому модель следует рассматривать как текстовую. Модель распространяется по лицензии Apache-2.0.

Athena-1 3B — дообученная языковая модель для следования инструкциям, созданная на базе Qwen/Qwen2.5-3B-Instruct. Модель разработана для диалогов и генерации текста в компактных приложениях; она имеет архитектуру Qwen2 с 3,1 млрд параметров и поддерживает контекст до 32 768 токенов, а длина генерируемого ответа может достигать 8 000 токенов. Модель предназначена для создания чат-ботов, генерации и объяснения кода, решения математических задач, анализа документов и работы со структурированными данными, включая JSON и таблицы. README заявляет поддержку более 29 языков, в том числе английского, русского, китайского, французского, испанского, немецкого и японского; метаданные карточки отдельно подтверждают английский язык. Модель работает с текстом и может выдавать структурированные текстовые ответы. Это компактная модель для сценариев, где важны скорость и умеренные вычислительные ресурсы. Указанная лицензия — other; конкретные условия лицензии в предоставленных данных не раскрыты.

DeepSeek-V2.5 — языковая модель компании DeepSeek, объединяющая возможности DeepSeek-V2-Chat и DeepSeek-Coder-V2-Instruct. Она предназначена для диалога, следования инструкциям, письма и генерации кода, а также поддерживает вызов внешних инструментов, JSON-вывод и заполнение пропусков в коде методом FIM. Модель построена на архитектуре DeepSeek-V2 и содержит 18,1 млрд параметров; для инференса в BF16 авторы указывают требование в 8 GPU по 80 ГБ. Контекстное окно составляет 163 840 токенов. Для запуска доступны веса safetensors и библиотека Transformers. README сообщает об улучшении результатов относительно предыдущих версий DeepSeek в нескольких оценках, включая AlpacaEval 2.0 и ArenaHard. Лицензия указана как other, поэтому условия использования следует уточнить в материалах репозитория. Среди практических ограничений — высокая потребность в GPU-памяти при запуске в BF16; README не описывает поддерживаемые естественные языки.

Карточка модели manaladan6/HYDRALINK на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели foranyone2026/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Valiant Labs разработала Esper 4 — дообученную мультимодальную модель на базе Muse-Glimmer-30B для программирования, проектирования систем и задач DevOps и MLOps. Модель рассчитана на работу как чат- и кодовый помощник, в том числе в агентных сценариях и при разработке, развёртывании и эксплуатации ИИ-систем. Архитектура — плотная Muse Glimmer; модель принимает текст и изображения и выдаёт текст. В метаданных указан английский язык, поддержка зрения и формат весов safetensors. README описывает обучение на сложных примерах для DevOps, архитектуры, программирования и разработки ИИ, включая данные, созданные с помощью DeepSeek-V4-Pro. Модель распространяется по лицензии Apache-2.0. Заявления о запуске на настольных и мобильных устройствах приведены в README, но фактические требования к памяти и производительность не уточнены; также не указана длина контекста.

Richard Young выпустил эту версию Qwen3.6-27B, обработанную методом abliteration с помощью Heretic v1.4.0, чтобы снизить частоту отказов. Это плотная модель Qwen с 27 млрд параметров, причинной языковой моделью и визуальным энкодером; карточка описывает её как мультимодальную разговорную модель с поддержкой зрения. Веса опубликованы в формате Safetensors и совместимы с Transformers и указанными в README движками инференса. Модель предназначена для диалога, анализа изображений, программирования и агентных сценариев с использованием инструментов. Она поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. В сравнении с исходной Qwen3.6-27B в README указаны 38 отказов из 100 против 91 из 100 и KL-дивергенция 0,0254. Это может означать более редкие отказы, но не гарантирует точность или безопасность ответов. Лицензия — Apache-2.0.

Карточка модели 21g/Xing4.0-29B-A4B на Hugging Face совпадает с карточкой XingChen-AGI/Xing4.0-29B-A4B, поэтому описание составлено по ней. Xing4.0-29B-A4B — большая языковая модель серии Xing, ранее называвшейся TeleChat, разработанная China Telecom Artificial Intelligence Technology Co., Ltd. Это плотная причинная языковая модель с архитектурой Xing4_0; по README она содержит 29 млрд параметров, из которых активны 4 млрд на токен, а метаданные указывают 6,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и контекст длиной 262 144 токена, который, согласно README, можно расширить до 512 тыс. Модель предназначена для рассуждений, программирования, многошагового планирования и агентных сценариев с вызовом инструментов. Её можно применять для вопросов и ответов по знаниям, понимания таблиц, классификации намерений и аудита контрактов, а также дообучать на данных конкретной предметной области. Для запуска заявлена совместимость с Transformers, vLLM, SGLang и KTransformers; указан формат весов safetensors. Модель разработана и обучалась на Ascend NPU с MindSpore, однако эти сведения сами по себе не ограничивают выбор инфраструктуры для инференса. Карточка не сообщает поддерживаемые естественные языки. Лицензия Apache-2.0. Метаданные и README расходятся в размере модели: 6,5 млрд параметров в метаданных против 29 млрд общих и 4 млрд активных на токен в README.

MaziyarPanahi/calme-2.2-llama3.1-70b — языковая модель, дообученная Maziyar Panahi на базе Meta Llama 3.1 70B Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на генерацию текста и диалог в формате ChatML. Заявленная длина контекста — 131 072 токена; модель работает через библиотеку Transformers и распространяется в формате safetensors. Модель предназначена для ответов на вопросы, чат-ботов и виртуальных помощников, создания и суммаризации текстов, генерации и анализа кода, а также решения сложных задач. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество в конкретном приложении. Указанный в метаданных датасет дообучения — MaziyarPanahi/truthy-dpo-v0.1-axolotl. README предупреждает о возможных смещениях и ограничениях больших языковых моделей и рекомендует применять защитные меры и проверку человеком. Лицензия в предоставленных данных не указана.

unsloth/cogito-v2-preview-llama-405B-GGUF — GGUF-версия большой языковой модели Cogito v2 preview 405B, разработанной DeepCogito и подготовленной Unsloth. Это инструкционно дообученная генеративная модель для коммерческого использования, ориентированная на программирование, задачи STEM, выполнение инструкций, общую полезность и вызов инструментов. Модель является гибридной reasoning-моделью: она может отвечать напрямую в стандартном режиме или выполнять дополнительное саморефлексивное рассуждение перед ответом. Для обучения использовалась стратегия Iterated Distillation and Amplification (IDA). Модель обучена более чем на 30 языках и поддерживает контекст длиной до 128 тысяч токенов. В README заявлены повышенные возможности в многоязычных задачах, программировании и tool calling по сравнению с сопоставимыми по размеру моделями, а также превосходство на ряде отраслевых бенчмарков, однако конкретные числовые результаты для GGUF-версии не приведены. Вариант GGUF предназначен для использования с совместимыми инструментами локального запуска, включая llama.cpp; для корректного применения шаблона чата в llama.cpp рекомендуется параметр --jinja. Для включения расширенного рассуждения требуется поддержка параметра enable_thinking=True в chat template либо специальная системная инструкция и предварительная вставка тега <think>. К ограничениям относятся очень большой размер модели и, как следствие, высокие требования к памяти и вычислительным ресурсам; точные требования зависят от используемой квантизации, но её параметры в README не указаны. Модель распространяется по лицензии llama3.1, обозначенной как открытая лицензия с разрешением коммерческого использования.

AndrewAndrewsen/distilbert-secret-masker — дообученная модель DistilBERT для обнаружения и разметки секретов в английском тексте. Она использует архитектуру DistilBertForTokenClassification с BIO-метками B-SECRET, I-SECRET и O, содержит 66 млн параметров и рассчитана на последовательности длиной до 512 токенов. Модель предназначена для поиска API-ключей, токенов и учётных данных в коротких и средних текстах, например в коммитах, журналах и выводе API. Модель описана как быстрый эксперт системы SecMask; для типичных запросов автор указывает задержку около 11 мс на CPU. Самостоятельно модель показывает точность 82% и полноту 38% на приведённой оценке. В сочетании с детерминированными фильтрами для отдельных форматов секретов README сообщает точность 92,3% и полноту 80%, поэтому для сканирования с высокой полнотой рекомендуется использовать постобработку. Модель может пропускать секреты, особенно новые типы и необычно оформленные значения; она не предназначена для неанглийского текста, бинарных данных, изображений или длинных документов. Лицензия — Apache-2.0.

GLM-4.5-Air-GGUF — это квантизированная в формате GGUF версия гибридной reasoning-модели GLM-4.5-Air, подготовленная Unsloth на базе модели Z.ai (Zhipu AI). Модель предназначена для создания интеллектуальных агентов, сложного рассуждения, программирования, использования инструментов и генерации текста. Она поддерживает два режима работы: thinking mode для задач, требующих многошагового рассуждения и tool usage, и non-thinking mode для быстрых ответов. GLM-4.5-Air использует архитектуру с 106 миллиардами общих параметров и 12 миллиардами активных параметров. Модель относится к текстовым моделям и заявлена для работы на английском и китайском языках. GGUF-версия ориентирована на локальный запуск, в том числе через llama.cpp; для него в README рекомендуется использовать параметр --jinja. Вариант Unsloth включает исправления chat template и использует подход Unsloth Dynamic 2.0, направленный на сохранение высокой точности при квантизации. Сильными сторонами модели являются сочетание рассуждения, программирования и агентных возможностей, а также более компактная и эффективная конфигурация по сравнению с GLM-4.5 при сохранении конкурентных результатов на заявленных тестах. Ограничения включают отсутствие в README подробностей о конкретном типе квантизации, поддерживаемой длине контекста, полном наборе языков, требованиях к оборудованию и результатах для всех отдельных бенчмарков. Модель и исходные версии GLM-4.5-Air выпускаются под лицензией MIT, допускающей коммерческое использование и вторичную разработку.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-mlx-oQ8e — мультимодальная версия модели GLM-5.3-Flash с открытыми от цензуры весами. Исходную архитектуру разработала Zhipu AI (ZAI), uncensored-веса предоставила dealignai, а смешанную MLX-квантизацию oQ8e подготовила Solstice-AI. Модель предназначена для генерации и анализа текста, программирования, математического и общего рассуждения, а также понимания изображений и видео. Указаны языки English и Chinese. Модель основана на разреженной MoE-архитектуре с 320 млрд общих параметров, 288 экспертами и примерно 18 млрд активных параметров на токен. Она поддерживает контекст до 1 048 576 токенов, мультимодальное понимание изображений и видео и запуск на Apple Silicon через MLX. Используется смешанная точность около 8,6 бит на вес: критичные для маршрутизации и вывода слои сохраняются в 8-битном формате, vision tower и мультимодальный aligner — в BF16, а отдельные таблицы — в BF16/FP32. В комплект входит DFlash2 для speculative decoding, заявленное ускорение — до 3 раз. Сильными сторонами являются большой контекст, сочетание текстовых и визуальных возможностей, высокая заявленная производительность в программировании, математике и видеоанализе, а также оптимизация для чипов Apple M2–M5. Ограничения включают значительный размер модели и зависимость от совместимого оборудования и MLX; заявленная uncensored-настройка может требовать самостоятельного контроля безопасности при использовании. Лицензия — MIT.

RadixArk/GLM-5.3-NVFP4 — текстовая языковая модель, представляющая собой квантованную производную GLM-5.3-BF16 от Z.ai. Квантование выполнено RadixArk с использованием NVIDIA Model Optimizer; RadixArk не обучала и не дообучала модель. Модель предназначена для агентной разработки, программирования, длительного использования инструментов и задач рассуждения. Архитектура — Transformer со Sparse Mixture-of-Experts и разреженным вниманием: 78 декодерных слоёв, включая 3 плотных MLP и 75 MoE-слоёв, 753 млрд параметров всего и около 40 млрд активируемых на токен. В MoE-слоях используется 256 маршрутизируемых экспертов с выбором 8 экспертов и один общий эксперт. Модель принимает и генерирует текст, поддерживает английский и китайский языки, а длина контекста достигает 1 048 576 токенов. Ключевое преимущество — существенное уменьшение размера checkpoint с 1 507 до 465 ГБ за счёт NVFP4 W4A4-квантования части параметров при сохранении ряда компонентов в BF16. Указаны высокие результаты на GSM8K, AIME 2026, Terminal-Bench 2.1 и DeepSWE, однако базовая модель может выдавать неточные, неполные, нерелевантные или нежелательные ответы, поэтому необходимы проверка результатов и защитные меры. Checkpoint рассчитан на запуск через SGLang на Linux и совместим прежде всего с GPU NVIDIA Blackwell; конфигурация проверена на B300. Условия использования определяются лицензией Z.AI Model License, указанной как MIT-style.

Карточка модели babyfacez/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Карточка модели FAISALFAZALHUSSAIN/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Карточка модели macintushar/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Карточка модели rayrickypp/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Llama-3.1-Nemotron-Ultra-253B-v1-FP8 — большая языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это плотный decoder-only Transformer с архитектурой, оптимизированной методом Neural Architecture Search: блоки могут содержать пропущенное внимание, переменное соотношение FFN и объединённые FFN. В README указано 253 млрд параметров; метаданные Hugging Face указывают 697,9 млрд параметров. Модель распространяется в формате FP8 и работает через Transformers. Модель предназначена для рассуждений, диалогов, следования инструкциям, генерации кода, retrieval-augmented generation, вызова инструментов и построения AI-агентов и чат-ботов. Она поддерживает текстовый ввод и вывод с контекстом до 131 072 токенов, а основным языком является английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. NAS-оптимизация направлена на уменьшение потребления памяти и задержки при сохранении качества и позволяет запускать модель на одном узле с 8 H100 для инференса. Модель ориентирована на коммерческое использование, однако требует значительных вычислительных ресурсов и специализированной инфраструктуры. Данные предварительного обучения имеют срез 2023 года, поэтому модель может не знать более свежие факты. Архитектура нестандартна относительно исходной Llama и может требовать совместимого программного стека. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement.