II.7DevOps, облако и эксплуатация IT-систем

GlaiveAI разработала Glaive-coder-7b — плотную авторегрессионную языковую модель семейства Llama для помощи в программировании. Модель содержит 6,6 млрд параметров и дообучена на CodeLlama-7b на наборе примерно из 140 тысяч синтетически созданных задач и решений по программированию. Модель предназначена для генерации и объяснения кода, выполнения отдельных инструкций и многоходовых диалогов с помощником по коду. Она принимает текстовые запросы и выдаёт текст, включая программный код; заявленная длина контекста — 16 384 токена. В README приведены результаты pass@1: 63,1% на HumanEval и 45,2% на MBPP, при этом авторы отмечают, что эти тесты не полностью отражают использование в реальных условиях. Модель распространяется по лицензии Llama 2. Результаты для конкретных языков программирования и качество на практических задачах в предоставленных материалах не уточняются.

Granite-34B-Code-Instruct-8K — языковая модель IBM Research с 34 млрд параметров, дообученная на инструкционных данных на основе Granite-34B-Code-Base-8K. Она предназначена для ответов на запросы по программированию и создания помощников для разработки; обучение включало данные о коммитах кода, примеры инструкций по коду и вызову функций, задачи NL2SQL, математику и общие инструкции. Модель использует архитектуру GPTBigCode и принимает текстовые запросы, выдавая текстовые ответы; контекст — до 8192 токенов. Модель подходит для генерации, объяснения и исправления кода, решения связанных с программированием задач и помощи с SQL. Данные инструкционного дообучения охватывают 92 языка программирования, однако качество на языках и задачах вне обучающего распределения может быть ниже; для критичных применений IBM рекомендует тестирование безопасности и целевую настройку. Разработчик не рекомендует применять её в новых проектах и предоставляет её для исторических и научных целей. Лицензия — Apache 2.0.

Granite-4.1-8B-TNG-Coder-V11-2800-Heretic-BF16 — объединённая модель на базе IBM Granite-4.1-8B и нескольких производных Granite-чекпойнтов. Автор карточки сообщает о дополнительном обучении на задачах серверной разработки с примерами на Haskell, Go и Python, а также о дистилляции ответов Qwen и Claude. Модель использует плотную архитектуру GraniteForCausalLM, содержит 8,4 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и кода в диалоговом режиме; режим рассуждений включён по умолчанию. Её можно применять для помощи при разработке серверной части, написания и объяснения кода и ответов на технические вопросы. В метаданных указаны библиотека Transformers и формат safetensors. Лицензия — Apache-2.0. Заявленная специализация на серверной разработке и приведённые в карточке результаты тестов не дают полной оценки качества на реальных задачах. В описании также нет подробных сведений о тестировании, рекомендуемых настройках генерации или поддерживаемых языках естественного общения.

Hemlock-Qwopus3.5-9B-Coder-i1-GGUF — квантизированная версия модели Hemlock-Qwopus3.5-9B-Coder, опубликованная mradermacher и созданная на базе nbeerbower/Hemlock-Qwopus3.5-9B-Coder. Модель дообучалась на наборах hemlang/Hemlock2-DPO, hemlang/hemlock-formulary-SFT и hemlang/hemlock-codex-SFT; для базовой версии заявлено около 9 млрд параметров. В карточке также указаны теги vision-language-model и image-text-to-text, поэтому модель предназначена для работы с текстом и изображениями, включая задачи генерации и анализа кода, однако подробные сценарии применения не описаны. Распространяется в формате GGUF с imatrix-квантизациями различных уровней — от i1-Q2_K до i1-Q6_K, размером примерно от 4,0 до 7,7 ГБ. Для запуска мультимодальных возможностей могут потребоваться файлы mmproj из статического репозитория. Заявлен английский язык; сведения о размере контекста, точной архитектуре, поддерживаемых форматах изображений и результатах тестирования отсутствуют. Более компактные варианты требуют меньше памяти, а варианты более высокого качества занимают больше места; в README отдельно отмечены рекомендации по i1-Q4_K_M как быстрому варианту и i1-Q4_K_S как компромиссу размера, скорости и качества. Лицензия в карточке модели не указана, поэтому условия коммерческого и иного использования необходимо уточнять отдельно. Модель опубликована как набор готовых квантованных файлов и также содержит imatrix-файл для самостоятельного создания квантов.

Kimi-K3-REAP73-MLX-mxfp4-q8 — это сильно разреженная и конвертированная в формат MLX версия мультимодальной MoE-модели Kimi-K3, разработанной Moonshot AI. Модель предназначена для локального запуска на компьютерах Apple Silicon с большим объёмом unified memory, прежде всего для генерации текста и программного кода через mlx-lm. Она сохраняет 793 млрд параметров из исходных 2,78 трлн, включая 104 млрд активных параметров, и рассчитана на контекст до 1 млн токенов. Архитектура включает Kimi Delta Attention, Attention Residuals, LatentMoE и 92 MoE-слоя; из 896 экспертов в каждом слое сохранены 242, при этом на токен маршрутизируются 16 экспертов. Заявлена поддержка английского, китайского и ряда других языков, включая японский, русский, корейский, немецкий, французский, испанский и арабский, а также мультимодальных сценариев исходной модели, хотя подробности о поддерживаемых входных форматах здесь не приведены. Ключевое преимущество модели — возможность загрузки примерно 451 ГБ весов на Apple Silicon с 512 ГБ памяти. Экспертные веса используют MXFP4 без дополнительной потери точности при конвертации: сохранённые тензоры являются побитовой копией исходных. На M3 Ultra с 512 ГиБ заявлена скорость генерации около 5,51 токена в секунду. Модель особенно хорошо сохраняет структурную корректность генерации кода, однако агрессивное удаление экспертов заметно ухудшает общие языковые способности: возможны уход в спискообразные или похожие на исходный код продолжения, повторы и деградация качества по сравнению с полной Kimi-K3. Сокращение числа сохранённых экспертов уменьшает требования к памяти, но почти не ускоряет генерацию. Для работы требуются mlx-lm и поставляемый загрузчик kimi_k3.py; практическое использование рассчитано на систему Apple Silicon с 512 ГБ памяти и настройкой лимита wired GPU memory. Модель распространяется с лицензией other, с указанием license_name kimi-k3; дополнительные условия этой лицензии в README не приведены.

Llama3.1-TheiaFire-DarkFusion-8B — плотная языковая модель семейства Llama, созданная ZeroXClem слиянием четырёх моделей методом TIES. Она содержит 7,5 млрд параметров и принимает текст для генерации текстовых ответов; заявленная длина контекста — 131 072 токена. Модель рассчитана на диалог, технические рассуждения и генерацию кода, а также на анализ криптовалют и блокчейн-проектов, творческое письмо и ролевые сценарии. В карточке указаны специализация компонентов на криптовалютах, агентных задачах и коде, творческой генерации без ограничений и обобщении на новые задачи. Заявлены инструменты для поиска и вычислений, но доступность этих функций зависит от способа интеграции. README также предупреждает, что токенизатор может испытывать трудности с системными промптами в LM Studio, и отмечает риск предвзятых или неподходящих ответов. Лицензия — Apache 2.0.

Модель dbands/llama-3-8b-instruct_code_instructions_122k_alpaca_style_16bit — дообученная автором dbands языковая модель семейства Llama 3 с архитектурой LlamaForCausalLM. Она предназначена для генерации текста по инструкциям; название репозитория указывает на формат инструкций Alpaca и тематику кода, но README не описывает конкретные возможности или результаты обучения. Модель содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст до 8192 токенов. Модель дообучена на базе unsloth/llama-3-8b-bnb-4bit с использованием Unsloth и Hugging Face TRL. В карточке указана лицензия Apache 2.0. Метаданные отмечают английский язык; сведений о гарантированном качестве ответов или ограничениях для отдельных сценариев в карточке нет.

NektusAISaracatsuna — языковая модель SakitsunaAI, дообученная на базе deepseek-ai/deepseek-coder-1.3b-instruct. Она предназначена для генерации текста в диалоговом формате и может применяться для помощи с программным кодом, включая его генерацию и дополнение. Модель построена на плотной архитектуре семейства Llama, содержит 1,3 млрд параметров и поддерживает контекст до 16 384 токенов. В репозитории представлены веса Safetensors. Карточка сообщает, что обучение выполнялось с Unsloth; лицензия — Apache-2.0. Языком модели в метаданных указан английский. Подробности обучающих данных и оценок качества не приведены, поэтому пригодность модели для конкретных языков программирования и сложных задач следует проверять на собственных примерах.

Kukedlc выпустил экспериментальную плотную авторегрессионную модель семейства Mistral на 7,1 млрд параметров, дообученную на базе Kukedlc/NeuralExperiment-7b-dare-ties. По карточке, обучение было направлено на исправление ошибки «INSTINST» и охватывало математические задачи, логические рассуждения и программирование; использовались наборы Orca Math, Magicoder Evol Instruct и Tested Python Alpaca. Модель принимает текст и генерирует текст, а её контекстное окно составляет 32 768 токенов. Модель подходит для генерации и объяснения кода, решения математических задач и логических головоломок. Автор описывает результаты как предварительные и отмечает, что влияние обучения на качество рассуждений ещё оценивается. Репозиторий распространяется под лицензией Apache-2.0.

Olmo2-7B-Breadcrumbs-v1 — объединённая текстовая языковая модель, созданная Alelcv27 методом mergekit Breadcrumbs на основе OLMo-2-1124-7B-Instruct и моделей Olmo2-7B-Code и Olmo2-7B-Math-CoT. Она предназначена для генерации текста в диалогах и сочетает возможности следования инструкциям с решением задач по программированию и математике. Модель имеет плотную архитектуру OLMo 2 с причинным декодированием, содержит 6,9 млрд параметров и рассчитана на контекст до 4096 токенов. Репозиторий использует формат safetensors, для работы применяется Transformers. Основной язык базовой модели — английский; сведения о поддержке других языков не приведены. Модель подходит для диалоговых ответов, генерации и объяснения кода, а также пошагового решения математических задач. Качество на этих задачах отдельно не подтверждено в карточке, а объединение нескольких моделей может приводить к непредсказуемым результатам. Условия лицензии в предоставленных данных не указаны.

Agnuxo/Qwen2-1.5B-Instruct_MOE_CODE_assistant-GGUF_16bit — локальная чат-модель для генерации и помощи с программным кодом, опубликованная независимым исследователем Francisco Angulo de Lafuente. Это конверсия Qwen2-1.5B-Instruct в формат GGUF с точностью F16; в карточке заявлено 1,5 млрд параметров. Модель предназначена для работы через Ollama или Transformers и ориентирована на написание кода на Python, JavaScript, TypeScript, Rust, Go и C++, а также на задачи научных вычислений и машинного обучения. Модель принимает текст и генерирует текст; метаданные указывают архитектуру Qwen2, чат-возможности и английский и испанский языки карточки. README также заявляет навыки координации агентов и интеграции MCP и A2A. Репозиторий распространяется под лицензией Apache-2.0. Заявления README о наградах и результатах связанных проектов не подтверждают качество этой модели и не использованы как гарантии её возможностей.

armand0e/Qwen3.6-35B-A3B-Fable-5-Distill — мультимодальная модель семейства Qwen3.5 MoE, дообученная armand0e на базе Qwen/Qwen3.6-35B-A3B. Она предназначена для диалогов, анализа изображений и агентных сценариев программирования; поддерживает интерфейс вызова инструментов. В метаданных указан английский язык, архитектура Qwen3_5MoeForConditionalGeneration и формат safetensors. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и изображения и генерирует текст. Репозиторий распространяется по лицензии Apache-2.0. README не сообщает размер контекстного окна или конкретные результаты оценки качества.

Qwevolution-V0-27B — опубликованная groxaxo объединённая версия мультимодальной модели Qwen3.5-27B-Writer-V2. К весам базовой модели ConicCat/Qwen3.5-27B-Writer-V2 применён обученный адаптер LoRA для задач программирования, первоначально обученный на другой модели той же линейки. Слияние выполнено в формате bfloat16; результат опубликован в safetensors и предназначен для Transformers. Модель принимает текст и изображения и выдаёт текст; заявленная задача в Hugging Face — image-text-to-text. Адаптер затрагивал языковую часть, а его веса для 111 модулей визуальной части были нулевыми, поэтому визуальная часть осталась такой же, как у базовой модели. Карточка описывает выпуск как предназначенный для оценки, экспериментов и совместимого локального или облачного инференса. Лицензия — Apache-2.0. Ответы модели могут быть неточными; поведение и качество следует проверять для конкретного сценария. Для запуска нужна среда, совместимая с архитектурой, форматом и мультимодальностью модели; требования к оборудованию зависят от параметров запуска и доступной памяти.

Redmond-Hermes-Coder 15B — языковая модель Nous Research, дообученная Teknium и Karan4D на базе WizardCoder, использующей StarCoder. Это плотная авторегрессионная модель GPTBigCode для генерации текста и кода; она была обучена на более чем 300 тысячах инструкций, преимущественно на синтетических ответах GPT-4. Модель принимает текстовые инструкции в формате Alpaca и генерирует текстовые ответы. В метаданных указан контекст 8192 токена и поддержка английского языка. Модель предназначена для генерации и объяснения кода, выполнения инструкций, а также творческого письма и других общих текстовых задач. README сообщает о HumanEval 39%: результат ниже WizardCoder, хотя авторы отмечают, что в разнообразных некодовых задачах модель выглядит лучше WizardCoder. Это предварительный эксперимент, поэтому её результаты на задачах программирования могут уступать профильным моделям. Лицензия — GPL.

Taimwe/securecoder-30b-pro-merged — объединённая 16-битная версия SecureCoder LoRA с базовой моделью unsloth/Qwen3-Coder-30B-A3B-Instruct. Это модель генерации текста на архитектуре Qwen3 MoE; метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов, а README описывает ограничение исходной версии в 2 тыс. токенов. Модель предназначена для генерации и анализа кода, а также вызова инструментов в сценариях разработки и работы с кодовой базой. Модель распространяется в формате safetensors и подходит для загрузки в vLLM, TGI, Transformers и SGLang. README сообщает высокие результаты на тестах вызова инструментов, но низкий результат на проверке здравого смысла кода (6,7%); также указано, что модель не проходила обучение безопасности. Репозиторий содержит версию v1, оставленную для воспроизводимости и старых ссылок; актуальной названа v2. Лицензия — Apache-2.0.

Tulu V2.5 DPO 13B StackExchange — англоязычная диалоговая модель-помощник от Allen Institute for AI. Она основана на Tulu 2 и дополнительно обучена методом DPO на 500 тысячах примеров из парного датасета StackExchange; архитектура — плотная Llama с 12,9 млрд параметров, контекст — до 4096 токенов. Модель предназначена для генерации текста в ответ на инструкции и вопросы, в том числе для диалогов и ответов в стиле StackExchange. README рекомендует использовать предусмотренный шаблон чата с завершающим переводом строки. Модель доступна по лицензии Apache 2.0. Возможны небезопасные или проблемные ответы: модель не проходила настройку на безопасные завершения в RLHF и не использует фильтрацию ответов во время работы. Она ориентирована на английский язык.

Vibe-Coding-Claude-Fable-5 — дообученная инструктивная причинная языковая модель, разработанная Lazarus19 на базе Qwen2.5-7B-Instruct. Это плотная архитектура Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов; модель предназначена для генерации кода и помощи в разработке ПО. Карточка заявляет поддержку английского языка и работы с распространёнными языками программирования, библиотеками и фреймворками. Модель подходит для создания и объяснения кода, отладки, разработки API и веб-приложений, обсуждения архитектуры ПО и подготовки технической документации. В метаданных основная задача указана как text-classification, однако карточка описывает генерацию текста и кода; каталог также относит модель к text-generation, что соответствует заявленным сценариям. Модель может выдавать логически неверный или небезопасный код и выдумывать API; специализированные технологии и сложные проекты могут требовать дополнительного контекста. Результаты следует проверять перед использованием. Лицензия — Apache-2.0.

MiniMax-M2.5 — открытая большая языковая модель, разработанная компанией MiniMaxAI. Это текстовая autoregressive-модель для программирования, рассуждений, агентных сценариев, поиска с использованием инструментов и офисных задач, включая работу с документами, презентациями и финансовыми таблицами. Модель ориентирована на разработчиков, AI-агентов, чат-ботов и приложения, которым нужны сложная декомпозиция задач, tool calling и высокая скорость генерации. Модель имеет архитектуру Transformer с Mixture of Experts и механизмом Lightning Attention; по данным NVIDIA, общий размер составляет 230 млрд параметров. Она принимает и генерирует текст, поддерживает контекст до 204 800 токенов и предназначена для text-to-text задач. В обучении особое внимание уделялось reinforcement learning, агентному программированию и работе более чем с десятью языками программирования, включая Python, JavaScript, TypeScript, Java, C, C++, Go, Rust, Kotlin, PHP, Lua, Dart и Ruby. Заявлены результаты 80,2% в SWE-Bench Verified, 51,3% в Multi-SWE-Bench и 76,3% в BrowseComp. Сильные стороны MiniMax-M2.5 — кодинг полного цикла, планирование в стиле software architect, эффективное использование инструментов, поиск и высокая скорость: доступны варианты примерно на 50 и 100 токенов в секунду. Ограничение модели — текстовая модальность: изображения, аудио и видео не относятся к её входным или выходным данным. Показатели производительности приведены разработчиком и зависят от инфраструктуры, агентного окружения и настроек инференса. Весы модели опубликованы на Hugging Face и GitHub, поддерживаются Transformers, vLLM, SGLang и другими средствами локального развертывания. Лицензия указана как modified MIT; применимые условия следует проверять в опубликованных лицензионных документах.

NVIDIA Nemotron-3-Super-120B-A12B — большая языковая модель NVIDIA для диалога, рассуждений и агентных приложений. Она предназначена для сложного следования инструкциям, работы с кодом, чат-ботов, систем RAG и автоматизации задач, включая обработку IT-заявок; также поддерживает вызов инструментов и сценарии с длинным контекстом. Модель построена на гибридной архитектуре LatentMoE, сочетающей Mamba-2, смеси экспертов и слои внимания, и использует Multi-Token Prediction для ускорения генерации. В карточке указано 120 млрд параметров, из которых активны 12 млрд; репозиторий содержит BF16-вариант, а обучение использовало NVFP4. Контекст в метаданных каталога — 262 144 токена; README заявляет поддержку до 1 млн токенов. Модель поддерживает английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель дообучена на базе nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16 и распространяется в формате safetensors. NVIDIA указывает готовность к коммерческому применению, однако метаданные обозначают лицензию как other, поэтому перед использованием следует проверить условия лицензии репозитория.

NVIDIA Nemotron-3-Super-120B-A12B-NVFP4 — большая языковая модель NVIDIA для диалогов, рассуждений и построения агентных систем. Она предназначена для чат-ботов, RAG-приложений, совместно работающих агентов и высоконагруженных сценариев, включая автоматизацию ИТ-заявок, а также для сложного следования инструкциям и анализа длинного контекста. Модель использует гибридную архитектуру LatentMoE: слои Mamba-2 чередуются со слоями Mixture-of-Experts и отдельными слоями внимания. Всего в модели 120 млрд параметров, из которых активны 12 млрд; предусмотрены слои Multi-Token Prediction для ускорения генерации. Веса обучены с применением NVFP4, а заявленная длина контекста достигает 1 млн токенов. Модель поддерживает английский, французский, немецкий, итальянский, японский, испанский и китайский языки, а также задачи с кодом. Модель дообучена для диалогов, рассуждений, работы с инструментами, инструкциями и структурированными ответами; карточка сообщает о готовности к коммерческому использованию. Указана лицензия other, поэтому конкретные условия коммерческого применения следует сверить с лицензией репозитория. Возможности работы с изображениями, аудио или видео не заявлены; качество ответов зависит от задачи и используемой конфигурации вывода.

GRM-2.6-Opus — объединённая модель OrionLLM на архитектуре Qwen3.5 с 27 млрд параметров. Она предназначена для сложных задач общего назначения: структурированных рассуждений, программирования, STEM-задач, диалога и многошаговой работы с агентами и инструментами. Модель использует текст и изображения на входе и формирует текстовые ответы; метаданные также указывают на интерфейс вызова инструментов. По заявлению разработчика, объединение с Qwen3.6-27B-Claude-Opus-Reasoning-Distilled усиливает структурированное рассуждение, работу с кодом и терминальными агентами по сравнению с GRM-2.6-Plus. Модель распространяется в формате safetensors под лицензией Apache 2.0. Длина контекста в предоставленных данных не указана.

unsloth/Llama-3.1-8B-Instruct-GGUF — это GGUF-версия инструкционно дообученной текстовой модели Llama 3.1 с 8 млрд параметров. Модель разработана Meta, а представленная конвертация и набор форматов опубликованы Unsloth. Она предназначена для генерации текста и кода, диалоговых сценариев, ассистентов и других задач, где требуется следование инструкциям на естественном языке. Модель использует авторегрессионную оптимизированную архитектуру Transformer с Grouped-Query Attention (GQA). Она работает только с текстом на входе и формирует текст или код на выходе, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Максимальная длина контекста составляет 128 тысяч токенов; данные обучения основаны на общедоступных онлайн-данных, дата отсечения знаний — декабрь 2023 года. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning with human feedback. К сильным сторонам относятся мультиязычный диалог, поддержка длинного контекста, генерация кода и возможность запуска в GGUF-совместимых инструментах, включая llama.cpp, Ollama и vLLM. Ограничения модели связаны с текстовой модальностью, статичностью знаний и возможными ошибками или небезопасными ответами; конкретный объём памяти и степень квантования зависят от выбранного GGUF-файла. Использование регулируется коммерческой Llama 3.1 Community License.

Mistral-Small-3.1-24B-Instruct-2503-quantized.w4a16 — мультимодальная инструкционная модель, разработанная Red Hat совместно с Neural Magic на базе Mistral-Small-3.1-24B-Instruct-2503 от Mistral AI. Она принимает текст и изображения, а генерирует текст; архитектура указана как Mistral3ForConditionalGeneration. Модель предназначена для разговорных агентов с быстрым откликом, вызова функций с низкой задержкой, программирования, математического рассуждения, анализа длинных документов и визуального понимания. Также она подходит для локального развёртывания и тонкой настройки под специализированные предметные области, включая сценарии с чувствительными данными. Модель использует INT4-квантизацию весов линейных операторов в трансформерных блоках. Применяется симметричная поканальная по группам схема с размером группы 128 и алгоритмом GPTQ, реализованным в llm-compressor. По сравнению с 16-битным представлением это примерно на 75% снижает объём модели на диске и требования к памяти GPU, что является её ключевым преимуществом для быстрого и локального инференса. В README не указаны точное число параметров базовой модели, максимальная длина контекста и полный перечень поддерживаемых возможностей по каждому языку. Заявлена поддержка языков, включая английский, французский, немецкий, испанский, итальянский, португальский, хинди, индонезийский, вьетнамский, арабский, китайский, японский, корейский, русский, украинский и другие. Модель выпущена 15 апреля 2025 года, проверена в RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4. Ограничения включают возможную потерю точности из-за квантизации и запрет использования с нарушением применимого законодательства, а также в языках, официально не поддерживаемых моделью. Распространяется по лицензии Apache-2.0.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4 — большая языковая модель, разработанная NVIDIA Corporation. Она предназначена для генерации текста, программирования, длительно работающих автономных агентов, вспомогательных агентских задач и эффективного локального вывода на совместимом оборудовании. Модель поддерживает английский, испанский, французский, немецкий, итальянский и японский языки, а также языки программирования. Модель использует гибридную архитектуру Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными Attention-слоями. Общее число параметров составляет 30 млрд, из них при обработке каждого токена активны около 3 млрд. Модель работает с контекстом до 1 млн токенов и распространяется в формате NVFP4. Поддерживаются NVIDIA Blackwell, Hopper и, через режим W4A16, Ampere; заявлено развёртывание на одной NVIDIA H100 или DGX Spark с GB10. Для ускорения генерации доступны DSpark, MTP и DFlash. К сильным сторонам относятся сочетание большого общего объёма параметров с небольшим числом активных параметров, поддержка очень длинного контекста, агентских сценариев и локального вывода на подходящем оборудовании. Ограничения связаны с требованиями к совместимому NVIDIA GPU и специализированным настройкам инференса; для некоторых аппаратных конфигураций параметры поддержки требуют дополнительного подтверждения. Модель лицензируется по OpenMDW License Agreement версии 1.1 и заявлена как готовая к коммерческому использованию.

NVIDIA Kimi-K2.7-Code NVFP4 — квантизированная версия языковой модели Kimi-K2.7-Code, разработанной Moonshot AI. NVIDIA подготовила и оптимизировала эту сборку с помощью Model Optimizer для запуска на NVIDIA GPU; сама NVIDIA не является разработчиком исходной модели. Модель предназначена для генерации текста и кода, научного программирования, агентного использования инструментов, работы с терминалом и решения задач программной инженерии. В зависимости от конфигурации сервинга она может возвращать естественно-языковые ответы, код, структурированный JSON, запросы вызова инструментов, инструкции для координации агентов и другие артефакты. Модель использует архитектуру Transformers с сетевой архитектурой DeepSeek V3 и механизмом Mixture-of-Experts: всего заявлен 1 трлн параметров, из которых 32 млрд активируются при обработке запроса. Поддерживаются текст, изображения и видео на входе, а также контекст длиной до 256 тысяч токенов; выход представлен текстом. Веса и активации линейных операторов внутри MoE-блоков преобразованы из INT4 через BF16 в формат NVFP4. Предусмотрен запуск через vLLM на NVIDIA Blackwell под Linux; тестирование выполнялось на NVIDIA B200. Сильные стороны модели — большой контекст, поддержка мультимодальных входных данных, задачи кодирования и агентного взаимодействия, а также готовая к инференсу NVFP4-квантизация для совместимого оборудования. При этом сведения об обучающих и тестовых данных, их размере и составе в основном не раскрыты, а NVIDIA не проводила обучение или тестирование для данного релиза Model Optimizer. Практическая производительность и безопасность требуют дополнительной проверки на данных конкретного сценария. Использование регулируется NVIDIA Open Model License; также указана Modified MIT License для исходной модели Kimi-K2.7-Code.

Nemotron-3-Super-120B-A12B-NVFP4 — большая языковая модель NVIDIA для диалога, рассуждений и работы в агентных системах. Она предназначена для разработчиков чат-ботов, RAG-систем и ИИ-приложений, включая автоматизацию IT-заявок, сложное следование инструкциям и анализ длинных контекстов. Модель использует гибридную архитектуру LatentMoE на основе Mamba-2, смеси экспертов и слоёв внимания, а также Multi-Token Prediction для ускорения генерации. Всего в ней 120 млрд параметров, из которых активны 12 млрд; заявленная длина контекста — до 1 млн токенов. Веса представлены в NVFP4, при этом репозиторий содержит файлы Safetensors и рассчитан на работу с Transformers. Модель поддерживает английский, французский, немецкий, итальянский, японский, испанский и китайский языки; в карточке также заявлены сценарии с кодом. NVIDIA указывает, что модель готова к коммерческому использованию; метаданные обозначают лицензию как other, поэтому конкретные условия следует сверить с лицензией репозитория. К возможным ограничениям относятся потребность в мощном оборудовании для обслуживания модели и зависимость качества ответов от задачи и контекста.

Qwen3.5-9B-Opus-OpenClaw-Distilled-GGUF — дообученная модель, разработанная ykarout на базе Qwen3.5-9B и производных CoPaw-Flash-9B. Она объединяет агентные возможности OpenClaw и CoPaw с дистиллированным стилем структурированного рассуждения, вдохновлённым Claude Opus. Обучение выполнялось с использованием Unsloth и TRL методом LoRA SFT на унифицированных наборах рассуждений, включая Opus-4.6 reasoning datasets. Модель предназначена для аналитических вопросов и ответов, помощи в программировании, планирования рабочих процессов, многошаговой декомпозиции задач, логически сложных диалогов и сценариев, связанных с инструментами, терминалом и агентными средами. Она ориентирована на стиль «сначала рассуждение, затем ответ» и сохраняет формат с блоком <think> перед итоговым ответом. Модель относится к семейству Qwen3.5, имеет размер около 9 миллиардов параметров и поставляется в формате GGUF для локального запуска. Для LM Studio и llama.cpp заявлена поддержка текста и изображений, а специальная vision-merged версия предназначена для использования с Ollama. Заявленные языки включают английский, арабский, испанский, латынь, турецкий, немецкий, чешский и китайский. К сильным сторонам относятся агентное поведение, планирование, инструментальная направленность, структурированное рассуждение и совместимость с локальными средами развёртывания. Ограничения заключаются в том, что точные характеристики контекстного окна и полный состав мультимодальных возможностей в README не указаны; кроме того, описанная процедура обучения была text-only, поэтому качество работы с изображениями может зависеть от конкретного GGUF-файла и среды запуска. Модель распространяется по лицензии Apache-2.0.

BTL-4 Compact — текстовая GGUF-версия модели BTL-4 от Bad Theory Labs, распространяемая для запуска в llama.cpp, Ollama и LM Studio. Это квантованная модель класса Mixture of Experts, предназначенная для генерации текста, программирования, работы с технической документацией, агентных сценариев и использования инструментов. Модель поставляется одним файлом размером 9,96 ГБ и не требует загрузки или восстановления базовой модели. Модель содержит 35,1 млрд параметров, из которых около 2,1 млрд активны для каждого токена. Архитектура включает 40 слоёв: 30 слоёв с линейным вниманием и 10 слоёв с полным вниманием; в каждом слое 256 экспертов, из которых для токена выбираются 8. Нативный контекст составляет 262 144 токена. Сборка является текстовой: vision tower исключён. Слой multi-token prediction отключён, но это не мешает обычной работе модели. Главное преимущество BTL-4 Compact — сочетание большого общего числа параметров с относительно низкими вычислительными затратами и возможностью запуска на пользовательском оборудовании. Квантование выполнено с эффективностью 2,30 бита на вес; заявленное сохранение измеренного поведения полной модели составляет 94,1% на тесте из 118 заданий. Ограничения включают потерю качества из-за сильного квантования, отсутствие обработки изображений и чувствительность агентных сценариев к настройкам шаблона чата и формата рассуждений. Для корректной работы требуется версия llama.cpp с поддержкой qwen3_5_moe и определённые параметры запуска. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Claude Opus 5 описана как флагманская модель Anthropic для сложных задач рассуждения, программирования и длительной агентной работы. Среди сценариев применения указаны выполнение комплексных задач разработки программного обеспечения, проверка кода, поиск ошибок и визуальный анализ.

GLM-5-FP8 — открытая языковая модель, разработанная командой zai-org. Она предназначена для сложных задач системной инженерии и длительных агентных сценариев, включая рассуждения, программирование, работу с инструментами, веб-навигацию и управление многошаговыми процессами. Модель поддерживает английский и китайский языки и используется для генерации текста через библиотеку Transformers. Модель содержит 744 млрд параметров, из которых 40 млрд активируются при обработке запроса. По сравнению с GLM-4.5 она обучена на большем объёме данных — 28,5 трлн токенов — и использует DeepSeek Sparse Attention (DSA), что снижает стоимость развёртывания при сохранении возможностей работы с длинным контекстом. В README приведены результаты на задачах математического рассуждения, программирования, кибербезопасности, веб-поиска и взаимодействия с инструментами; в ряде тестов модель показывает конкурентоспособные результаты среди открытых моделей. К сильным сторонам относятся рассуждение, написание и исправление кода, выполнение агентных задач, использование инструментов и работа с длинными последовательностями. Ограничения включают высокие требования к вычислительным ресурсам из-за общего размера модели, несмотря на разреженное внимание и активацию части параметров, а также отсутствие в предоставленных данных подробностей о мультимодальности, точном максимальном контексте и системных требованиях. Модель распространяется по лицензии MIT.