II.7DevOps, облако и эксплуатация IT-систем

Colorful/RTA — предварительно обученная модель RepresentThemAll для работы с сообщениями об ошибках в программном обеспечении. Это модель архитектуры RoBERTa с примерно 151,8 млн параметров, представленная в форматах PyTorch и TensorFlow. По карточке, модель можно дообучать для задач автоматизированного сопровождения ПО, связанных с отчётами об ошибках. Модель предназначена для классификации текста и может служить основой для предсказания приоритета ошибки и обнаружения дублирующих отчётов; также её можно адаптировать для суммаризации таких отчётов. Контекст составляет до 514 токенов. Репозиторий распространяется по лицензии MIT.

Tool-Star-Qwen-3B — дообученная модель на базе Qwen2.5-3B-Instruct, разработанная авторами фреймворка Tool-Star. Она предназначена для пошагового рассуждения с самостоятельным вызовом нескольких внешних инструментов и обменом результатами между ними. Модель использует архитектуру Qwen2, содержит 3,1 млрд параметров и принимает текст; контекст — до 32 768 токенов. Карточка указывает поддержку английского языка, интерфейс вызова инструментов и оценку по точности. Модель подходит для диалоговых сценариев, где нужно разбить задачу на шаги, обратиться к доступным инструментам и использовать их ответы при дальнейшем рассуждении. Обучение включало начальную тонкую настройку и обучение с подкреплением для улучшения многоинструментального взаимодействия. Веса опубликованы в формате Safetensors; лицензия — MIT.

CodeGemma 7B — модель для генерации и автодополнения программного кода, разработанная Google. Она предназначена прежде всего для сценариев fill-in-the-middle: дополнения фрагмента между заданным префиксом и суффиксом, работы в инструментах наподобие Copilot и использования в редакторах кода, где важны быстрые подсказки. Модель не является чатовой или instruct-моделью и не предназначена для ответов на вопросы в диалоговом формате. Модель содержит около 7 млрд параметров и основана на Gemma. Распространяемая версия представлена в формате GGUF; квантизацию выполнил bartowski на основе llama.cpp. Для управления генерацией используются специальные токены <|fim_prefix|>, <|fim_suffix|>, <|fim_middle|> и <|file_separator|>, позволяющие передавать контекст текущего файла и нескольких файлов. README не указывает точный набор поддерживаемых языков программирования, размер контекста или перечень модальностей; по назначению модель является текстовой и ориентирована на код. Сильные стороны CodeGemma 7B — компактный размер для модели такого класса, высокая скорость появления автодополнений и способность восстанавливать пропущенные участки кода с учётом окружающего контекста. Ограничения состоят в том, что модель нельзя использовать как обычного чат-ассистента, а сгенерированный код может содержать ошибки и требует проверки. Доступ к оригинальной модели на Hugging Face регулируется лицензией Google Gemma; в метаданных указана лицензия gemma и ссылка на условия использования Google.

CodeGen2.5-7B-multi — авторегрессионная языковая модель для генерации программного кода из семейства CodeGen2.5, разработанная Эриком Найкампом, Хироки Хаяси, Инбо Чжоу и Цаймином Сюном. Модель содержит 6,7 млрд параметров, использует плотную архитектуру LlamaForCausalLM и работает с контекстом до 2048 токенов. Она обучена на 1,4 трлн токенов из StarCoderData и поддерживает несколько языков программирования. Модель предназначена прежде всего для синтеза и автодополнения кода по текстовым запросам на английском языке, а также для заполнения пропусков внутри фрагментов кода в формате infilling. В README сообщается о сравнительных результатах с более крупной StarCoderBase-15.5B, но конкретные показатели здесь не приведены. Модель может воспроизводить фрагменты кода из обучающего набора, поэтому перед использованием сгенерированного кода следует проверять его корректность и лицензионные требования. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. В README релиз обозначен как исследовательский; качество, безопасность и справедливость модели не оценены для всех вариантов практического применения.

FastApply-1.5B-v1.0 — языковая модель Kortix для быстрого применения изменений к коду. Она дообучена на базе unsloth/Qwen2.5-Coder-1.5B-Instruct-bnb-4bit и использует плотную архитектуру Qwen2 с 1,5 млрд параметров. Модель принимает текст с исходным кодом и фрагментом изменений, а в ответ формирует полный обновлённый файл, сохраняя его структуру, порядок, комментарии и отступы. Модель предназначена для AI-редакторов кода и инструментов, которым нужно быстро объединять изменения в файлах, в том числе в сценариях Fast Apply. Заявленная длина контекста — 32 768 токенов; README сообщает о скорости около 340 токенов в секунду при запуске у быстрых провайдеров, но эта скорость зависит от среды выполнения. Карточка указывает английский язык, однако он не определяет язык программирования, который можно редактировать. Модель распространяется по лицензии Apache-2.0. Она специализирована на редактировании кода и выдаёт результат в виде текста; качество и скорость могут зависеть от провайдера, формата запроса и кода. Данных о конкретных ограничениях применения в карточке не приведено.

Ganesh Mini — текстовая модель для генерации кода, созданная как дообучение Qwen/Qwen3.5-2B. Она рассчитана на диалоги в режиме генерации без рассуждений и на написание кода на Go, Java, JavaScript, TypeScript, Python и Rust. Контекст составляет 8 192 токена. Репозиторий содержит объединённый BF16-чекпойнт Transformers, адаптер LoRA ранга 8 и экспорты GGUF в вариантах F16 и Q8_0. В локальной публичной диагностике на 952 задачах модель прошла на одну задачу меньше, чем исходная Qwen; результаты не подтверждают общего улучшения и не являются официальным рейтингом. Зрение не оценивалось. Модель может выдавать ошибочный, небезопасный или некомпилируемый код, а эквивалентность экспортов на полном наборе языков не проверена. Код следует запускать только в изолированной среде с ограниченными ресурсами и отключённой сетью. Лицензия — Apache-2.0.

Это дообученная версия Gemma 4 12B Coder от tpls с изменёнными весами: методом abliteration из неё удалено направление отказа. Модель предназначена для генерации кода и агентных сценариев с вызовом инструментов; веса в формате safetensors рассчитаны на локальный запуск, дальнейшее дообучение, слияние или квантизацию. Карточка также указывает на готовые к запуску варианты GGUF в отдельном репозитории. Модель выдаёт вызовы инструментов в нативной разметке Gemma 4. Парсер llama.cpp с параметром --jinja может распознавать их некорректно, поэтому для преобразования в стандартные tool_calls нужен серверный shim. Генерируемые ответы и аргументы инструментов могут быть ошибочными или вымышленными; их следует проверять. После удаления отказов защитные ограничения существенно ослаблены, поэтому модель не подходит для сценариев, где важно поведение отказа. Модель помечена как устаревшая и заменённая более новой версией. Лицензия — Gemma.

Husky Nose — мультиязычный классификатор Patronus на базе ModernBERT (mmBERT), дообученный для выявления свойств потока данных в инструментах и операциях AI-агентов. Он независимо определяет три метки: доступ к чувствительным данным, получение данных из недоверенных источников и передачу данных за пределы локальной границы доверия. Несколько меток могут относиться к одному входу. Модель принимает текстовые описания инструментов, запросы и сериализованные операции и выдаёт оценки для трёх классов. Её используют для проверки политик агентов, маршрутизации по уровню риска, рабочих процессов согласования, сигналов предотвращения утечек и мониторинга безопасности. Архитектура — ModernBERT для классификации последовательностей; размер — 140,5 млн параметров, контекст — до 8192 токенов. Карточка называет немецкий и английский основными языками оценки; метаданные также указывают их как языки модели. В тесте на 2914 примерах заявлен macro-F1 0,965. Предсказание указывает на возможную способность инструмента, но не подтверждает выполнение действия, фактический доступ к данным или утечку. Неоднозначные инструменты могут требовать аргументов для классификации; модель не отслеживает поток данных между шагами агента, а другие языки активно не проверялись. Для критичных решений рекомендуется сочетать её с детерминированными правилами и настроенными порогами. Лицензия — Apache-2.0.

INTELLECT-1-step-17000 — промежуточный чекпойнт языковой модели INTELLECT-1, разработанной Prime Intellect совместно с Arcee AI и сообществом участников. Это плотная авторегрессионная модель семейства Llama примерно на 9,7 млрд параметров; в README указаны 42 слоя и 32 головы внимания. Модель обучалась с нуля на триллионе токенов англоязычных текстов и кода, включая веб-тексты, математические материалы и код. Чекпойнт соответствует шагу обучения 17 000; README также упоминает более поздние шаги и финальную версию. Модель предназначена для генерации продолжений текста и кода на английском языке. Контекстное окно составляет 8 192 токена. Обучение проводилось распределённо на нескольких континентах с использованием инфраструктуры Prime Framework для динамического масштабирования и отказоустойчивой связи между вычислительными узлами. Это промежуточный чекпойнт, поэтому его качество может уступать финальной версии и он не заявлен как инструкционная модель. Лицензия — Apache 2.0.

INTELLECT-1-step-59200 — промежуточный контрольный чекпойнт языковой модели INTELLECT-1, созданной Prime Intellect совместно с участниками сообщества и Arcee AI. Модель обучалась с нуля; в этом чекпойнте зафиксирован шаг 59 200. Архитектура — плотная LlamaForCausalLM примерно на 9,7 млрд параметров, формат весов — safetensors. Контекст составляет 8192 токена. Модель предназначена для генерации текста на английском языке и кода. Семейство INTELLECT-1 обучалось на триллионе токенов английского текста и кода, включая веб-материалы, образовательные данные и математические тексты; для обучения применялась распределённая инфраструктура Prime. Это базовая генеративная модель, а не финальная или инструктивная версия. Промежуточный статус чекпойнта означает, что его поведение и качество могут отличаться от финальной версии INTELLECT-1; README указывает на наличие отдельной финальной и instruct-версии. Модель распространяется по лицензии Apache 2.0.

jnkto2 — дообученная модель для генерации кода на основе deepseek-ai/deepseek-coder-1.3b-base, опубликованная пользователем stojchet. Модель с архитектурой Llama содержит 1,3 млрд параметров и принимает текст; заявленная длина контекста — 16 384 токена. Модель предназначена для генерации и продолжения кода. В README приведены метрики оценки, включая loss 0,1622 и оценки chosen/rejected, однако описание набора данных, методики обучения и конкретных сценариев применения отсутствует. Файлы модели опубликованы в формате safetensors. Лицензия указана как other; конкретные условия использования по имеющимся данным определить нельзя.

k3 — дообученная модель для генерации кода, созданная на основе deepseek-ai/deepseek-coder-1.3b-base. Она использует плотную архитектуру семейства Llama и содержит 1,3 млрд параметров. Модель подходит для продолжения кода, автодополнения и генерации фрагментов кода по текстовому запросу; контекст составляет до 16 384 токенов. В карточке указано, что модель обучалась методом KTO, однако датасет обозначен как None, а сведения о назначении и ограничениях не раскрыты. Опубликованы метрики оценки на тестовом наборе, но без описания самого набора их нельзя интерпретировать как гарантию качества. Формат весов — Safetensors; лицензия указана как other, поэтому условия использования следует уточнить у автора репозитория.

Ornith-1.0-35B-MTP — вариант Ornith-1.0-35B от Crucible Labs для спекулятивного декодирования MTP в vLLM. К исходным весам модели добавлена голова multi-token prediction из Qwen/Qwen3.6-35B-A3B; README указывает, что остальные веса сохранены без изменений, а голова скопирована из базовой модели. Архитектура относится к семейству Qwen3.5 MoE; файлы представлены в формате safetensors, лицензия — MIT. Модель предназначена для генерации текста и кода с ускорением через MTP speculative decoding. В описанном тесте на одной системе с ROCm и vLLM ускорение при двух спекулятивных токенах составило 38,7% для прозы и 54,6% для кода, при принятии черновых токенов в 70,3% случаев. Это результаты конкретной конфигурации, а не гарантия производительности на другом оборудовании. README также сообщает о снижении вместимости KV-кэша на 21,8%; модель рассчитана на запуск через vLLM с соответствующими параметрами спекулятивного декодирования.

mermaidGPT — компактная англоязычная модель, разработанная Houzeric для генерации кода диаграмм Mermaid.js по запросам на естественном языке. Она построена на GPT-подобной архитектуре GPT-2 и доступна в форматах PyTorch и safetensors; для работы и дообучения используется Transformers. Модель предназначена для создания блок-схем, диаграмм последовательностей и других диаграмм Mermaid по текстовым описаниям, например схемы взаимодействия пользователя с сервером. Вход — текст на английском языке, выход — текстовый код Mermaid. Репозиторий связан с датасетом Celiadraw/text-to-mermaid. Лицензия — MIT. Модель заявлена как небольшая и пригодная для запуска и обучения на одной GPU. Точные размер модели и длина контекста в предоставленных данных не указаны. Качество генерации, включая корректность Mermaid-кода для сложных запросов, может зависеть от формулировки запроса; подтверждённых оценок качества в карточке нет.

RedHatAI/gpt-oss-120b-essential — вариант открытой по весам модели gpt-oss-120b, разработанной OpenAI и подготовленной Red Hat AI. Это генеративная текстовая модель для диалогов, текстовой генерации, задач с рассуждением, агентских сценариев и вызова инструментов. Модель поддерживает function calling, веб-поиск, выполнение Python-кода и Structured Outputs; поддержка tool calling валидирована. Указанный язык — английский. Модель построена на архитектуре Mixture of Experts и содержит около 117 млрд параметров, из которых примерно 5,1 млрд активны при обработке запроса. Она использует посттренировочную MXFP4-квантизацию весов MoE и рассчитана на запуск на одном GPU с 80 ГБ памяти, например NVIDIA H100 или AMD MI300X. Для корректной работы требуется формат ответов harmony. В README не указана длина контекста. К сильным сторонам относятся настраиваемый уровень рассуждений — low, medium или high, возможность дообучения и пригодность для производственных и ресурсоограниченных развёртываний благодаря essential-комплектации без каталогов /Metal и /Original, уменьшающей профиль памяти. Полное предоставление цепочки рассуждений может помогать при отладке, но не предназначено для показа конечным пользователям. Модель валидирована в Red Hat OpenShift AI 2.25, Red Hat AI Inference Server 3.2.2 и vLLM 0.10.1.1. Распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

Nemotron-Cascade-2-30B-A3B-NVFP4 — квантизированная версия модели Nemotron-Cascade-2-30B-A3B, разработанной NVIDIA. Модель использует гибридную архитектуру MoE и Mamba; в ней 30 млрд параметров всего и около 3 млрд активных параметров на токен. Данный вариант создан сообществом chankhavu с применением NVIDIA ModelOpt и посттренировочной квантизации NVFP4 без Quantization-Aware Distillation. Модель предназначена для задач генерации текста, математического рассуждения, программирования, работы с терминалом и агентских сценариев, следования инструкциям, диалога и научных запросов. Для калибровки использовались данные NVIDIA Nemotron-Cascade-2-SFT-Data, включая примеры по математике, software engineering, терминальным агентам, науке, безопасности и общению. README не указывает полный набор поддерживаемых языков и модальностей; по представленным данным это текстовая модель. MoE-эксперты и часть Mamba-вычислений представлены в NVFP4 с форматом E2M1 и иерархическим блочным масштабированием, чувствительные компоненты сохранены в BF16, маршрутизаторы — в FP32, а KV-кэш — в FP8. Модель рассчитана прежде всего на GPU Blackwell, где доступно нативное вычисление FP4 и максимальное ускорение; на Hopper выполняется деквантизация весов во время работы, а Ampere в README обозначен как неподдерживаемый. По опубликованным тестам качество обычно на 1–2% ниже исходной BF16-модели, но при этом снижаются требования к памяти. Лицензия — NVIDIA Open Model License.

NVIDIA-Nemotron-3-Super-120B-A12B-FP8 — большая языковая модель, разработанная NVIDIA Corporation. Она предназначена для агентных рабочих процессов, рассуждений, диалоговых приложений, использования инструментов, систем RAG и высоконагруженных сценариев, включая автоматизацию ИТ-заявок. Модель поддерживает английский, французский, немецкий, итальянский, японский, испанский и китайский языки, а режим рассуждений можно включать или отключать через шаблон чата. Модель использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture-of-Experts, отдельными слоями Attention и механизмом Multi-Token Prediction для ускорения генерации. Она содержит 120 млрд параметров, из которых 12 млрд активны при обработке запроса, поддерживает контекст до 1 млн токенов и поставляется в формате FP8. Встроенная MTP-голова поддерживает speculative decoding. Для работы требуется минимум две видеокарты H100 с 80 ГБ памяти. К сильным сторонам относятся большой контекст, поддержка многоязычных и агентных сценариев, конфигурируемое рассуждение, высокая эффективность разреженной архитектуры и возможность применения в коммерческих системах. Ограничениями являются значительные требования к аппаратным ресурсам, а также необходимость учитывать особенности лицензии и настройки инференса; в README рекомендуется использовать temperature 1.0 и top_p 0.95. Использование модели регулируется NVIDIA Nemotron Open Model License; заявлена готовность к коммерческому применению.

Salience-27B-R4 — предварительная плотная мультимодальная модель Vection Labs на 27,2 млрд параметров, построенная на Qwen3.6. Она принимает текст, изображения и видео и генерирует текст. Модель предназначена для сложных задач разработки ПО: написания и отладки кода, редактирования репозиториев, работы через терминальные инструменты и количественных рассуждений. В архитектуре используется гибридное линейное и полное внимание, а также MTP-голова для ускорения декодирования. Нативное окно контекста составляет 262 144 токена; с YaRN его можно расширить до 1 048 576 токенов. Модель поддерживает диалог, код, вызовы инструментов и анализ изображений; в README также заявлен анализ видео. Она рассчитана на инженерные сценарии, включая понимание скриншотов, диаграмм и документов. Модель выпущена как preview, поэтому возможны шероховатости. Ответы могут содержать вымышленные API или факты, а сгенерированный код следует проверять перед запуском. Не предназначена для принятия ответственных решений без проверки человеком. Лицензия — Apache-2.0.

DeepSeek-V3.1-Terminus — языковая модель, разработанная командой DeepSeek-AI. Это обновлённая версия DeepSeek-V3.1, построенная на той же архитектуре, что и DeepSeek-V3, и основанная на DeepSeek-V3.1-Base. Обновление сохраняет исходные возможности модели, улучшает согласованность языка, снижая смешение китайского и английского текста и появление аномальных символов, а также повышает эффективность Code Agent и Search Agent. Модель предназначена для рассуждений без инструментов, генерации и анализа кода, работы поисковых агентов и агентских сценариев с использованием инструментов. По данным сравнительных тестов, улучшения особенно заметны в BrowseComp, SimpleQA, SWE Verified, SWE-bench Multilingual и Terminal-bench, хотя на отдельных задачах результаты немного ниже, чем у DeepSeek-V3.1. В README не указаны точный размер модели, число параметров, поддерживаемые языки, модальности и размер контекста. Для локального запуска предусмотрены материалы на базе репозитория DeepSeek-V3 и обновлённый пример инференса; отмечена известная проблема с форматом данных FP8 для параметров self_attn.o_proj, которую планируют исправить в будущих релизах. Модель и веса распространяются по лицензии MIT.

GLM-5.3 — открытая модель с весами от Z.ai для генерации текста и диалогового взаимодействия. По карточке, она использует ту же базовую модель, что и GLM-5.2, а улучшения получены на этапе постобучения. Модель ориентирована на сложные задачи программирования, длительные агентные сценарии и работу с инструментами; автор отмечает сильные результаты в бенчмарках по написанию кода и поиску уязвимостей. Модель имеет архитектуру GLM MoE DSA и 30,4 млрд параметров; опубликованные веса представлены в формате safetensors FP8. Контекстное окно составляет до 1 048 576 токенов. Карточка указывает английский и китайский языки, а также настройку reasoning_effort с уровнями low, high и max. Для запуска перечислены Transformers, vLLM, SGLang и другие фреймворки. Лицензия указана как other, поэтому условия использования следует уточнить в файлах репозитория. Модель генерирует ответы и код, но приведённые результаты бенчмарков не гарантируют качество на конкретных задачах; сильные возможности в области кибербезопасности требуют ответственного применения.

Ornith-1.5-9B-MLX-4bit — 4-битная MLX-квантованная версия Ornith-1.5-9B, разработанная командой Ornith AI. Это плотная языковая модель примерно на 9 млрд параметров, ориентированная на эффективное развертывание на одной GPU; семейство также включает вариант для мобильных устройств. Модель предназначена для генерации текста и особенно хорошо подходит для программирования, работы с терминалом и решения задач по исправлению кода. В основе Ornith-1.5 лежит подход непрерывного самоулучшения: модель обучалась с совместной оптимизацией генерации задач, построения scaffold и rollouts решений с применением reinforcement learning. По заявленным результатам она показывает сильные показатели в Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro и SWE-bench Multilingual, превосходя Ornith-1.0-9B и Qwen3.5-9B в приведённых тестах. Ключевое преимущество данной версии — сниженные требования к памяти благодаря 4-битному квантованию и совместимость с MLX. В карточке указано, что основной язык модели — английский. Сведения о размере контекста, поддерживаемых модальностях помимо текста, точной базовой архитектуре, лицензии и ограничениях применения не приведены, поэтому их следует уточнять отдельно. Количественные результаты зависят от используемого окружения и конфигурации оценки.

Qwen3.8-27B-Imatrix-Mtp-1m — это сборка модели Qwen3.8-27B в формате GGUF, подготовленная Brian6145 на основе официальных весов Qwen Team. Модель ориентирована на следование инструкциям, программирование, отладку и устранение неисправностей, а также на агентские сценарии и задачи с длинными последовательностями. В карточке указаны английский и китайский языки и модальность image-text-to-text. Модель имеет размер 27B параметров и поддерживает контекст до 1 000 000 токенов благодаря расширению RoPE по официальной схеме YaRN; исходный предел составлял 262 144 токена. В каждый файл встроена рабочая Multi-Token Prediction head, совместимая со speculative decoding в llama.cpp и LM Studio. Доступны варианты F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M с imatrix и Q3_K_M. MTP может заметно ускорять генерацию, особенно при длинном контексте. Для запуска требуется сборка llama.cpp с поддержкой draft-mtp либо LM Studio 2.28.2 или совместимая версия. Контекст в 1M токенов требует значительного объёма VRAM; рекомендуется использовать квантованный KV-кэш. Статическое масштабирование YaRN может немного ухудшать качество на коротких текстах, поэтому для таких задач предпочтительна официальная версия модели. Распространение разрешено по лицензии Apache-2.0.

Laguna XS.2-NVFP4 — текстовая Mixture-of-Experts-модель компании Poolside, предназначенная для агентного программирования и длительных рабочих процессов на локальном компьютере. Модель является вариантом Laguna XS.2 с квантованием NVFP4 и FP8-кэшем ключей и значений (KV cache). Она поддерживает генерацию текста, использование инструментов и встроенное рассуждение между вызовами инструментов с возможностью включать и отключать режим рассуждения для отдельных запросов. Модель содержит 33 млрд параметров, из которых 3 млрд активируются на каждом токене, 40 слоёв и 256 экспертов с одним общим экспертом. В 30 слоях используется Sliding Window Attention с окном 512 токенов и покомпонентным управлением на уровне голов внимания, а в 10 слоях — глобальное внимание. Контекстное окно составляет 262 144 токена. Модель работает в режиме text-to-text, использует FP8-кэш KV для снижения требований к памяти и рассчитана на локальный запуск, включая компьютеры Mac с 36 ГБ оперативной памяти. Поддерживаются vLLM, Transformers, SGLang и TRT-LLM. Сильные стороны модели — сочетание большого контекстного окна, низкого числа активируемых параметров, уменьшенных требований к KV-кэшу и ориентации на задачи разработки ПО, включая работу с терминалом и многошаговые агентные сценарии. В README не указаны поддерживаемые естественные языки и подробные ограничения качества; приведённые результаты бенчмарков относятся к Laguna XS.2 в варианте BF16 и не являются прямой оценкой NVFP4. Модель распространяется по лицензии Apache 2.0, допускающей использование и модификацию в коммерческих и некоммерческих целях.

AEON-7/Ornith-1.0-35B-AEON-Ultimate-Uncensored-NVFP4 — 4-битная квантованная версия модели Ornith-1.0-35B, разработанной DeepReinforce и дополнительно адаптированной AEON-7. Это аблитированная, нецензурируемая модель для генерации текста, рассуждений, программирования, агентских сценариев, вызова инструментов и мультимодальных задач с изображениями и текстом. Модель основана на смеси экспертов (MoE) с 35B параметров; в README также указано происхождение от Qwen3.6-35B-A3B. Квантизация NVFP4 применяется только к весам MLP-компонентов по схеме W4A16, тогда как attention, GatedDeltaNet/SSM, vision tower, маршрутизаторы, эмбеддинги и нормализации сохраняют точность BF16. Размер составляет около 23,7 ГБ, заявлена поддержка контекста до 262 144 токенов, изображений и видео, а также reasoning- и tool-calling-режимов. Основные сценарии включают coding, SWE- и terminal-задачи, математическое рассуждение, диалог и обработку мультимодальных запросов. К сильным сторонам относятся существенное уменьшение размера по сравнению с BF16, сохранение заявленной производительности на агентских и кодовых задачах, отсутствие отказов после аблитерации и совместимость с ускорением DFlash. Ограничения включают необходимость GPU архитектуры Blackwell, например B200 или GB10, поддержку через совместимый стек vLLM и сохранение KV-кэша в BF16 для vision-сценариев. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B-AWQ-FP8 — квантованная версия модели Ornith-1.5-35B-A3B, разработанной командой Ornith AI. Модель предназначена для генерации текста, программирования и агентских сценариев, включая работу с инструментами и выполнение задач в терминале. Она обучалась с использованием цикла самоулучшения, который совместно оптимизирует генерацию задач, построение scaffolding и траекторий решений с применением reinforcement learning. Модель использует архитектуру mixture-of-experts: при общем размере около 35B параметров на каждый токен активируется примерно 3B параметров. Представленная версия имеет формат AWQ-FP8 и размер около 39,76 ГБ. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. В README не указаны размер контекста и мультимодальные возможности. Сильной стороной модели является специализация на кодировании и агентских задачах: разработчики сообщают о превосходстве над сопоставимой Qwen3.6-35B-A3B и рядом плотных моделей в соответствующих бенчмарках. Ограничения, подробные требования к оборудованию и параметры инференса в карточке не приведены. Модель распространяется по лицензии MIT.

RedHatAI/Qwen2.5-Coder-32B-Instruct-FP8-dynamic — это вариант instruction-tuned языковой модели Qwen2.5-Coder-32B-Instruct, опубликованный Red Hat AI и представленный в формате FP8 dynamic quantization. Базовую модель разработала команда Qwen компании Alibaba Cloud. Это каузальная текстовая модель, ориентированная прежде всего на генерацию, понимание, исправление и рассуждение по программному коду, а также на использование в кодовых ассистентах и code-agent сценариях. Исходная модель содержит около 32,5 млрд параметров, построена на архитектуре Qwen2 с 64 слоями и Grouped-Query Attention: 40 голов для запросов и 8 для ключей и значений. Заявлена поддержка контекста до 131 072 токенов; базовая конфигурация рассчитана на 32 768 токенов, а для более длинных входов применяется YaRN. Модель работает с текстом на входе и выходе. Qwen2.5-Coder обучалась на корпусе свыше 5,5 трлн токенов и демонстрирует возможности работы более чем с 40 языками программирования, включая генерацию, завершение, рефакторинг и исправление кода. Вариант FP8 dynamic квантует веса и активации линейных операторов трансформера с 16 до 8 бит, что примерно вдвое снижает требования к памяти и размер файлов и может повысить пропускную способность матричных вычислений. Компромиссом является использование квантизированной версии вместо исходной точности; конкретные результаты потери качества для этого репозитория в найденной карточке не приведены. Для исходной Qwen2.5-Coder-32B-Instruct указана лицензия Apache 2.0, однако на странице точного репозитория RedHatAI отдельная лицензия и полноценная карточка модели не указаны.

Qwen3-Coder-30B-A3B-Instruct-GPTQ-Int8 — это квантизированная в формате GPTQ Int8 версия текстовой причинно-следующей языковой модели Qwen3-Coder-30B-A3B-Instruct. Базовую модель разработала команда Qwen, а данную квантизированную сборку опубликовала QuantTrio. Модель предназначена прежде всего для генерации и анализа программного кода, агентного программирования, вызова инструментов и сценариев агентного взаимодействия с браузером, а также для понимания репозиториев и работы с большими объёмами контекста. Архитектура модели — Mixture-of-Experts: 30,5 млрд параметров всего, из которых 3,3 млрд активируются при обработке запроса. Модель содержит 48 слоёв, 128 экспертов и активирует 8 экспертов; используется Grouped Query Attention с 32 головами запросов и 4 головами ключей и значений. Заявлена нативная длина контекста 262 144 токена с возможностью расширения до 1 млн токенов с помощью YaRN, однако для этой сборки в примере запуска vLLM указана длина 32 768 токенов. К сильным сторонам относятся высокая эффективность разреженной MoE-архитектуры, поддержка длинного контекста, задачи программирования и tool calling. Модель работает только в режиме без рассуждений и не формирует блоки <think></think>. Для запуска рекомендуется vLLM версии 0.10.0; пример конфигурации рассчитан на один узел с четырьмя GPU и требует включения expert parallelism. Размер файлов модели составляет около 30 ГБ, поэтому необходимы значительные аппаратные ресурсы. Распространение заявлено по лицензии Apache 2.0.

nvidia/Qwen3-Coder-480B-A35B-Instruct-NVFP4 — текстовая авторегрессионная языковая модель на архитектуре Transformers, созданная на основе Qwen3-Coder-480B-A35B-Instruct от Alibaba и квантизированная NVIDIA с помощью Model Optimizer. Модель предназначена для генерации кода и текста, а также для использования в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. NVIDIA указывает, что не является владельцем или разработчиком исходной модели, а предоставляет подготовленную квантизированную версию. Модель содержит 480 млрд параметров, принимает и возвращает текстовые последовательности и поддерживает контекст до 256K токенов. Веса и активации линейных операторов в трансформерных блоках квантизированы в формат FP4, что сокращает число бит на параметр с 16 до 4, а требования к дисковому пространству и памяти GPU примерно в 3,5 раза. Версия рассчитана на запуск с TensorRT-LLM на GPU NVIDIA Blackwell, предпочтительно в Linux; заявленная конфигурация тестирования использовала B200. По результатам указанных тестов FP4-версия показала 0,481 на LiveCodeBench и 0,415 на SciCode против 0,486 и 0,412 соответственно у BF16-версии. Языки и дополнительные модальности в README не указаны. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование, однако перед внедрением требуется дополнительная проверка на данных конкретного сценария.

K2-Horizon-375B-A23B — флагманская языковая модель семейства K2-Horizon от IFM. Это разреженная архитектура Mixture-of-Experts: в модели 375 млрд параметров, из которых 23 млрд задействуются на каждом токене. Модель принимает текст и поддерживает контекст до 524 288 токенов; карточка указывает английский язык и возможность диалогового взаимодействия. Модель предназначена для генерации текста, работы с инструментами и агентных сценариев, включая терминальные задачи и длительные многоэтапные процессы. В README заявлены конкурентные результаты на соответствующих бенчмарках. Доступны контрольные точки обучения, обучающие данные и код обучения; для запуска описаны рецепты vLLM и SGLang, а реализация Transformers проверена с указанными в карточке версиями библиотек. Веса опубликованы в формате Safetensors под лицензией Apache-2.0. Для запуска требуются значительные вычислительные ресурсы: README приводит пример обслуживания на восьми ускорителях H200. Заявленная длина контекста — 524 288 токенов; поведение обучения в реализации Hugging Face может отличаться от исходной реализации xLLM.

NVFP4/Qwen3-Coder-30B-A3B-Instruct-FP4 — это квантизированная в формате FP4 версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen и подготовленной с использованием NVIDIA Model Optimizer. Модель относится к классу каузальных языковых моделей и предназначена прежде всего для генерации и анализа программного кода, агентного программирования, работы с инструментами и сценариев agentic browser-use. Она поддерживает специальный формат вызова функций и интеграцию с платформами и инструментами, включая Qwen Code и CLINE. Модель имеет 30,5 млрд параметров, из которых активируется 3,3 млрд. Архитектура включает 48 слоёв, MoE-механизм со 128 экспертами и 8 активируемыми экспертами, а также GQA с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 млн токенов с использованием YaRN, что подходит для анализа репозиториев и других объёмных контекстов. Модель работает только в non-thinking режиме и не генерирует блоки <think></think>. К сильным сторонам относятся высокая эффективность за счёт разреженной MoE-архитектуры и FP4-квантизации, поддержка длинного контекста, задач программирования и вызова инструментов. Ограничения включают отсутствие режима reasoning с явной генерацией рассуждений, повышенные требования к памяти и вычислительным ресурсам при использовании длинного контекста, а также возможное снижение качества из-за квантизации по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.