II.7DevOps, облако и эксплуатация IT-систем

Granite-TimeSeries-PatchTST-FM-r2 — модель временных рядов семейства PatchTST-FM, разработанная IBM. Это dense Transformer-модель с 503,3 млн параметров по метаданным; в README указано около 385 млн параметров. Версия r2 продолжает PatchTST-FM-r1 и заменяет обычные Transformer-блоки на Conformer-блоки с чередующимися свёрточными ядрами размером 5 и 3. Она использует перекрывающиеся патчи длиной 16 с шагом 8, контекст до 8192 временных точек и прогнозирование с объединением перекрывающихся фрагментов; выходная голова формирует 99 квантилей. Модель предназначена для zero-shot прогнозирования временных рядов без дообучения на конкретном наборе данных. Её можно применять для оценки будущих значений и диапазонов неопределённости на разнообразных последовательностях. В README заявлено высокое место на бенчмарке GIFT-Eval среди воспроизводимых zero-shot моделей по CRPS и MASE; результаты на момент публикации находились в ожидающем рассмотрения PR. Модель распространяется под лицензией OpenMDW-1.0, которую README характеризует как permissive и совместимую с коммерческим использованием. README также отмечает, что IBM не обязуется поддерживать или обновлять код репозитория.

KAT-Coder-V2.5-Dev — открытая по весам MoE-модель для агентного программирования, выпущенная командой KAT. Она дообучена на базе Qwen3.6-35B-A3B с помощью supervised fine-tuning на 127 тысячах примеров и последующего обучения с подкреплением. Всего в модели 35 млрд параметров, из которых активируются 3 млрд; карточка указывает архитектуру семейства Qwen3.5 MoE и формат safetensors. Модель предназначена для решения задач программирования в агентных сценариях: анализа задач и выполнения действий через инструменты, доступные в окружении. Разработчики сообщают об улучшении результатов на тестах agentic coding относительно моделей сопоставимого размера и о снижении частоты некорректных меток инструментов и повторов. В README описан запуск через API, а метаданные указывают поддержку чата и интерфейса вызова инструментов. Языки карточки — английский и китайский; для примера оценки использовался контекст 256 тысяч токенов, но это не заявлено как предел модели. Лицензия — Apache-2.0.

Карточка модели SpectreSystems/KAT-Coder-V2.5-Dev-MTP на Hugging Face совпадает с карточкой Kwaipilot/KAT-Coder-V2.5-Dev, поэтому описание составлено по ней. KAT-Coder-V2.5-Dev — открытая по весам MoE-модель для агентного программирования, выпущенная командой KAT. Она дообучена на базе Qwen3.6-35B-A3B с помощью supervised fine-tuning на 127 тысячах примеров и последующего обучения с подкреплением. Всего в модели 35 млрд параметров, из которых активируются 3 млрд; карточка указывает архитектуру семейства Qwen3.5 MoE и формат safetensors. Модель предназначена для решения задач программирования в агентных сценариях: анализа задач и выполнения действий через инструменты, доступные в окружении. Разработчики сообщают об улучшении результатов на тестах agentic coding относительно моделей сопоставимого размера и о снижении частоты некорректных меток инструментов и повторов. В README описан запуск через API, а метаданные указывают поддержку чата и интерфейса вызова инструментов. Языки карточки — английский и китайский; для примера оценки использовался контекст 256 тысяч токенов, но это не заявлено как предел модели. Лицензия — Apache-2.0.

Lunaris Guard v3 — многоязычная модель-классификатор Auren Research для обнаружения prompt injection и разметки категорий безопасности в рабочих процессах ИИ-агентов. Это дообученная на базе энкодера jhu-clsp/mmbert-base плотная модель для классификации последовательностей примерно с 307 млн параметров; она загружается через Transformers с включённым trust_remote_code. Стандартный pipeline text-classification использует голову обнаружения инъекций, а модель также выдаёт классификацию по 14 категориям безопасности. Модель предназначена для проверки документов и фрагментов RAG, результатов поиска и браузера, вывода инструментов и метаданных MCP, а также сообщений, логов, кода и содержимого HTML, Markdown, CSV и API. Поддерживаются английский, португальский, испанский, французский, китайский, хинди, арабский, русский и японский языки. Контекст ограничен 2048 токенами; длинные материалы рекомендуется разбивать на фрагменты и агрегировать оценки риска. Лицензия — MIT. Карточка приводит результаты целевого теста на 100 синтетических примерах, но это не широкий публичный бенчмарк. Англоязычная работа сильнее, чем многоязычная; возможны ложные срабатывания на цитируемых примерах атак и защитных инструкциях, а длинный текст без разбиения может быть усечён. Модель не следует использовать как единственную защиту в системах, где пропуск атаки может привести к серьёзному ущербу.

Mellum-4b-dpo-all — языковая модель для генерации программного кода, разработанная JetBrains. Это третий этап обучения модели Mellum: после предварительного обучения и SFT применена direct preference optimization, чтобы повысить читаемость и полезность генерируемого кода. Модель построена на плотной архитектуре в стиле LLaMA и содержит 3,7 млрд параметров. Она предназначена прежде всего для контекстного автодополнения, генерации кода и заполнения пропусков с учётом дополнительного контекста. Контекстное окно составляет 8192 токена. Обучение охватывало широкий набор языков программирования, включая Python, Java, JavaScript, C++, Go, Rust, SQL и другие. Модель рассчитана на интеграцию в IDE и помощники программиста, а также на локальный или облачный запуск. Предпочтения при обучении нацелены на более читаемый код, но генерации могут наследовать стили и предубеждения открытых репозиториев; предложенный код необходимо проверять на ошибки и уязвимости. Весы доступны в формате bf16, лицензия — Apache-2.0.

Muse-Glimmer-30B-Hermes-Agentic — дообученная Виктором Крузом (vcruz305) модель на базе Muse Glimmer 30B от Meta Superintelligence Lab. Это плотный трансформер с энкодером восприятия, обученный выполнять короткие последовательности вызова инструментов в Hermes Agent и совместимых OpenAI-style агентных оболочках: использовать один или два инструмента, затем остановиться и сформировать ответ. Дообучение проводилось на синтетических англоязычных трассах Hermes; визуальные веса заморожены, поэтому основное назначение этой версии — работа с текстом и инструментами, а не улучшение анализа изображений. Модель содержит около 29,6 млрд параметров и сохраняет архитектуру, токенизатор и контекст базовой модели — 131 072 токена и более. В тестах автора она показала 16/20 на симулированных задачах с инструментами и 7/7 на небольшой нативной батарее Hermes; результаты относятся к ограниченным тестовым наборам и не являются сертификацией. Англоязычное дообучение может ухудшать поведение при работе на других языках; также отмечены ошибки в отдельных сценариях, включая простые команды и удаление файлов. Использование инструментов требует собственных защитных мер, особенно для необратимых действий. Лицензия — Apache 2.0.

dcostenco/prism-coder-14b — диалоговая модель для генерации кода и вызова инструментов, созданная на базе Qwen3-14B. Она предназначена для использования в качестве маршрутизатора инструментов и для задач, где нужно генерировать текст или код в диалоговом формате. Репозиторий содержит модель в формате GGUF; базовая модель имеет 14 млрд параметров. Модель устарела: автор рекомендует вместо неё prism-coder:9b на базе Qwen3.5-9B, указывая более высокий результат BFCL и меньший размер. Модель распространяется по лицензии Apache-2.0. README сообщает об отсутствии галлюцинаций в указанной оценке, но не приводит методику измерения; это утверждение не следует трактовать как гарантию поведения модели.

TimesFM 2.5 200M — предварительно обученная модель временных рядов для прогнозирования, разработанная Google Research. Это третий открытый чекпойнт семейства TimesFM; модель имеет архитектуру декодера и содержит 229,4 млн параметров. В репозитории представлены веса в формате safetensors, для работы используется библиотека timesfm. Модель предназначена для прогнозирования временных рядов. При предобучении использовались набор GiftEvalPretrain, просмотры страниц Wikimedia, данные Google Trends, а также синтетические и дополненные данные. Чекпойнт не является официально поддерживаемым продуктом Google; официальную поддержку Google указывает для TimesFM в BigQuery. Лицензия — Apache 2.0.

Zamba2-7B — базовая языковая модель от Zyphra для генерации текста и кода. Она сочетает слои Mamba2 и общие трансформерные блоки с механизмом внимания; LoRA-проекции помогают этим блокам специализироваться на разных этапах сети. Модель обучена на 2 трлн токенов текста и кода, а затем дополнительно обучена на смеси примерно из 100 млрд высококачественных токенов. Для токенизации используется токенизатор Mistral v0.1. Модель рассчитана на общие сценарии генерации и продолжения текста, включая код. Разработчик заявляет о низкой задержке генерации и меньшем потреблении памяти по сравнению с сопоставимыми трансформерными моделями. Это предварительно обученная базовая модель, а не чат-модель: качество следования инструкциям не гарантируется, встроенной модерации нет, и возможна генерация токсичного или вредоносного текста. Реализация для Hugging Face обозначена как временная; для оптимальной производительности требуются совместимые версии Transformers и ядра Mamba2. Лицензия — Apache-2.0.

Это экспериментальный чекпойнт языковой модели Qwen3-4B-Instruct-2507, дообученный командой проекта с помощью OpenRLHF и алгоритма GRPO непосредственно на базовой модели, без предварительного SFT-seed. Модель содержит около 3,7 млрд параметров, использует плотную архитектуру Qwen3 и принимает текстовый ввод для генерации текста. Заявленная длина контекста — до 262 144 токенов. Чекпойнт предназначен прежде всего для генерации программ и решения задач по программированию. Обучение использовало бинарную награду за прохождение тестов кода и набор сложных задач cobalt-train; этот вариант выбран как лучший по pass@8 в данном запуске. Модель сохранена на шаге 36, однако метрики оценки для этого чекпойнта в журнале обучения отсутствуют. В репозитории указаны веса safetensors и библиотека Transformers. Лицензия в доступных сведениях не приведена.

Это экспериментальный чекпойнт Qwen3-4B-Instruct-2507, разработанный agurung и дообученный методом обучения с подкреплением GRPO на базе OpenRLHF. Он предназначен для генерации кода и решения задач программирования: обучение проводилось на задачах, где базовая модель редко находила правильное решение, а награда зависела от прохождения тестов программы. Чекпойнт сохранён на 16-м шаге обучения; автор сообщает, что в рамках этого запуска он показал лучший результат pass@8. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3 и принимает текстовые запросы, выдавая текст, в том числе программный код. Контекстное окно — до 262 144 токенов. Веса доступны в формате safetensors для библиотеки Transformers. Карточка не указывает лицензию. Показатели оценки относятся к указанному набору задач и конфигурации эксперимента, поэтому не гарантируют качество на других задачах; модель унаследовала ограничения базовой Qwen3.

Sharathhebbar24/code_gpt2 — дообученная автором модель GPT-2 для генерации кода по текстовой инструкции или подсказке. Она создана на основе Sharathhebbar24/code_gpt2_mini_model с использованием набора Evol-Instruct-Code-80k-v1; в метаданных также указаны обучающие наборы UltraChat 200k, CodeLlama-2-20k, orca_dpo_pairs и sql-create-context. Модель имеет архитектуру GPT2LMHeadModel, принимает текст и генерирует продолжение, сохраняя веса в формате safetensors. Модель предназначена для генерации фрагментов кода и ответов на инструкции, связанные с кодом. Карточка описывает базовый GPT-2 как обученный на английских текстах; метаданные отмечают английский язык. Контекст ограничен 1024 токенами. Репозиторий распространяется по лицензии Apache-2.0. В README приведены оценки на нескольких тестах языкового моделирования и рассуждений, но они не дают полной оценки качества генерации кода.

Карточка модели meetkai/functionary-medium-v2.4 на Hugging Face совпадает с карточкой meetkai/functionary-small-v2.4, поэтому описание составлено по ней. meetkai/functionary-small-v2.4 — языковая модель MeetKai для диалогов с вызовом функций и плагинов. Она построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель выбирает, когда вызывать инструменты, извлекает имена функций и аргументы из их JSON Schema-описаний, может запускать вызовы последовательно или параллельно и формировать ответы с учётом результатов. Она также поддерживает обычные ответы без вызова инструментов и сценарии с интерпретатором кода. В README приведён результат 83,07% точности вызова функций на наборе SGD для версии small-v2.4. Для форматирования диалога предусмотрен шаблон v2PromptTemplate; в карточке рекомендуется запуск через OpenAI-совместимый сервер vLLM. Доступный репозиторий использует формат safetensors. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

meetkai/functionary-small-v2.4 — языковая модель MeetKai для диалогов с вызовом функций и плагинов. Она построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель выбирает, когда вызывать инструменты, извлекает имена функций и аргументы из их JSON Schema-описаний, может запускать вызовы последовательно или параллельно и формировать ответы с учётом результатов. Она также поддерживает обычные ответы без вызова инструментов и сценарии с интерпретатором кода. В README приведён результат 83,07% точности вызова функций на наборе SGD для версии small-v2.4. Для форматирования диалога предусмотрен шаблон v2PromptTemplate; в карточке рекомендуется запуск через OpenAI-совместимый сервер vLLM. Доступный репозиторий использует формат safetensors. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

jd5 — дообученная модель генерации кода на базе deepseek-ai/deepseek-coder-1.3b-base, созданная автором репозитория stojchet. Для обучения использован набор данных generator. Модель содержит 1,3 млрд параметров, использует архитектуру Llama и формат safetensors; длина контекста — 16 384 токена. Она предназначена для генерации и продолжения кода в сценариях автодополнения и разработки. Карточка не приводит оценок качества и подробностей о составе обучающих данных. Лицензия в доступных данных не указана.

jndpo4 — дообученная модель генерации текста, созданная на основе deepseek-ai/deepseek-coder-1.3b-base и обученная на наборе данных generator. Она использует плотную архитектуру семейства Llama и содержит 1,3 млрд параметров. Модель предназначена для генерации и продолжения текста; базовая модель ориентирована на продолжение, автодополнение и заполнение пропусков в коде, поэтому jndpo4 может подойти для подобных сценариев. Контекст составляет до 16 384 токенов. Веса доступны в формате safetensors, лицензия указана как other. Карточка не содержит сведений о конкретных сценариях, оценке качества или ограничениях дообученной версии.

jnkto1 — дообученная модель для генерации текста, созданная на базе deepseek-ai/deepseek-coder-1.3b-base. Модель построена на плотной архитектуре семейства Llama и содержит 1,3 млрд параметров; заявленное окно контекста — 16 384 токена. В репозитории представлены веса Safetensors. README сообщает о дообучении методом KTO и приводит метрики оценки, но не описывает обучающие данные и целевые сценарии подробнее. Модель подходит для генерации и продолжения текста, в том числе кода, в рамках возможностей базовой DeepSeek Coder. Лицензия указана как other, поэтому условия использования следует сверить с лицензией и файлами репозитория перед применением.

Карточка модели kkyyxhll/KAT-Coder-V2.5-Dev-fused-gate-up на Hugging Face совпадает с карточкой Kwaipilot/KAT-Coder-V2.5-Dev, поэтому описание составлено по ней. KAT-Coder-V2.5-Dev — открытая по весам MoE-модель для агентного программирования, выпущенная командой KAT. Она дообучена на базе Qwen3.6-35B-A3B с помощью supervised fine-tuning на 127 тысячах примеров и последующего обучения с подкреплением. Всего в модели 35 млрд параметров, из которых активируются 3 млрд; карточка указывает архитектуру семейства Qwen3.5 MoE и формат safetensors. Модель предназначена для решения задач программирования в агентных сценариях: анализа задач и выполнения действий через инструменты, доступные в окружении. Разработчики сообщают об улучшении результатов на тестах agentic coding относительно моделей сопоставимого размера и о снижении частоты некорректных меток инструментов и повторов. В README описан запуск через API, а метаданные указывают поддержку чата и интерфейса вызова инструментов. Языки карточки — английский и китайский; для примера оценки использовался контекст 256 тысяч токенов, но это не заявлено как предел модели. Лицензия — Apache-2.0.

nuprl/MultiPL-T-CodeLlama_34b — набор дообученных версий CodeLlama-34b, подготовленный авторами проекта MultiPL-T на данных MultiPL-T. Репозиторий содержит контрольные точки по эпохам; конкретный язык программирования и контрольную точку можно определить по сообщению коммита. Модель представляет собой плотную авторегрессионную Llama-архитектуру объёмом 33,5 млрд параметров и принимает текстовый ввод, выдавая текст. Основное назначение — генерация кода с переносом знаний между языками программирования, включая языки с меньшим объёмом обучающих данных. Максимальный родной контекст — 16 384 токена; для запуска предусмотрена библиотека Transformers и формат PyTorch. Модель распространяется по лицензии OpenRAIL. Карточка не уточняет языковый вариант конкретной контрольной точки; перед использованием следует выбрать ревизию по коммиту и свериться с карточкой исходной CodeLlama-34b.

Occiglot-7B-DE-EN — базовая генеративная языковая модель, разработанная Occiglot Research Collective. Это плотный декодерный трансформер с причинным языковым моделированием на архитектуре Mistral, содержащий 7,1 млрд параметров. Модель продолжительно предварительно обучена на базе Mistral-7B-v0.1 на 114 млрд дополнительных токенов многоязычных данных и кода; длина контекста по метаданным — 32 768 токенов. Модель рассчитана прежде всего на генерацию текста на немецком и английском языках, а также обучалась на коде. Её можно использовать как базу для генерации продолжений и дальнейшей адаптации под конкретные задачи. Это базовая модель без дообучения на инструкциях, поэтому она не оптимизирована для диалогов и может не следовать запросам как чат-ассистент. Для таких сценариев авторы предлагают отдельную instruct-версию. Распространяется по лицензии Apache 2.0.

agustindxm/qwen-coder-jailbreak — локальная GGUF-версия Qwen2.5-Coder-7B-Instruct, разработанная на основе модели Qwen от Alibaba Cloud. Модель обработана методом abliteration с использованием Heretic: из residual stream удалено направление, связанное с отказами, без применения LoRA или полноценного дообучения. Пакет подготовлен agusisa/agustindxm и предназначен прежде всего для исследовательских и образовательных задач. Модель ориентирована на генерацию кода, технические вопросы, исследования alignment и отказоустойчивости, red-team-тестирование с разрешения владельца системы, а также разработку детекторов и контрмер. Заявлены английский и испанский языки. Доступны файлы в формате GGUF: квантизация Q4_K_M размером 4,4 ГБ и вариант F16 размером 14,2 ГБ. Базовая модель поддерживает контекст до 32 000 токенов, однако в приведённой конфигурации Ollama установлено ограничение 8192 токена. Для работы используются llama.cpp, LM Studio или Ollama с шаблоном чата Qwen2. Среди заявленных характеристик — 96% успешных срабатываний jailbreak в тесте Heretic и небольшое расхождение с базовой моделью по KL divergence, равное 0,0339, что указывает на преимущественно сохранённое качество исходной модели. Основные ограничения — отсутствие встроенных защитных ограничений в прежнем объёме и повышенный риск небезопасных ответов; модель не рекомендуется для публичных чат-ботов без собственных фильтров, незаконной деятельности или неконтролируемого применения. Распространяется по лицензии Apache 2.0, как и базовая модель.

Qwopus3.5-9B-Coder-MTP-MoQ — набор квантованных GGUF-версий модели на основе Qwen/Qwen3.5-9B, опубликованный Waleed Ahmad. Репозиторий предназначен для генерации текста и диалога; в названии заявлена специализация на программировании, но README не приводит отдельных оценок или сведений о настройке под код. Также указана поддержка MTP speculative decoding для ускорения генерации. Метод MoQ (Mixture of Quants) распределяет точность квантования по слоям модели, сохраняя более высокую точность для важных частей и сильнее сжимая остальные. В README приведены варианты примерно от 3,3 до 3,9 бит на вес, а также заявление автора о сравнительных оценках относительно других квантований. Файлы доступны в формате GGUF; для запуска README показывает llama.cpp. Модель унаследовала мультимодальные возможности базовой Qwen3.5-9B, однако карточка этого репозитория описывает прежде всего текстовую генерацию и не подтверждает работу с изображениями в данных GGUF. Указанная лицензия — MIT. Качество конкретных квантованных вариантов может различаться; заявления о превосходстве в README принадлежат автору и не сопровождаются подробностями методики оценки.

Qwen2.5-Coder-32B-Instruct-GPTQ-Int8 — инструкционная GPTQ-квантизованная версия 8-битной модели Qwen2.5-Coder-32B из семейства специализированных языковых моделей Qwen для программирования, разработанного командой Qwen. Модель предназначена для генерации, анализа и исправления программного кода, создания code agents, а также решения математических и общих текстовых задач. Это авторегрессионная causal language model на архитектуре Transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV-слоях внимания. Модель содержит около 32,5 млрд параметров, 64 слоя и использует GQA с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется дополнительная настройка YaRN. Основная заявленная языковая поддержка — английский язык. Модель работает в режиме текст-в-текст и не предназначена для обработки изображений или других мультимодальных данных. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, сохранение математических и общих способностей, а также уменьшенное потребление памяти благодаря 8-битной квантизации. Ограничениями являются высокие требования к вычислительным ресурсам, возможное снижение качества или производительности на длинных контекстах при использовании статического YaRN и необходимость совместимой версии Transformers и корректной конфигурации развёртывания. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-7B-Instruct-AWQ — 4-битная AWQ-квантизированная instruction-tuned языковая модель для генерации текста и программного кода, разработанная командой Qwen компании Alibaba Cloud. Она предназначена для генерации, анализа и исправления кода, работы с чат-запросами, создания code agents, а также задач, где требуются математические и общие языковые способности. Модель использует каузальную transformer-архитектуру с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Она содержит 7,61 млрд параметров, 28 слоёв и Grouped-Query Attention с 28 головами Q и 4 головами KV. Заявлена поддержка контекста до 131 072 токенов; для входов свыше 32 768 токенов требуется настройка YaRN, которая может снижать производительность на коротких текстах. Модель обучалась на данных, включающих исходный код, текстово-кодовые связи и синтетические данные; в README указан английский язык. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможное ухудшение качества или скорости при использовании расширенного контекста и необходимость совместимых версий Transformers и AWQ-инфраструктуры. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-7B-Instruct-GPTQ-Int4 — инструкционная языковая модель для работы с программным кодом из семейства Qwen2.5-Coder, разработанного командой Qwen при Alibaba Cloud. Модель предназначена для генерации, анализа, исправления и объяснения кода, а также для использования в чат-ассистентах и кодовых агентах. Она сохраняет возможности базовой модели в математике и общих задачах. В карточке указано, что модель ориентирована на английский язык. Это causal language model на архитектуре Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV и GQA: 28 голов для Q и 4 для KV. Модель содержит 7,61 млрд параметров, из них 6,53 млрд без учёта embedding, и 28 слоёв. Доступна GPTQ-квантизация до 4 бит, уменьшающая требования к памяти по сравнению с полноразмерной версией. Максимальная длина контекста заявлена до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких запросах. Сильными сторонами модели являются специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также компактный размер и 4-битная квантизация, удобные для локального или ограниченного по ресурсам развёртывания. Ограничения включают зависимость качества и скорости от оборудования и настроек инференса, а также возможное ухудшение производительности при использовании статического YaRN. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-32B-Instruct-GPTQ-Int4 — инструкционная, GPTQ-квантизированная 4-битная версия каузальной языковой модели Qwen2.5-Coder, разработанная командой Qwen. Модель предназначена прежде всего для генерации, анализа и исправления программного кода, задач code reasoning и создания кодовых агентов, сохраняя способности к математике и общим текстовым задачам. В карточке явно указан английский язык. Модель содержит около 32,5 млрд параметров, из них 31 млрд без учёта embedding, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV-проекциях внимания; применяется GQA с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов. Для более длинных входов требуется включение YaRN, что может снижать производительность на коротких текстах при статическом масштабировании. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также снижение требований к памяти благодаря 4-битной квантизации. Ограничения включают возможную потерю качества из-за квантизации и необходимость корректной настройки длинного контекста. Модель распространяется по лицензии Apache-2.0.

unsloth/gpt-oss-20b-unsloth-bnb-4bit — 4-битная квантованная версия open-weight языковой модели gpt-oss-20b, разработанной OpenAI и подготовленной Unsloth. Модель предназначена для генерации текста, задач рассуждения, локального и специализированного использования, а также агентских сценариев разработчиков, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель построена на архитектуре Mixture-of-Experts (MoE) и содержит 21 млрд параметров, из которых активно используется 3,6 млрд. Вариант распространяется в формате 4-bit BnB; исходная модель использует нативную MXFP4-квантизацию для MoE-слоёв и рассчитана на работу примерно в пределах 16 ГБ памяти. Поддерживается настраиваемая интенсивность рассуждений — низкая, средняя и высокая. Модель обучена для работы с форматом ответов harmony, который необходимо применять корректно. Данные о языках и размере контекста в карточке не указаны. К сильным сторонам относятся сниженные требования к памяти, меньшая задержка по сравнению с gpt-oss-120b, возможность тонкой настройки и широкий набор агентских возможностей. Ограничения включают необходимость использования harmony-формата и то, что цепочка рассуждений, доступная модели, не предназначена для показа конечным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование и модификацию.

unsloth/Kimi-K3-GGUF — GGUF-версия открытой мультимодальной агентной модели Kimi K3, разработанной Moonshot AI и подготовленной Unsloth. Модель предназначена для длительных задач программирования, работы с большими репозиториями, использования терминальных инструментов, глубокого исследования, автоматизации знаний и мультимодальных сценариев, включая работу с визуальными материалами, интерактивными интерфейсами, CAD и видеомонтажом. Модель построена на архитектуре Mixture-of-Experts с общим числом параметров 2,8 трлн и примерно 104 млрд активируемых параметров. Она использует Kimi Delta Attention (KDA), Attention Residuals и Stable LatentMoE: из 896 экспертов для каждого токена выбираются 16. Архитектура включает 93 слоя, в том числе 69 KDA- и 24 Gated MLA-слоя, а также один плотный слой. Kimi K3 поддерживает нативную работу с текстом, изображениями и видео и имеет контекстное окно до 1 млн токенов. К сильным сторонам относятся большой контекст, нативная мультимодальность, высокая масштабируемость MoE и ориентация на автономные многоэтапные задачи с минимальным контролем человека. Для запуска GGUF-версии требуется совместимый llama.cpp fork Unsloth или Unsloth Studio; доступны варианты квантования, при этом Q8 обозначен как вариант без потерь точности относительно полной точности и существенно больше Q4. Языки модели в README не указаны. Веса распространяются по лицензии Kimi K3 License; точные условия следует проверять в тексте этой лицензии.

NVIDIA Kimi-K3-NVFP4 — квантизированная версия мультимодальной модели Kimi-K3, разработанной Moonshot AI и оптимизированной NVIDIA с помощью Model Optimizer. Это авторегрессионная transformer-модель архитектуры Mixture-of-Experts с компонентами Kimi Delta Attention, Attention Residuals и Stable LatentMoE. Объём модели составляет 2,8 трлн параметров, при этом для каждого токена активируются 16 из 896 экспертов. Версия NVFP4 — 1.0, квантизация выполнена с использованием nvidia-modelopt v0.45.0. Модель предназначена для генерации текста и кода, длительных задач программирования, глубокого рассуждения, разработки игр, end-to-end knowledge work и мультимодальных агентских сценариев. Она принимает текст, изображения и видео, а её нативное контекстное окно составляет 1 048 576 токенов. На выходе формируется текст, включая естественно-языковые ответы, код, структурированный JSON, запросы инструментов и инструкции для координации агентов. Поддерживаются vLLM и SGLang; целевая аппаратная платформа — NVIDIA Blackwell B200 и B300 под Linux. К сильным сторонам относятся мультимодальность, чрезвычайно длинный контекст, MoE-архитектура и готовность к развёртыванию на NVIDIA GPU, включая NVFP4-квантизацию. Ограничения связаны с высокой общей размерностью модели и требованиями к специализированной аппаратуре; размер и свойства обучающих данных не раскрыты. Модель рассчитана на коммерческое и некоммерческое использование, однако её применение регулируется NVIDIA Open Model Agreement и дополнительными условиями лицензии Kimi-K3.

Laguna S 2.1-INT4 — модель компании poolside для агентного программирования и длительных многошаговых задач на локальной машине. Это текстовая text-to-text модель с поддержкой рассуждений, включая чередование размышлений и вызовов инструментов, а также возможность включать и отключать рассуждения для отдельных запросов. Модель использует архитектуру Mixture-of-Experts: 117,6 млрд параметров всего, из которых 8,5 млрд активируются на каждом токене. Она содержит 48 слоёв, 256 экспертов и один общий эксперт; в 36 слоях применяется Sliding Window Attention с окном 512 токенов, а 12 слоёв используют глобальное внимание. Per-head gating, rotary scales для отдельных слоёв и смешанное соотношение локального и глобального внимания рассчитаны на ускорение инференса и снижение требований к KV-кэшу. Контекстное окно составляет 1 048 576 токенов, KV-кэш квантизируется в FP8. Поддерживается только текстовая модальность; языки в README не указаны. К сильным сторонам относятся специализация на разработке ПО, агентных сценариях, работе с инструментами и длинном контексте, а также возможность локального запуска. Квантизированные INT4-веса занимают примерно 72 ГБ; модель поддерживается vLLM, Transformers, Ollama и llama.cpp с оговорёнными ограничениями по форматам и версиям. При использовании контекста максимальной длины возможно снижение качества. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.