II.7DevOps, облако и эксплуатация IT-систем
В разделе собраны самостоятельные задачи, где AI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 196 моделейQwen3.5 0.8B Security Triage v4-7 Merged — дообученная модель семейства Qwen от автора репозитория apxi для первичной классификации коротких строк журналов безопасности. Она формирует структурированный ответ с меткой, уровнем серьёзности, признаком подозрительности, свидетельствами, объяснением и рекомендуемым действием. Поддерживаются категории normal, failed_login_bruteforce, sql_injection_attempt, directory_traversal_attempt и port_scan_or_recon. Это плотная модель Qwen3.5 с 0,8 млрд параметров, представленная в BF16 в формате Transformers/Safetensors. Чекпойнт получен слиянием LoRA-адаптера с базовой моделью unsloth/Qwen3.5-0.8B; интерфейс рассчитан на диалоговую подачу текстовых логов. В карточке проекта указано применение для прототипа помощника по разбору журналов безопасности и совместимость с сервингом через OpenAI-совместимые среды, например vLLM. Модель обучена на синтетических данных и предназначена для сортировки подозрительных паттернов и рекомендаций по расследованию. Она не подтверждает факт компрометации или вредоносной активности и не заменяет проверку аналитика. Лицензия в предоставленных данных не указана.
Mitchins дообучил Sentence Transformer на базе sentence-transformers/all-MiniLM-L6-v2 для сопоставления терминальных команд с их описаниями. Модель кодирует предложения и абзацы в плотные векторы размерности 384; сходство между ними можно оценивать косинусной мерой. Архитектура включает энкодер BertModel, mean pooling и нормализацию. В README указана максимальная длина последовательности 256 токенов; метаданные указывают контекст 512 токенов. Модель предназначена для семантического поиска и сравнения команд оболочки с описаниями, а также для поиска перефразировок, кластеризации и классификации текстов в этой предметной области. Обучение выполнено на 78 768 парах предложений с MultipleNegativesRankingLoss. По приведённым примерам дообучение улучшает разделение подходящих и неподходящих пар, но карточка не содержит широких независимых оценок качества. Базовая модель ориентирована на английский язык; лицензия в предоставленных данных не указана.
Qwen2.5-Coder-14B-n8n-Workflow-Generator — дообученная модель автора mbakgun на базе Qwen/Qwen2.5-Coder-14B-Instruct от команды Qwen. Она предназначена для генерации JSON-конфигураций рабочих процессов n8n по описанию на естественном языке, например для автоматизации интеграций, мониторинга RSS-лент, отправки уведомлений в Discord или Slack и обработки событий из GitHub. Модель обучена методом QLoRA с 4-битным квантованием, LoRA rank 32 и LoRA alpha 64. Для дообучения использован датасет mbakgun/n8nbuilder-n8n-workflows-dataset, содержащий более 2304 шаблонов рабочих процессов из публичной галереи n8n. Максимальная длина последовательности при обучении составляет 8192 токена; заявленный язык — английский. Доступны варианты для Transformers и MLX, включая квантованную сборку для Apple Silicon. Сильная сторона модели — специализация на структуре и шаблонах n8n, что может ускорять создание автоматизаций из текстовых требований. При этом сгенерированные процессы требуют ручной проверки и валидации, длинные рабочие процессы свыше 8192 токенов могут быть усечены, а обучение только на публичных шаблонах ограничивает охват сценариев. Модель распространяется по лицензии Apache 2.0.
CyberStag-Security-26B-A4B-V1-BF16-MLX — текстовая языковая модель deer-sec для анализа кибербезопасности и логических рассуждений. Это дообученная на базе Gemma-4-26B-A4B MoE модель: адаптер LoRA обучали с помощью MLX и затем объединили с базовыми весами. Репозиторий содержит вариант BF16 для MLX, ориентированный на Apple Silicon; по метаданным модель имеет 26 млрд параметров и поддерживает чат. Модель предназначена для специалистов по безопасности, SOC-аналитиков, исследователей и системных администраторов. Она помогает разбирать журналы событий, оценивать уязвимости и векторы атак, выполнять моделирование угроз и готовить планы реагирования на инциденты. README сообщает об улучшении качества ответов в задачах кибербезопасности относительно базовой модели, но отмечает небольшое увеличение задержки. Вход и выход — текст; в карточке заявлены английский и японский языки, а также многоязычная поддержка. Модель выпущена под лицензией Apache-2.0; авторы позиционируют её для образовательных и защитных задач и запрещают злонамеренное использование.
MagenticBrain-GGUF — это GGUF-квантизированная версия 14-миллиардной orchestration-модели Microsoft Research AI Frontiers MagenticBrain, подготовленная сообществом для llama.cpp и совместимых средств запуска, включая Lemonade, LM Studio и Ollama. Базовая модель дообучена на основе Qwen3-14B на данных для агентных сценариев, включая вызов функций, взаимодействие с MCP-средами, работу с файловой системой и терминалом, делегирование задач субагентам и выполнение терминальных задач с подкреплением. Модель предназначена прежде всего для многошагового планирования и оркестрации: она выбирает инструменты из заранее объявленной схемы, формирует структурированные JSON-вызовы, координирует субагентов и соблюдает протокол завершения через отправку результата. Это не универсальная чат-модель; наиболее полно она спроектирована и оценивалась в связке с Magentic-Lite и Magentic-UI v0.2. Рекомендуемый контекст — до 32K токенов, а режим рассуждений следует отключать с помощью enable_thinking: false, поскольку подробное рассуждение может ухудшать длинные агентные траектории. Доступны варианты Q6_K размером около 11,5 ГБ и Q4_K_M размером около 9 ГБ. Q6_K рекомендуется как близкий к исходному по качеству вариант с хорошим сохранением точности структурированных вызовов инструментов и JSON; Q4_K_M предназначен для систем с более ограниченным объёмом VRAM. Ключевые ограничения — узкая специализация на оркестрации, зависимость от корректно переданных схем инструментов и отсутствие заявленных в карточке сведений о поддерживаемых языках и дополнительных модальностях. Модель распространяется по лицензии MIT; репозиторий квантизации не связан с Microsoft и не одобрен ею.
SecEBL-Rev20 — разработанная проектом EBWi11 модель для распознавания поведенческих намерений по телеметрии безопасности. Она принимает текст команд Linux или нормализованных событий Kubernetes AuditLog и ранжирует подходящие метки поведения; модель выдаёт объяснимые признаки, а не вердикт о вторжении. В словаре Rev20 — 361 метка в 12 группах. Это дообученная на Alibaba-NLP/gte-modernbert-base модель эмбеддингов на базе ModernBERT с 149 млн параметров и контекстом до 8192 токенов. Артефакты совместимы с SentenceTransformers; ранжирование строится по сходству эмбеддинга события с текстами меток. Модель ориентирована на Linux и Kubernetes, а карточка не заявляет поддержку иных естественных языков. SecEBL предназначена для исследования, оценки и применения в обнаружении угроз, расследовании и триаже событий в системах, которые организация уполномочена защищать. Она помогает находить подозрительное использование легитимных инструментов и формировать поведенческие признаки для правил или анализа сессий. Модель не определяет сама по себе, является ли событие вторжением; полноразмерные обучающие корпуса и внутренние бенчмарки не распространяются. Лицензия — Apache-2.0.
laion/tt-x5_gradnorm-gn0p9 — дообученная методом обучения с подкреплением модель на базе Qwen/Qwen3-Coder-30B-A3B-Instruct. Обучение проводилось с RLOO и FSDP2 для агентных задач из набора terminal-bench exp_rpt_multifile с использованием среды terminus-2 Harbor. Модель предназначена для генерации текста в агентных сценариях, связанных с работой в терминале и обработкой нескольких файлов. Это MoE-модель семейства Qwen3 с архитектурой Qwen3MoeForCausalLM, 2,6 млрд параметров и контекстом до 262 144 токенов. Метаданные указывают английский язык и поддержку чата. Лицензия в предоставленных данных не указана.
Iron Jean WAF — англоязычный классификатор HTTP-запросов, разработанный Franck ANDRIANO для обнаружения вредоносных payload в веб-трафике. Модель дообучена на ModernBERT-base и классифицирует запросы как безопасные или атакующие; она предназначена для inline-фильтрации на API-шлюзах и в серверных приложениях, в том числе для выявления SQL-инъекций, XSS и Path Traversal. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и поддерживает контекст до 8192 токенов. Для работы запрос нужно представить в заданной разметке с полями METHOD, URI, HEADERS и, при наличии, BODY; сырые сетевые байты не подходят. В репозитории доступны веса safetensors и варианты ONNX, включая INT8 для CPU и FP16 для GPU. Автор сообщает об оценке на наборе из 84 221 HTTP-запроса, однако описанное внесение шума и инверсия меток в обучающие данные затрудняют интерпретацию приведённых метрик. Модель рассчитана на HTTP-трафик в форматах JSON, XML и URL-encoded и не предназначена для общих языковых задач. Лицензия — Apache-2.0.
laion/tt-x5_gradnorm-gn1p8 — дообученная методом обучения с подкреплением модель на основе Qwen/Qwen3-Coder-30B-A3B-Instruct. Её обучали с помощью RLOO и FSDP2 на агентных задачах terminal-bench из набора exp_rpt_multifile, используя оболочку terminus-2 Harbor; эта версия соответствует варианту эксперимента с max_grad_norm=1.8. Модель предназначена для генерации текста в агентных сценариях, в частности для решения задач в терминале. Архитектура — Qwen3 MoE; в метаданных указаны 2,6 млрд параметров, контекст до 262 144 токенов и формат safetensors. Карточка указывает английский язык. Лицензия в предоставленных данных не указана.
Это экспериментальный чекпойнт размером 7,6 млрд параметров, разработанный в рамках проекта SkyRL и полученный дообучением базовой модели laion/GLM-4_7-swesmith-sandboxes-with_tests-oracle_verified_120s-maxeps-131k-fixthink с помощью обучения с подкреплением. Модель использует плотную архитектуру Qwen3 для авторегрессионной генерации текста и была обучена на наборе задач exp_rpt_e2egit-v2 из Terminal-Bench алгоритмом RLOO_n; опубликован выбранный по скользящему среднему награды чекпойнт на шаге 10 из 14.
LAYA v2.0 Enhanced Edition — дообученная модель семейства ModernBERT, разработанная автором репозитория ameerhmz5 на базе convaiinnovations/laya. Она предназначена для быстрых решений за один проход: выбора действия из набора вариантов, бинарной проверки утверждений и правил, а также оценки приоритета или уровня риска. В README заявлены 90,61% точности на валидационной выборке из 4 740 примеров и обучение на корпусе из 47 400 вопросов; архитектура в метаданных — ModernBertForMaskedLM с 394,7 млн параметров и контекстом 8 192 токена. Модель подходит для маршрутизации запросов и инцидентов, классификации, триажа обращений, проверки соответствия политикам и выбора инструмента в агентных системах. В репозитории указаны веса Safetensors и варианты GGUF F16 и Q8_0; README также описывает запуск на Apple Silicon. Лицензия — Apache-2.0. Заявленные показатели и скорость относятся к описанным автором условиям и не гарантируют такого же результата на других данных и оборудовании. Данные карточки указывают на задачи text-classification и fill-mask; последняя отражает архитектурный тип, тогда как основное пользовательское назначение — классификация и принятие решений.
Это экспериментальная разговорная языковая модель Mythos-9B Unhinged от Richard Young, созданная на основе слияния SLERP модели Mythos-9B с braindao/Qwen3-8B-Uncensored и дополнительного снятия отказов методом abliteration Heretic v1.4.0. В метаданных указаны архитектура Qwen3 с плотной causal language model, 7,6 млрд параметров, контекст до 40 960 токенов и формат Safetensors. README описывает режим рассуждений Qwen3 и настройку /no_think. Модель предназначена для диалоговой генерации текста, агентных сценариев, использования инструментов, генерации кода и команд оболочки, а также многошаговых рассуждений. Автор заявляет о низкой частоте отказов и приводит внутреннее сравнение с исходной Mythos-9B-Unhinged; это не является независимой оценкой качества. Карточка описывает обучение на наборе FableForge Mix A и указывает английский язык. Модель явно позиционируется как не имеющая защитных фильтров; она может выдавать вредоносные или небезопасные инструкции и не должна считаться надёжным источником. Лицензия — Apache-2.0.
Карточка модели willchen0011/SecEBL на Hugging Face совпадает с карточкой GA-177/SecEBL, поэтому описание составлено по ней. SecEBL-Rev20 — разработанная проектом EBWi11 модель для распознавания поведенческих намерений по телеметрии безопасности. Она принимает текст команд Linux или нормализованных событий Kubernetes AuditLog и ранжирует подходящие метки поведения; модель выдаёт объяснимые признаки, а не вердикт о вторжении. В словаре Rev20 — 361 метка в 12 группах. Это дообученная на Alibaba-NLP/gte-modernbert-base модель эмбеддингов на базе ModernBERT с 149 млн параметров и контекстом до 8192 токенов. Артефакты совместимы с SentenceTransformers; ранжирование строится по сходству эмбеддинга события с текстами меток. Модель ориентирована на Linux и Kubernetes, а карточка не заявляет поддержку иных естественных языков. SecEBL предназначена для исследования, оценки и применения в обнаружении угроз, расследовании и триаже событий в системах, которые организация уполномочена защищать. Она помогает находить подозрительное использование легитимных инструментов и формировать поведенческие признаки для правил или анализа сессий. Модель не определяет сама по себе, является ли событие вторжением; полноразмерные обучающие корпуса и внутренние бенчмарки не распространяются. Лицензия — Apache-2.0.
Модель rdpahalavan/bert-network-packet-flow-header-payload — дообученная версия DistilBERT для классификации сетевых пакетов по типу трафика и угроз. Она относит входные данные к одной из 24 категорий, включая нормальный трафик, сканирование портов, DDoS- и DoS-атаки, ботнеты, эксплойты и различные виды веб-атак. Модель предназначена для анализа сетевого трафика и поддержки систем обнаружения вторжений. Модель использует архитектуру DistilBERT для классификации последовательностей, принимает текстовое представление пакета или потока и выдаёт метку класса. Контекст ограничен 512 токенами. Опубликована под лицензией Apache-2.0; README указывает на набор данных rdpahalavan/network-packet-flow-header-payload.
SkillGym-Qwen3.5-9B — плотная мультимодальная модель Qwen с 9 млрд параметров, дообученная автором reasonwang для применения агентных навыков. Она обучена на 19 тысячах проверенных успешных траекторий из датасета SkillGym-SFT методом supervised fine-tuning в течение двух эпох. Модель читает инструкции и справочные материалы навыка и использует их при выполнении задач через вызовы инструментов или команды в изолированной рабочей среде. Модель предназначена для агентных сценариев, в которых нужно выбрать подходящий навык и последовательно применить его с доступными инструментами. Она сохраняет шаблон чата базовой Qwen3.5-9B и может запускаться через OpenAI-совместимый сервер, например vLLM. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0. Это специализированная агентная политика, а не универсальный чат-ассистент. В длинных эпизодах контекст может закончиться до завершения задачи; рассуждения модели иногда повторяются и достигают лимита токенов за ход.
Terminal-dependency_management — дообученная модель на базе Qwen/Qwen3-8B, созданная автором репозитория cuong1692001. Модель предназначена для генерации текста в диалоговом формате и, судя по названиям обучающих наборов, задач управления зависимостями в терминале. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM и формат safetensors. Поддерживает контекст до 40 960 токенов. Базовая Qwen3-8B — многоязычная модель; конкретные языки и сильные стороны этого дообучения в карточке не описаны. В метаданных указана лицензия other; конкретные условия использования в предоставленной карточке не раскрыты. README не приводит результаты оценки или подробные ограничения модели.
Vinci-Cyber-8B-1.0 — дообученная SimpleDirect модель на базе IBM Granite-4.1-8B для диалогового помощника в сценариях защитной безопасности инфраструктуры. Она предназначена для анализа конфигураций и диагностического контекста и предложения исправления либо обоснованного отказа от изменений, в том числе при работе с инфраструктурой как кодом. Модель построена на плотной архитектуре GraniteForCausalLM, содержит 8,4 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Карточка указывает лицензию Apache-2.0. В ограниченной внутренней проверке исходной BF16-модели она предложила 4 проверенных исправления из 8 случаев и верно оставила без изменений 22 чистых файла из 22. Эти результаты получены на панели, по которой выбирали чекпойнт, а проверяющий инструмент имел известные недостатки; как минимум одно из засчитанных исправлений не устраняло проблему безопасности. Результаты не подтверждают надёжность обнаружения уязвимостей, переносимость на GGUF или пригодность к автономному применению. Предложения и решения об отсутствии изменений требуют независимой проверки человеком, а разбор конфигураций, проверки безопасности, регрессионные тесты и утверждение изменений должны оставаться вне контроля модели.
CyberConstituent-SLM — англоязычная модель классификации киберугроз, разработанная sujithputta02 на основе DistilBERT и дообученная для анализа журналов безопасности и оповещений. Она относит текст к одной из шести категорий угроз; карточка приводит среди них вредоносное ПО, программы-вымогатели и фишинговые кампании. Модель использует архитектуру DistilBertForSequenceClassification, содержит 67 млн параметров и обрабатывает последовательности длиной до 512 токенов. По описанию автора, обучение включает слой согласования по принципам Constitutional AI, предназначенный для фильтрации явных эксплойт-пейлоадов и снижения предвзятых геополитических атрибуций с сохранением аналитической ценности. Указана точность 89% на валидационной выборке. Модель предназначена для категоризации текстовых событий безопасности, например для сортировки журналов и оповещений по типам угроз. Это классификатор, а не генератор рекомендаций или инструмент для исполнения защитных действий. Распространяется по лицензии Apache-2.0.
Гибридный автоэнкодер CNN-BiLSTM разработчика Akwan Cakra Tajimalela предназначен для обнаружения аномалий и вторжений в сетевом трафике. Одномерные свёрточные слои извлекают признаки из сетевых потоков, а двунаправленные LSTM учитывают последовательность потоков. Модель принимает окна из 10 потоков, каждый описан 25 признаками, и восстанавливает входные данные; средняя абсолютная ошибка реконструкции используется как оценка аномальности. Модель обучалась в три этапа: на benign-потоках CIC-IDS 2017, затем с адаптацией к CSE-CIC-IDS 2018 и, наконец, с адаптацией декодеров на 24 часах реального benign-трафика. В карточке приведены два порога тревоги и показатели ложных срабатываний на реальной benign-выборке. Для применения нужны веса модели и параметры предобработки scaler_params.pkl; заявлены TensorFlow и Keras. Лицензия — MIT.
Red Hat выпустила вспомогательную модель EAGLE-3 для ускорения генерации ответов моделью Qwen/Qwen3-235B-A22B-Instruct-2507 с помощью спекулятивного декодирования. Она предсказывает черновые токены, которые проверяет основная модель, и предназначена для запуска совместно с ней, например через vLLM и endpoint /chat/completions с шаблоном чата Qwen3. Архитектура модели — Eagle3Speculator; веса опубликованы в формате safetensors. Модель не является самостоятельной чат-моделью: для работы ей необходима указанная модель-верификатор. В README описано обучение на наборах Magpie-Align/Magpie-Llama-3.1-Pro-300K-Filtered и train_sft из HuggingFaceH4/ultrachat_200k. Лицензия — Apache-2.0. Карточка приводит конфигурации и результаты оценки, но не содержит численных итогов в доступном описании.
EnvACE-Qwen3-8B — диалоговая языковая модель на основе Qwen/Qwen3-8B, разработанная командой EnvACE и дообученная методом EnvACE для продолжительных сценариев использования инструментов. Это плотная авторегрессионная модель класса Qwen3ForCausalLM с 7,6 млрд параметров; она принимает текст и генерирует текст. Контекст составляет 40 960 токенов. При обучении модель осваивает взаимодействие с инструментами через «репетицию мира»: сама воспроизводит предполагаемые ответы среды на вызовы инструментов и использует их для планирования следующих шагов. Модель предназначена для агентных задач с вызовами инструментов и проверялась на BFCL-v4, τ²-Bench, VitaBench и FinMCP-Bench. Карточка сообщает о результатах на этих тестах, но не приводит здесь полные сравнительные таблицы. Модель доступна в формате safetensors для Transformers и распространяется по лицензии Apache-2.0. Для интеграции с инструментами и средами авторы указывают на фреймворк EnvACE. Заявленная языковая поддержка в метаданных — английский.
GT-Beta — специализированная языковая модель для анализа данных кибербезопасности, разработанная Omkar для платформы GhostTracer. Она предназначена для SOC, первичной сортировки инцидентов и анализа структурированной телеметрии: модель сопоставляет сигналы риска и признаки атак, выбирает решение MONITOR, INVESTIGATE или RESPOND и формирует рекомендации в формате JSON. Модель построена на Qwen3-1.7B-Base и дообучена методом QLoRA; адаптер объединён с базовой моделью в самостоятельный чекпойнт Transformers с весами FP16. Архитектура — плотная причинная языковая модель Qwen3 с 1,7 млрд параметров и контекстом до 32 768 токенов. Основной язык — английский. Входом служит текст, в том числе структурированные записи JSON; результат — текстовая оценка безопасности и рекомендации. GT-Beta рассчитана на выявление типовых атак, таких как подбор паролей, SQL-инъекции, XSS, обход путей и разведывательное сканирование, а также на снижение ложных срабатываний на доброкачественных событиях. Она не выполняет сетевые запросы и не применяет защитные меры самостоятельно; выводы зависят от предоставленной телеметрии. Для эксплуатации рекомендуется проверять JSON и рекомендации детерминированными правилами и использовать штатный системный промпт. Лицензия — MIT.
RedHatAI/Llama-3.3-70B-Instruct-speculator.eagle3 — вспомогательная модель спекулятивного декодирования, разработанная Red Hat для совместной работы с meta-llama/Llama-3.3-70B-Instruct. Она использует алгоритм EAGLE-3 и архитектуру Eagle3Speculator, чтобы ускорять генерацию ответов основной моделью, предлагая токены-кандидаты для проверки. Модель предназначена для применения при обслуживании чат-запросов через шаблон диалога Llama 3.3; в README приведена настройка для vLLM. Для обучения использованы наборы Aeala/ShareGPT_Vicuna_unfiltered и раздел train_sft набора HuggingFaceH4/ultrachat_200k. Метаданные указывают формат safetensors и лицензию llama3.3. Карточка не приводит точный размер самой вспомогательной модели, длину контекста или численные результаты ускорения; бенчмаркинг описан для конфигурации с четырьмя A100.
OpenFugu Conductor 3B — исследовательская модель проекта OpenFugu, созданная как независимое воспроизведение механизма Conductor из работы Sakana AI. Она формирует план выполнения пользовательского запроса: распределяет задачи между доступными агентами или инструментами, задаёт порядок шагов и указывает, какие результаты предыдущих шагов использовать. Результат — текстовый план в виде JSON-списка вызовов инструментов. Модель основана на Llama-3.2-3B-Instruct и дообучена методом GRPO на наборе nvidia/ToolScale с вознаграждением за совпадение последовательности вызовов инструментов с критериями задачи. Это плотная авторегрессионная модель на 3,2 млрд параметров с контекстом до 131 072 токенов; формат файлов — safetensors, библиотека — Transformers. Карточка описывает англоязычные примеры и набор данных для задач использования инструментов, но не заявляет исключительную поддержку одного языка. Модель предназначена для оркестрации рабочих процессов с агентами и инструментами, а не для самостоятельного выполнения всех шагов: итоговый ответ зависит от внешнего исполнителя, переданного в плане. В обучении росло качество формата и совпадение вызовов инструментов, но это не гарантирует корректность планов для произвольных запросов. Лицензия — Llama 3.2; применяются условия лицензии Meta.
Red Hat разработала RedHatAI/Qwen3-8B-Thinking-speculator.eagle3 — модель-предсказатель для ускорения генерации текста с помощью спекулятивного декодирования EAGLE-3. Она предназначена для совместной работы с Qwen3-8B: предсказывает черновые токены, которые проверяет основная модель, чтобы повысить пропускную способность генерации. Модель обучена с включённым режимом рассуждений на данных Magpie-Align/Magpie-Pro-300K-Filtered и HuggingFaceH4/ultrachat_200k. Архитектура — Eagle3Speculator, класс модели в Transformers — Eagle3DraftModel; веса доступны в формате safetensors. Используйте её с шаблоном чата Qwen3-8B через vLLM и endpoint /chat/completions. Для этого в конфигурации спекулятивного декодирования указываются метод eagle3 и число черновых токенов. Лицензия — Apache-2.0. Карточка описывает сценарий ускорения текстовой генерации, но не приводит измерений прироста производительности для разных нагрузок.
kimi-k3-eagle3-mla — вспомогательная черновая модель Eagle3 с архитектурой MLA, разработанная для ускорения инференса Kimi-K3 методом спекулятивного декодирования. Она обучена с помощью TorchSpec и используется вместе с основной моделью Kimi-K3, которая проверяет предложенные токены. Веса модели занимают около 1,8 млрд параметров; репозиторий содержит веса в формате safetensors, а базовая модель — moonshotai/Kimi-K3. Вариант MLA согласован с архитектурой Kimi-K3 и использует меньше памяти KV-кэша по сравнению с черновой моделью на MHA. Модель предназначена для серверного инференса и ускорения генерации текста, а не для самостоятельного диалога. В README приведены измерения средней длины принятых токенов на бенчмарках диалогов, китайского и многоязычного качества; результат зависит от конфигурации спекулятивного декодирования и целевой модели. Для запуска требуются NVIDIA GPU с CUDA 12.0+ и TokenSpeed либо vLLM 0.20.0 или новее. Лицензия указана как other, конкретные условия использования в предоставленных данных не раскрыты.
Lily-Cybersecurity-7B-v0.2 — англоязычный диалоговый помощник по кибербезопасности, разработанный Sego Lily Labs на основе дообучения Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Для настройки использованы 22 000 подготовленных вручную пар данных по кибербезопасности и взлому, дополненных контекстом и стилистикой с помощью другой языковой модели. Модель предназначена для ответов на вопросы и объяснения тем в широком круге областей: от облачной и сетевой безопасности, реагирования на инциденты и цифровой криминалистики до анализа вредоносного ПО, тестирования на проникновение, управления рисками и соответствия требованиям. Она следует инструкциям и ведёт диалог в дружелюбном стиле. Модель может быть полезна для справок, обучения и подготовки черновиков по информационной безопасности. Это текстовая модель генерации ответов. README предупреждает о возможных ошибках и унаследованных от базовой модели смещениях, поэтому важные сведения следует проверять. Указание использовать модель законно и этично не гарантирует безопасного поведения на каждом запросе. Лицензия — Apache-2.0.
Red Hat выпустила вспомогательную модель спекулятивного декодирования EAGLE-3 для Qwen3-30B-A3B-Instruct-2507. Архитектура Eagle3Speculator предсказывает вероятные следующие токены, чтобы ускорить генерацию ответов основной моделью; это не самостоятельная чат-модель. Она обучена с отключённым режимом thinking на данных Magpie-Align/Magpie-Pro-300K-Filtered и HuggingFaceH4/ultrachat_200k и предназначена для работы с шаблоном чата Qwen3 через endpoint /chat/completions, например в vLLM с тремя спекулятивными токенами. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Карточка не приводит размер этой вспомогательной модели или длину контекста.
CyberSec-Assistant-3B-GGUF — это квантизированные в формате GGUF версии дообученной языковой модели Qwen2.5-3B-Instruct, разработанные AYI-NEDJIMI. Модель специализируется на общей кибербезопасности и поддерживает общение на французском и английском языках. Модель предназначена для ответов на вопросы о сетевой безопасности, оценке уязвимостей, реагировании на инциденты, тестировании на проникновение, анализе угроз, архитектуре безопасности и лучших практиках кибербезопасности. Это текстовая causal language model с архитектурой Qwen2ForCausalLM, контекстом до 4096 токенов и шаблоном диалогов ChatML. Дообучение выполнено методом QLoRA с последующим объединением LoRA-адаптеров с базовой моделью. Доступны варианты квантизации Q4_K_M размером около 1,80 ГБ, Q5_K_M размером около 2,07 ГБ и Q8_0 размером около 3,06 ГБ. Q4_K_M рекомендован как компромисс между качеством и требованиями к ресурсам, Q8_0 обеспечивает качество, близкое к исходному. Модель совместима с Ollama, llama.cpp, LM Studio и другими GGUF-совместимыми движками, однако README не приводит результаты бенчмарков и не уточняет ограничения точности или безопасности ответов. Распространяется по лицензии Apache-2.0.
Red Hat выпустила спекулятивную модель-драфтер EAGLE-3 для ускорения генерации ответов базовой моделью openai/gpt-oss-120b. Она предлагает кандидаты токенов, которые основная модель проверяет при спекулятивном декодировании; сама по себе модель не предназначена для самостоятельного общения. Архитектура — Eagle3Speculator, файлы представлены в формате Safetensors. Модель рассчитана на обслуживание запросов к gpt-oss-120b через vLLM и интерфейс чата /chat/completions с шаблоном чата gpt-oss-120b. README указывает требование vLLM версии 0.19.0 или новее и рекомендует настройки EAGLE-3 с пятью спекулятивными токенами. Для обучения использовались Magpie-Align/Magpie-Llama-3.1-Pro-300K-Filtered и раздел train_sft датасета HuggingFaceH4/ultrachat_200k с ответами gpt-oss-120b. Модель предназначена для повышения пропускной способности генерации в совместимой связке с указанной базовой моделью. README приводит оценку через бенчмарк RedHatAI/speculator_benchmarks, но численные результаты таблиц в доступном тексте отсутствуют. Лицензия — Apache-2.0.