II.7DevOps, облако и эксплуатация IT-систем
В разделе собраны самостоятельные задачи, где AI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 196 моделейFoundation-Sec-8B — открытая базовая языковая модель, разработанная Foundation AI at Cisco для задач кибербезопасности. Это дообученная продолжением предобучения версия Meta Llama 3.1 8B: плотная авторегрессионная трансформерная модель с 7,5 млрд параметров, контекстом до 131 072 токенов и весами в формате safetensors. Модель обучалась на корпусе материалов по кибербезопасности, включая отчёты о киберугрозах, базы уязвимостей, документацию по реагированию на инциденты и стандарты безопасности; основной язык — английский. Модель предназначена для локального применения и разработки инструментов безопасности. Она может помогать с анализом и кратким изложением материалов об инцидентах, оценкой уязвимостей, сопоставлением тактик и техник атак, проверкой конфигураций и обработкой свидетельств соответствия требованиям. Также она служит основой для дальнейшей адаптации под конкретные процессы кибербезопасности. Знания модели ограничены данными обучения: она может не учитывать новые уязвимости и технологии, не имеет доступа к внешним системам и не может самостоятельно сканировать инфраструктуру или проверять точность ответов. Результаты требуют экспертной проверки, особенно при принятии критичных решений; качество на общих задачах может уступать универсальным моделям. Лицензия — Apache 2.0.
thoughtworks/GLM-4.7-Flash-Eagle3 — модель-проектировщик токенов EAGLE3 от Thoughtworks для ускорения инференса zai-org/GLM-4.7-Flash методом спекулятивного декодирования. Это плотная модель с архитектурой LlamaForCausalLMEagle3 и 378 млн параметров; она принимает текстовые префиксы и предлагает черновые токены, которые целевая GLM-4.7-Flash проверяет и принимает или отклоняет. Заявлено ускорение генерации на нескольких тестах, однако результаты зависят от нагрузки и конфигурации сервера. Модель предназначена для совместного запуска с GLM-4.7-Flash в поддерживающей EAGLE3 системе инференса, в частности SGLang. В README приведены тесты на H200, а также настройки спекулятивного декодирования; результаты получены на форке SGLang и могут отличаться при использовании upstream-версии. Контекст модели — 4096 токенов. Репозиторий распространяется по лицензии Apache-2.0.
GPT-OSS-Cybersecurity-20B-Merged-heretic-i1-GGUF — квантизированная GGUF-версия модели piotreknow02/GPT-OSS-Cybersecurity-20B-Merged-heretic, подготовленная mradermacher. Модель создана для задач кибербезопасности: анализа и генерации текстов по тематике security, ответов на инструкции и помощи в работе с материалами по информационной безопасности. Она дообучалась и объединялась с использованием наборов Trendyol Cybersecurity Instruction Tuning Dataset, Cybersecurity-Dataset-Fenrir-v2.0 и Primus-Instruct. Модель имеет заявленный размер 20B параметров и, судя по тегам, архитектуру MoE. Доступна только в текстовом формате и ориентирована на английский язык. Репозиторий содержит множество вариантов GGUF-квантизации с размерами примерно от 12,1 до 15,9 ГБ; вариант i1-Q4_K_M отмечен как рекомендуемый по сочетанию скорости и качества, а i1-Q4_K_S — как оптимальный по размеру, скорости и качеству. Сведения о длине контекста, результатах бенчмарков и поддержке других языков отсутствуют. Сильной стороной модели является специализация на кибербезопасности и наличие различных уровней квантизации для запуска на оборудовании с разными ограничениями по памяти. Ограничения включают отсутствие подтвержденных оценок качества, неизвестную длину контекста и возможное снижение качества у наиболее компактных вариантов. Лицензия — Apache-2.0.
Legion Ares — специализированная языковая модель проекта Legion для локальной аналитики безопасности. Она принимает результаты, уже подтверждённые детерминированным движком обнаружения Legion, и составляет краткое резюме: общая оценка ситуации, наиболее важная находка с обоснованием и одно следующее действие. Утверждения должны опираться на конкретные артефакты, например путь к файлу, IP-адрес, пакет или идентификатор правила. Модель предназначена для синтеза результатов threat hunting и реагирования на инциденты, включая оповещения, совпадения правил и YARA, уязвимости OSV и оценку состояния хоста. Она работает локально через Ollama; основной вариант на 1,7 млрд параметров рассчитан на размещение, в том числе на GPU с 8 ГБ памяти. README описывает QLoRA-дообучение и самодистилляцию, а метаданные указывают на слияние с Qwen3-1.7B и Qwen3-4B; доступны варианты GGUF Q4_K_M, GGUF Q8_0 и safetensors. Модель ориентирована на английский язык и обычный текстовый ввод и вывод. По заявленным результатам, лучшая сборка прошла 46 из 48 проверок, не выдумывала индикаторы и показала полное соответствие ответов исходным данным на тестовом наборе. Это специализированная модель, а не средство обнаружения угроз или универсальный чат-бот: она анализирует только переданные находки и намеренно не сообщает о том, чего нет во входных данных. Лицензия — MIT.
Карточка модели HFCK99/Qwen3.8-27B-Uncensored-Cyber на Hugging Face совпадает с карточкой philbert440/Qwen3.8-27B-Uncensored-Cyber, поэтому описание составлено по ней. Qwen3.8-27B-Uncensored-Cyber — мультимодальная модель семейства Qwen3.5 с плотной архитектурой, разработанная автором репозитория на основе Qwen3.8-27B-Uncensored-Aggressive. Она предназначена для диалогов и анализа изображений, с особым акцентом на вопросы кибербезопасности и offensive security. Автор сообщает, что модель создана удалением отказов в кибердомене, при этом заявляет сохранение рассуждений и фактической точности; в описанной оценке модель ответила на 100 из 100 тестовых киберзапросов без отказа. Модель принимает текст и изображения и генерирует текст. Опубликована под лицензией Apache-2.0. README также описывает варианты квантизации AWQ, NVFP4 и GGUF, однако основная версия репозитория содержит веса safetensors. Заявленные результаты оценки основаны на тестовом наборе автора и не гарантируют аналогичного качества в реальном использовании.
SecEmbed-base — плотная модель эмбеддингов для поиска и сравнения текстов в сфере кибербезопасности, созданная дообучением answerdotai/ModernBERT-base на наборе secembed-pairs. Она основана на encoder-архитектуре ModernBERT, содержит 149 млн параметров и предназначена для извлечения признаковых векторов и оценки сходства предложений. Модель принимает текст и выдаёт векторные представления; её обучали с максимальной длиной последовательности 256 токенов для ускорения поиска, а контекст ModernBERT может достигать 8192 токенов. Модель подходит для поиска по MITRE ATT&CK, CVE, CWE, правилам Sigma, инструкциям SOC и отчётам об угрозах, а также для определения сходства описаний уязвимостей. В карточке приведены результаты на выборке CyberSec Retrieval Benchmark: Recall@5 составляет 0,9708 в среднем; размер выборки для каждой категории — 80 примеров. Заявленные результаты следует считать оценкой на указанной выборке, а не гарантией качества на других данных. Лицензия — MIT.
ToolWeave Stage 2 — это экспериментальная чат-модель на архитектуре Qwen3, разработанная как второй этап проекта ToolWeave. Модель содержит 3,7 млрд параметров и принимает текстовые запросы; максимальная длина контекста составляет 40 960 токенов. Веса доступны в формате Safetensors для загрузки через Transformers. Модель дообучена на многошаговых задачах BFCL во взаимодействии со средой и предназначена для выбора и вызова инструментов, а также последовательного выполнения задач, требующих нескольких вызовов. Этап обучения оптимизирует измеримый прогресс к завершению задачи, продолжая развитие навыков вызова инструментов предыдущего этапа. В описанной внутренней проверке на 400 примерах общий показатель прогресса составил 0,4567; результаты заметно различались между категориями, а на длинном контексте чаще встречались незавершённые траектории. Эта проверка не является официальным результатом BFCL, и её набор в репозитории отсутствует. Сведения о лицензии в предоставленных данных отсутствуют.
Avibe-eagle — черновая модель для спекулятивного декодирования по алгоритму EAGLE-3, разработанная командой Авито Тех для ускорения генерации базовой модели Avibe. Она используется вместе с основной моделью через движки vLLM или SGLang и предназначена для ускорения обслуживания запросов на генерацию текста. Внутренние замеры авторов показали ускорение до 2,7 раза на одиночных запросах; при увеличении batch size выигрыш снижается и при batch size 64 исчезает. В репозитории указаны архитектура класса LlamaForCausalLMEagle3, 7,4 млрд параметров и формат safetensors. Модель дообучена на примерно 100 млн токенов SFT-данных исходной модели avibe, преимущественно на русском языке. Метаданные указывают базовую модель Qwen/Qwen3-8B, контекст 32 768 токенов и поддержку русского и английского языков. Лицензия — Apache-2.0. Для использования требуется совместимая базовая модель Avibe и поддерживающий EAGLE-3 движок.
nebius/EAGLE3-Llama-3.3-70B-Instruct — это черновая модель EAGLE-3, разработанная Nebius для ускорения генерации текста базовой моделью meta-llama/Llama-3.3-70B-Instruct методом спекулятивного декодирования. Модель содержит 1,9 млрд параметров, использует плотную архитектуру LlamaForCausalLM и распространяется в формате safetensors. Она принимает текстовые токены и предлагает черновые продолжения, которые базовая модель проверяет при генерации. Модель обучена с нуля с использованием LK losses, нацеленных непосредственно на повышение доли принимаемых черновых токенов. В README приведены результаты средней длины принятой последовательности на MT-bench, HumanEval и GSM8K; применять модель предлагается через vLLM с базовой моделью Llama 3.3 70B Instruct и настройками EAGLE-3. Указанная длина контекста составляет 131072 токена. Лицензия — CC-BY-4.0. Это вспомогательная модель для ускорения вывода, а не самостоятельный разговорный ассистент. Результаты ускорения зависят от базовой модели, настроек сэмплирования и совместимой версии vLLM; в README указана поддержка стохастического сэмплирования черновых токенов начиная с vLLM 0.18.0, а настройка через speculative_config — с версии 0.21.0.
unsloth/functiongemma-270m-it-unsloth-bnb-4bit — 4-битная версия FunctionGemma, подготовленная Unsloth на основе google/functiongemma-270m-it. Исходная модель разработана Google DeepMind и основана на архитектуре Gemma 3 с 270 млн параметров. Она предназначена для текстового вызова функций и создания специализированных моделей для агентских сценариев, а не для непосредственного использования в качестве универсальной диалоговой модели. Модель принимает текстовые запросы и определения функций в формате JSON Schema, а затем генерирует вызовы функций. Подходящие сценарии включают управление приложениями и устройствами, офлайн-агентов, обработку команд в несколько шагов и интеграцию с пользовательскими инструментами. Модель поддерживает текстовую модальность, контекст до 32K токенов и может применяться на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Для максимальной точности рекомендуется дообучение на односценарных или многошаговых данных конкретной предметной области. Ключевые преимущества — небольшой размер, низкие требования к ресурсам и пригодность для локального и приватного развёртывания. Ограничение заключается в узкой специализации: без дополнительного fine-tuning модель не предназначена для полноценного диалога и может уступать более крупным моделям в общих задачах. Представленная версия использует 4-битное квантование BNB, что снижает требования к памяти, но может повлиять на точность по сравнению с исходной моделью. Использование регулируется лицензией Gemma и соответствующими условиями Google.
Это пакет слоёв GGUF для распределённого запуска чат-модели Gemma 4 через Mesh LLM. Автор README указывает, что пакет предназначен для модели unsloth/gemma-4-12B-it-qat-GGUF и разбивает веса на отдельные артефакты по слоям, чтобы распределять вычисления между несколькими компьютерами. README также содержит противоречивые упоминания Gemma 4 31B; поэтому точный размер модели по карточке установить нельзя. Пакет рассчитан на локальный приватный инференс, запуск кластера из нескольких машин и чат-запросы через совместимый с OpenAI API Mesh LLM. Метаданные указывают GGUF и библиотеку mesh-llm; в README описаны манифест, метаданные и файл эмбеддингов. Это пакет для развёртывания и распределения вычислений, а не самостоятельный универсальный способ запуска модели. Лицензия и ограничения исходной модели вынесены в карточку базовой модели, но их условия в предоставленных данных не приведены. README сообщает, что автор пока не смог наладить работу пакета на трёх ноутбуках, поэтому практическая готовность распределённого запуска не подтверждена.
GPT-OSS-Cybersecurity-20B-Merged-i1-GGUF — квантизированная GGUF-версия модели GPT-OSS-Cybersecurity-20B-Merged, разработанной sainikhiljuluri2015 и подготовленной квантизатором mradermacher. Модель ориентирована на генерацию текста и задачи кибербезопасности, включая работу с инструкциями и специализированными запросами в области информационной безопасности. При дообучении использовались Trendyol Cybersecurity Instruction Tuning Dataset, Cybersecurity-Dataset-Fenrir-v2.0 и Primus-Instruct. Модель имеет размер 20B параметров согласно идентификатору и относится к архитектурам MoE. Доступна только в текстовом формате; заявленный язык — английский. Контекстное окно и точные архитектурные характеристики в предоставленных данных не указаны. Репозиторий содержит варианты квантизации i1-IQ и i1-Q с различным компромиссом между размером, скоростью и качеством; среди доступных вариантов указаны i1-Q4_K_M и i1-Q4_K_S, причём Q4_K_M отмечен как рекомендуемый для быстродействия. Сильными сторонами модели являются специализация на кибербезопасности, использование нескольких тематических наборов данных и возможность запуска через экосистему GGUF с выбором подходящего уровня квантизации. Ограничения включают зависимость качества от выбранного варианта квантизации, отсутствие сведений о контекстном окне, результатах оценки и поддержке других языков или модальностей. Модель распространяется по лицензии Apache-2.0.
Multi-Agent Orchestrator — небольшая модель планирования и координации, разработанная автором репозитория erukude и построенная на базе Llama 3.2 1B. Она предназначена для управления многоагентными и инструментальными системами, а не для использования в качестве универсального чат-бота или генератора финального содержимого. Модель получает состояние задачи и реестр доступных агентов и инструментов, после чего возвращает следующую операцию в формате JSON. Возможные действия включают вызов агента, вызов инструмента, запрос уточнения у пользователя и завершение задачи; результат также содержит цель, аргументы, финальный ответ и краткое обоснование. Для работы требуется внешний управляющий цикл, который выполняет выбранное действие, обновляет состояние и повторно обращается к модели до завершения задачи. Модель ориентирована на сценарии координации исследовательских и программных агентов, RAG-конвейеры и другие системы с маршрутизацией и вызовом инструментов. Ключевая характеристика — компактный размер 1B параметров, что может быть удобно для специализированного контроллера, однако README не содержит сведений о размере контекста, дополнительных модальностях, точности, производительности или ограничениях совместимости. Указан английский язык и лицензия Apache-2.0.
NVIDIA-Orchestrator-Cybersecurity-8B-Merged — языковая модель для задач кибербезопасности, созданная дообучением nvidia/Orchestrator-8B и слиянием LoRA-весов с базовой моделью. В карточке указано обучение на примерно 50 тысячах пар инструкций и ответов из наборов Trendyol Cybersecurity, Fenrir v2.0 и Primus-Instruct. Модель построена на плотной архитектуре Qwen3ForCausalLM с 7,6 млрд параметров, принимает текст и генерирует текст. Контекст составляет до 40 960 токенов; модель предназначена для диалогового взаимодействия на английском языке. Она поддерживает анализ угроз и вредоносного ПО, разбор оповещений и фишинговых сообщений, рекомендации по реагированию на инциденты, оценку уязвимостей, выявление SQL-инъекций и сопоставление с MITRE ATT&CK. Модель распространяется в формате safetensors по лицензии Apache-2.0. Результаты требуют проверки специалистом: карточка не приводит оценок качества и не описывает ограничения по отдельным сценариям, поэтому нельзя считать ответы гарантированно точными или исчерпывающими.
alhparsa/qwen35-9b-dflash — вспомогательная модель DFlash для ускорения генерации текста при спекулятивном декодировании. Она использует лёгкую блочную диффузионную архитектуру, чтобы параллельно предлагать несколько токенов для проверки основной авторегрессионной моделью; её нужно использовать вместе с Qwen/Qwen3.5-9B. В README заявлено ускорение до 4,4 раза относительно обычного авторегрессионного декодирования в описанных тестах на NVIDIA B200 с vLLM или SGLang. В метаданных указаны семейство Qwen3, архитектура DFlashDraftModel, 2 млрд параметров, контекст 262 144 токена, формат safetensors и библиотека Transformers. Модель предназначена для повышения пропускной способности при генерации, включая длинные контексты и агентные сценарии; сама по себе она не заменяет основную языковую модель. Лицензия — MIT. Результаты скорости зависят от оборудования, настроек и нагрузки.
teach-aws Qwen3.5-2B — языковая модель, дообученная Khursanirevo для ответов на вопросы об Amazon Web Services на Bahasa Malaysia. Она построена на unsloth/Qwen3.5-2B и дообучена с помощью LoRA на наборах вопросов и ответов об AWS, включая перефразированные примеры и вопросы о сервисах, где особенно вероятны галлюцинации. Модель имеет 1,7 млрд параметров, поддерживает текстовую генерацию и контекст до 262 144 токенов; файлы опубликованы в формате safetensors. Модель рассчитана на ответы в стиле справочной документации: сообщает результат кратко для коротких вопросов и сочетает малайский язык с английскими терминами AWS. В описанной авторами оценке она получила 91% строгой точности на 2 661 ранее не встречавшемся вопросе; это результат конкретного теста, а не гарантия качества для иных запросов. Подходит для справочных вопросов по AWS, но не предназначена для знаний за пределами обучающего корпуса. На мало представленных в данных темах модель может уверенно выдумывать функции AWS, поэтому фактические ответы следует проверять и при необходимости подкреплять поиском по документации. Формулировки часто близки к обучающим справочным ответам и могут быть негибкими. Лицензия — Apache-2.0.
VectraYX-600M (SFT v2) — испаноязычная в первую очередь языковая модель на 600 млн параметров, разработанная jsantillana с нуля и дообученная для диалогов и вызова инструментов. Она предназначена для кибербезопасностных сценариев: поиска CVE, проверки каталогов KEV, оценки репутации IOC и выполнения команд через shell. Архитектура включает 18 слоёв, GQA с 14 query-heads и 2 KV-heads, NoPE в каждом четвёртом слое, словарь на 32 768 токенов и контекст 2048 токенов. Доступны веса Safetensors и сборка GGUF; модель не совместима напрямую с Transformers AutoModel и требует специального класса модели из репозитория разработчика. Модель дообучена на испанских и английских диалогах, корпусе вызова инструментов и данных следования инструкциям. Внутренние проверки автора показали корректное формирование вызовов инструментов в 6 из 6 случаев и приемлемые результаты на небольшой диалоговой проверке, но это ограниченные тесты. Арифметика, открытая беседа, следование количественным ограничениям и выбор инструмента при изменённой формулировке ненадёжны; результаты вызова инструмента следует проверять до выполнения. В GGUF/Ollama возможны продолжение ответа после корректного факта и галлюцинации, связанные с отличием позиционного кодирования. Лицензия — Apache-2.0.
CyberSecurity-Model — дообученная Vansh Kamra модель на базе Phi-3-mini-4k-instruct для анализа киберугроз. По описанию CVE, оценке CVSS и сведениям о поставщике она генерирует структурированные отчёты: краткое резюме, технический разбор уязвимости, индикаторы компрометации, сопоставления с MITRE ATT&CK, оценку риска, рекомендации по устранению и правила обнаружения YARA или Sigma. Модель содержит 3,7 млрд параметров, использует плотную причинную языковую архитектуру и принимает текст, выдавая текст. Контекст составляет 4096 токенов. Дообучение выполнено методом QLoRA с Unsloth на 471 синтетической паре инструкций, созданной на основе данных CVE из NIST NVD; указано 29,8 млн обучаемых параметров. Модель ориентирована на английский язык и распространяется под лицензией Apache-2.0. Отчёты и сгенерированные индикаторы, сопоставления и правила требуют проверки специалистом: обучающие примеры синтетические, а README не приводит оценки точности или полноты результатов.
DeepSeek-V4-Flash-EAGLE3.1 — черновая голова EAGLE-3.1 для ускорения генерации модели deepseek-ai/DeepSeek-V4-Flash методом speculative decoding. Разработчик модели в README не назван; обучение выполнено с TorchSpec и данными, извлечёнными через vLLM. Веса содержат 722,5 млн параметров, а архитектура описана как однослойная голова Llama; контекст составляет 16 384 токена. Модель предназначена для совместного использования с DeepSeek-V4-Flash при обслуживании через vLLM: она предлагает черновые токены, которые целевая модель проверяет, сохраняя её генерацию и потенциально повышая пропускную способность. README сообщает об ускорении примерно в 2,6 раза на тестовой конфигурации с пропатченным vLLM, а также приводит результаты на общих и агентных запросах. Это исследовательский предварительный выпуск, требующий специального overlay-патча Maniac для vLLM; обычная установка vLLM не поддерживает нужный захват вспомогательных состояний. В README также указано отсутствие поддержки MLX, SGLang и llama.cpp в этом выпуске. Лицензия черновых весов — MIT, при этом для базовой DeepSeek-V4-Flash действуют её собственные условия.
Huihui-ThinkingCap-Qwen3.6-27B-abliterated-cyber — чат-модель на архитектуре Qwen3.5, дообученная с помощью LoRA/QLoRA и объединённая в 16-битный формат с использованием Unsloth. Она предназначена для генерации ответов в диалоге по задачам кибербезопасности. Репозиторий подготовлен для Transformers и включает токенизатор и шаблон чата. Базовая модель — huihui-ai/Huihui-ThinkingCap-Qwen3.6-27B-abliterated; для неё в каталоге указано 27 млрд параметров и работа с изображениями. Условия лицензии и распространения базовой модели распространяются на эту модель. Карточка не описывает конкретные тесты качества или ограничения в кибербезопасных сценариях.
Llama-Primus-Nemotron-70B-Instruct — англоязычная инструкция-ориентированная модель Trend Micro из семейства Primus, созданная для задач кибербезопасности. Это плотная causal language model на архитектуре Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, поддерживает диалоговый формат и интерфейс вызова инструментов. В метаданных указана поддержка английского и японского языков. Модель продолжает обучение Llama-Primus-Nemotron-70B-Base: после предобучения на крупных корпусах по кибербезопасности её дообучили на инструкциях и объединили с исходной Nemotron. Разработчик сообщает об улучшении совокупных результатов на публичных бенчмарках кибербезопасности при сохранении сопоставимого качества общего следования инструкциям. Модель подходит для анализа киберугроз, вопросов по уязвимостям и классификациям CVE/CWE, а также для диалоговых помощников по безопасности. Лицензия — MIT. Результаты бенчмарков не гарантируют точность в реальных инцидентах. В README приведены повышенные показатели на некоторых тестах jailbreak и prompt injection для сравниваемой модели Primus-Labor-70B; это требует осторожности при использовании в сценариях, где важны отказ от вредоносных запросов и устойчивость к инъекциям.
Foundation-Sec-8B-Instruct — открытая инструктивно настроенная языковая модель, разработанная Foundation AI at Cisco для задач кибербезопасности. Это плотная авторегрессионная модель семейства Llama 3.1 с архитектурой Transformer и примерно 7,5 млрд параметров; она дообучена на базе fdtn-ai/Foundation-Sec-8B и поддерживает контекст до 131 072 токенов. Модель общается на английском языке в формате чата и предназначена для локального развёртывания. Модель помогает специалистам SOC сортировать инциденты, суммировать материалы и готовить заметки; поддерживает анализ уязвимостей, моделирование поведения атакующих, сопоставление TTP и проверку конфигураций или свидетельств соответствия требованиям. Её можно использовать как компонент локальных инструментов безопасности, где важны контроль над данными и снижение зависимости от облачных сервисов. Модель специализирована на кибербезопасности и может уступать универсальным моделям в задачах общего назначения. Её знания могут не охватывать новые уязвимости и технологии после даты обучения; ответы требуют проверки специалистом, а для защиты от вредоносных запросов рекомендуются дополнительные меры безопасности. Лицензия указана как other; README отсылает к NOTICE.md за условиями использования.
gemma-4-26B-A4B-it-DFlash — компактная модель-черновик DFlash для ускорения генерации текста базовой моделью google/gemma-4-26B-A4B-it. В методе speculative decoding лёгкая блоковая диффузионная модель параллельно предлагает несколько токенов, которые затем проверяет основная модель. По метаданным, модель содержит 1,1 млрд параметров, использует архитектуру Qwen3 DFlashDraftModel и распространяется в формате safetensors; библиотека для работы — Transformers. Указанная длина контекста — 262144 токена. Модель предназначена для совместного использования с google/gemma-4-26B-A4B-it в серверных сценариях на vLLM или SGLang. В бенчмарках автор сообщает об ускорении до 3,7 раза при параллельной обработке восьми запросов; результаты приведены для одной NVIDIA B300 и конкретных настроек, поэтому производительность зависит от окружения и задачи. Это не самостоятельная чат-модель: она предлагает черновые токены для базовой модели. Лицензия — Apache-2.0.
Kinetigor DPO Cybersec — небольшая языковая модель, разработанная NyxSpecter4 на базе Qwen2.5-0.5B-Instruct. Она дообучена методом DPO на наборе из 1 637 пар предпочтений nyxspecter4/kin-cyber-dpo-v2 для задач киберзащиты, penetration testing и рассуждений специалиста по безопасности. Модель ориентирована на анализ угроз, оценку уязвимостей, bug bounty, CTF, threat intelligence, работу с MITRE ATT&CK, OWASP Top-10 для веб-приложений и API, GraphQL, NIST CSF, SANS Top-20, CIS Controls v8, Sigma rules, CVE и CISA KEV. Модель поддерживает генерацию текста на английском языке. Размер составляет около 0,5 млрд параметров; доступна, в частности, в формате GGUF с квантованием Q4_K_M и размером около 398 МБ. Заявлена поддержка локального запуска через Ollama и llama.cpp без выделенного GPU, включая CPU-only и edge-сценарии на маломощных устройствах. В примере использования указан контекст 2048 токенов. К сильным сторонам относятся компактность, низкие требования к ресурсам и специализация на задачах информационной безопасности. Модель помечена как deprecated и обозначена разработчиком как legacy-версия: для более высокого качества рекомендуется модель kin-sft-lora на базе Qwen2.5-3B-Instruct. Из-за малого размера она, вероятно, уступает более крупным моделям в глубине анализа и надёжности сложных ответов, однако README не приводит детальных сравнительных оценок. Указанная точность DPO-пар составляет 0,85. Модель распространяется по лицензии MIT.
SecEmbed-small — компактная плотная модель эмбеддингов для кибербезопасности, созданная Alireza Aminzadeh на основе дообучения BAAI/bge-small-en-v1.5. Она предназначена для семантического поиска и сравнения текстов по кибербезопасности: README описывает продолжение обучения на парах secembed-pairs с MultipleNegativesRankingLoss и трудными негативными примерами. В обучающих данных использованы материалы MITRE ATT&CK, Sigma, CVE, CWE и сценарии SOC. Модель основана на архитектуре BERT, содержит около 40 млн параметров, принимает текст и формирует плотные векторные представления. Контекст ограничен 512 токенами; основным языком является английский. Её можно применять для первичного поиска релевантных записей, например, извлекать кандидатов для последующего ранжирования SecReranker. Модель распространяется по лицензии MIT. Она рассчитана на специализированные англоязычные материалы по кибербезопасности; качество на других языках и за пределами этой области не подтверждено карточкой модели.
Falcon-H1 TinyShell — компактная языковая модель на архитектуре Falcon-H1, разработанная Tharun Pranav Sakthivel путём дообучения tiiuae/Falcon-H1-Tiny-Tool-Calling-90M. Она преобразует инструкции на естественном английском языке в структурированный JSON формата TinyShell ShellIntent, выбирая действие compile, clarify или unsupported. Модель предназначена для интерфейсов, которые переводят запрос пользователя в формализованное намерение для последующей детерминированной обработки. Модель содержит 60,8 млн параметров, использует библиотеку Transformers и распространяется в формате safetensors. Заявленная длина контекста — 262 144 токена. На отложенной выборке указаны доля корректно разбираемого JSON 99,5%, соответствие схеме 96,5% и точное совпадение IR 33%. Лицензия указана как other в метаданных; README сообщает, что производная модель распространяется по лицензии Falcon-LLM, условия которой следует сверять с файлами лицензии репозитория.
WhiteRabbitNeo-7B-v1.5a — модель серии WhiteRabbitNeo для генерации текста, разработанная для задач наступательной и защитной кибербезопасности. Карточка описывает её как публичную предварительную версию, предназначенную также для оценки общественного влияния таких моделей. Модель построена на плотной архитектуре Llama и содержит около 6,6 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов и опубликована в формате PyTorch. README не называет конкретные языки или обучающие данные. Условия README возлагают ответственность за использование и его результаты на пользователя и предоставляют модель «как есть», без гарантий. В метаданных указана лицензия other, поэтому конкретные права и ограничения лицензии следует проверять в файлах репозитория.
Foundation-Sec-8B-Reasoning — языковая модель для задач кибербезопасности, разработанная Foundation AI at Cisco. Это дообученная версия Foundation-Sec-8B на архитектуре Llama 3.1: авторегрессионный плотный трансформер с 7,5 млрд параметров, настроенный следовать инструкциям и рассуждать перед ответом. Модель поддерживает контекст до 131 072 токенов и рассчитана на английский язык. Модель предназначена для специалистов по безопасности, исследователей и разработчиков: она помогает разбирать и суммировать инциденты, готовить заметки и собирать свидетельства для SOC, приоритизировать уязвимости, анализировать тактики и техники атак, проверять конфигурации и оценивать свидетельства соответствия требованиям. Её можно развернуть локально для рабочих процессов, где важны контроль над данными и инфраструктурой. Знания модели могут не охватывать уязвимости и технологии, появившиеся после обучения; модель не подключается к внешним системам и не может самостоятельно проверить факты или просканировать среду. Результаты требуют проверки специалистом: возможны ошибки, контекстные пробелы и обход защитных механизмов. Для использования рекомендуется дополнительная защита, например LlamaGuard. Лицензия обозначена как other; условия приведены в NOTICE.md.
NEXUS-Security — компактная языковая модель FableForge для задач кибербезопасности. Это дообученная версия Qwen/Qwen2.5-1.5B-Instruct с архитектурой Qwen2 и 1,5 млрд параметров; модель распространяется в формате Safetensors и рассчитана на диалоговое использование через Transformers. Контекст составляет 32 768 токенов, основной язык карточки — английский. Модель предназначена для исследований безопасности, тестирования на проникновение и работы с защитными инструментами. Разработчик приводит внутреннюю оценку 144 из 150 баллов по 30 запросам, включая вопросы по предметной области, рассуждение и использование инструментов; это небольшая самопроведённая оценка, а не независимый бенчмарк. Модель описана как не склонная к отказам, поэтому её ответы требуют проверки и контроля при практическом использовании. Лицензия — Apache 2.0. Компактный размер удобен для локального запуска, однако качество и надёжность выводов могут быть ниже, чем у крупных моделей; модель не заменяет проверку специалистом и безопасную тестовую среду.
Qwen3.5-27B-DFlash — черновая модель для спекулятивного декодирования, совместно переобученная Z-Lab и Modal на основе Qwen/Qwen3.5-27B. Это не самостоятельная языковая модель: её подключают к целевой модели в совместимом сервере инференса, например SGLang. Модель использует облегчённый блочно-диффузионный черновой декодер, который параллельно предлагает несколько токенов. Целевая модель проверяет предложения, сохраняя своё распределение выходов и потенциально увеличивая пропускную способность генерации. По метаданным модель содержит 3,3 млрд параметров, использует архитектуру DFlashDraftModel и формат safetensors; базовая модель рассчитана на контекст до 262 144 токенов. В README указано обучение с длиной последовательности 40 000 токенов и скользящим окном внимания. Предназначена для ускорения обслуживания запросов к Qwen3.5-27B, в том числе при генерации ответов, математических решений и кода. В опубликованных авторами тестах на одной NVIDIA B200 с SGLang ускорение зависело от нагрузки и размера блока и достигало 6,20 раза при параллелизме 1 и 3,01 раза при параллелизме 32. Результаты относятся к указанной конфигурации и наборам тестов; производительность в других условиях может отличаться. Лицензия — Apache-2.0.