II.11Кибербезопасность и приватность

distilbert-secret-masker-v3.3a-RS — модель AndrewAndrewsen на базе DistilBERT с классификационной головой для разметки токенов. Она находит учётные данные, токены, ключи и пароли в исходном коде и связанном с ним тексте, а затем возвращает символьные интервалы для маскирования. Для длинных входов предусмотрена обработка скользящими окнами; указанное в карточке рабочее пороговое значение — τ = 0,99. Модель предназначена для обнаружения секретов в исходном коде как дополнение к сканерам на правилах. На отложенных наборах реального кода строгая F1-метрика по точному совпадению интервала и строки составляла 0,63–0,70; результаты зависят от корпуса и сценария применения. Лицензия весов — Apache-2.0, кода SecMask — MIT. Основное ограничение — ложные срабатывания на похожие на секреты UUID и хеши, а также пропуски некоторых секретов без характерных префиксов, особенно паролей. На чате, логах и неанглоязычном тексте качество ниже, чем на исходном коде; модель не гарантирует обнаружение всех секретов и не заменяет сканеры на правила.

Endy-Qwen3.6-CyberSec-35B-A3B-GGUF — локальная GGUF-модель, созданная на основе huihui-ai/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated. Это QLoRA-файнтюн, специализированный на программировании, задачах IT и кибербезопасности, включая анализ уязвимостей, пентестинг и безопасную разработку. Модель позиционируется как uncensored и предназначена для авторизованных исследований безопасности, обучения и локального запуска. Архитектура qwen3_5_moe сочетает MoE примерно с 35 млрд общих параметров и около 3 млрд активных, линейное внимание DeltaNet, native MTP и поддержку vision. Для работы с изображениями требуется парный файл mmproj; заявлена поддержка английского языка. Доступны квантизации от Q8_0 до Q2_K объёмом примерно от 37,8 до 13,2 ГБ; для GPU с 32 ГБ рекомендуется Q5_K_M. Указан контекст до 262 144 токенов и скорость около 57 токенов в секунду на Tesla V100. Сильными сторонами являются специализация на коде и кибербезопасности, поддержка текстовых и визуальных входов, экономичное MoE-вычисление и возможность локального инференса. Ограничения включают снижение качества на низких уровнях квантизации, склонность к повторениям в длительных агентных задачах и отсутствие поддержки speculative decoding и prefix-KV reuse. Модель распространяется по лицензии AGPL-3.0; использование должно соответствовать законодательству и ограничениям, связанным с происхождением части обучающих данных.

HikmaAI разработала мультиязычный классификатор prompt injection на базе microsoft/mdeberta-v3-base, дообучив его для бинарного определения обычного текста и попыток внедрения инструкций. Модель предназначена для проверки пользовательских запросов и текстов перед передачей их языковой модели или другому компоненту приложения. Это encoder-модель DeBERTa v3 с 306 млн параметров и контекстом до 512 токенов. Она поддерживает 11 языков: английский, вьетнамский, хинди, тайский, китайский, японский, русский, арабский, шведский, испанский и итальянский. Доступны форматы ONNX FP32, FP16 и INT8; метаданные указывают библиотеку Optimum и pipeline text-classification. В карточке сообщается о точности 0,995 на валидации и полноте 0,9709 при выбранном пороге, но эти показатели зависят от набора данных и не гарантируют аналогичное качество в эксплуатации. Модель выдаёт метку «обычный текст» или «prompt injection» и подходит для многоязычного предварительного фильтра запросов. Она не заменяет проверку безопасности всей системы и может ошибаться на новых формулировках, доменах или языковых вариантах. Лицензия — Apache-2.0.

HiveTraceGuard-Pro — компактная модель классификации запросов и ответов для защитных контуров LLM и агентных систем, разработанная HiveTrace на базе Qwen3-0.6B. Она проверяет сообщения на вредоносное содержание, jailbreak, prompt injection, обфускацию, извлечение секретов и попытки перехвата инструментов. Модель возвращает один из двух вердиктов: safe или unsafe; вероятность unsafe можно получить из логитов этих меток. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 507,9 млн параметров и контекст до 40 960 токенов. Заявлены русский и английский языки, режимы проверки пользовательского ввода и ответа ассистента с учётом запроса. Для обслуживания указаны Transformers, vLLM и SGLang; фиксированная политика позволяет использовать кеширование общего префикса. Модель подходит для фильтрации сообщений и контроля безопасности перед передачей запроса LLM или после генерации ответа. Она выдаёт только бинарную метку, поэтому не объясняет причину решения и не формирует развёрнутые отчёты. Распространяется по лицензии Apache-2.0.

Lion Warden — модель Patronus AI для многоцелевой классификации текстов в системах защиты ИИ-агентов. Это дообученный мультиязычный энкодер ModernBERT/mmBERT с архитектурой UnifiedMultiTaskModel и семью независимыми классификационными головами. За один проход модель оценивает признаки prompt injection, чувствительных документов, типа и действий инструмента, тегов безопасности, маршрутизации запроса и категории угрозы. Входом служит текст: например, запрос, вызов инструмента, документ или шаг агента; на выходе — отдельные оценки и классы по головам. Модель предназначена для проверок в межсетевом экране ИИ, применения политик к агентам, оценки риска инструментов, сигналов предотвращения утечек, маршрутизации запросов и мониторинга во время выполнения. В карточке приведены результаты по отдельным головам на тестовом наборе и средний macro-F1 0,937. Основными языками оценки были немецкий и английский; мультиязычная основа допускает работу с другими языками, но они не проверялись активно. Модель не отслеживает поток информации между несколькими шагами агента, а положительный прогноз сам по себе не доказывает выполнение действия или доступ к данным; возможны ложные срабатывания и пропуски. Лицензия — Apache-2.0.

Это экспортированная в ONNX и квантованная версия классификатора Meta Llama-Prompt-Guard-2-22M, опубликованная gravitee-io. Модель использует архитектуру DeBERTa-v2 и предназначена для классификации текста с целью выявления jailbreak-промптов и попыток обойти инструкции безопасности LLM. Она принимает текст и выдаёт метки классов; поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский языки. Размер модели по метаданным — 77,5 млн параметров, контекст — 512 токенов. Репозиторий содержит ONNX-формат для запуска через ONNX Runtime. В README приведены результаты оценки на наборе jackhhao/jailbreak-classification: для квантованной версии указаны точность 0,9579, precision 0,9967 и recall 0,9204. Эти результаты относятся к описанному набору данных и не гарантируют качество на иных типах атак. Указана лицензия Llama 4; применяйте модель в соответствии с её условиями.

Lunaris Guard v3 — многоязычная модель-классификатор Auren Research для обнаружения prompt injection и разметки категорий безопасности в рабочих процессах ИИ-агентов. Это дообученная на базе энкодера jhu-clsp/mmbert-base плотная модель для классификации последовательностей примерно с 307 млн параметров; она загружается через Transformers с включённым trust_remote_code. Стандартный pipeline text-classification использует голову обнаружения инъекций, а модель также выдаёт классификацию по 14 категориям безопасности. Модель предназначена для проверки документов и фрагментов RAG, результатов поиска и браузера, вывода инструментов и метаданных MCP, а также сообщений, логов, кода и содержимого HTML, Markdown, CSV и API. Поддерживаются английский, португальский, испанский, французский, китайский, хинди, арабский, русский и японский языки. Контекст ограничен 2048 токенами; длинные материалы рекомендуется разбивать на фрагменты и агрегировать оценки риска. Лицензия — MIT. Карточка приводит результаты целевого теста на 100 синтетических примерах, но это не широкий публичный бенчмарк. Англоязычная работа сильнее, чем многоязычная; возможны ложные срабатывания на цитируемых примерах атак и защитных инструкциях, а длинный текст без разбиения может быть усечён. Модель не следует использовать как единственную защиту в системах, где пропуск атаки может привести к серьёзному ущербу.

OpenGuardrails-Text-2510 — модель для обнаружения небезопасного содержимого и защиты от атак на промпты, разработанная проектом OpenGuardrails. Она классифицирует пользовательские запросы и ответы модели по категориям риска, включая prompt injection, jailbreak и злоупотребление кодом, и выдаёт метку безопасности либо метку обнаруженного риска. Модель предназначена для встраивания в защитные контуры LLM-приложений, в том числе для настройки порогов срабатывания под политики организации. Это дообученная модель семейства Qwen3 с базой Qwen/Qwen3-14B; в README указана GPTQ-квантизация и эффективный размер 3,3 млрд параметров, а метаданные репозитория отмечают формат safetensors. Заявлена поддержка 119 языков и диалектов, при этом метаданные карточки указывают английский и китайский. Лицензия Apache 2.0. Разработчики сообщают о низкой задержке и результатах на наборах оценки безопасности, однако приведённые показатели и заявления о превосходстве являются заявлениями авторов, а не независимой гарантией качества.

Opir-multitask-multilang-v1.0 — многоязычная модель Knowledgator для классификации безопасности текста на базе энкодерной архитектуры GLiClass. Она оценивает текст вместе с переданными при запросе метками и подходит для двоичной классификации «безопасно/небезопасно», обнаружения токсичности, jailbreak и prompt injection, а также категоризации вредоносного контента по иерархической таксономии из 996 меток. Модель предназначена для фильтрации пользовательских запросов до их передачи LLM, проверки ответов перед показом пользователю, маршрутизации потенциально опасного контента на дополнительные проверки и анализа результатов red-team-тестов. Поддерживает 23 языка; метки для классификации могут задаваться на английском даже при вводе на другом языке. В README указана задержка 13,30 мс на 50-м перцентиле и 14,03 мс на 95-м перцентиле при длине 1024 токена в условиях бенчмарка. Модель выдаёт оценки риска, а не формальные решения по политике. Она может пропускать новые или обфусцированные атаки, а качество зависит от выбранных меток, порогов, языка и формата текста; переведённые данные могут хуже отражать особенности отдельных языков и культур. Для эксплуатации рекомендуется калибровать пороги и сочетать классификатор с правилами, мониторингом и эскалацией. Лицензия — Apache-2.0.

PangolinGuard-Large — модель классификации текста на базе ModernBERT Large, разработанная для обнаружения вредоносных запросов, включая prompt injection и jailbreak-атаки. Она предназначена для встраивания в AI-агентов и разговорные интерфейсы как недорогой механизм защиты, который можно запускать самостоятельно. Модель содержит 394,7 млн параметров, использует архитектуру ModernBertForSequenceClassification и принимает текст длиной до 8192 токенов. Она дообучена на answerdotai/ModernBERT-large и оценивается на наборах для выявления атак и проверки чрезмерной блокировки безвредных запросов, включая NotInject, BIPIA, Wildguard-Benign и PINT. Модель распространяется под лицензией Apache-2.0. Данных о поддерживаемых языках в карточке нет.

Prompt Guard — классификатор Meta для защиты приложений на основе LLM от атак на промпты. Он анализирует текст и относит его к одной из трёх категорий: benign, injection или jailbreak. Модель предназначена для проверки пользовательских запросов и сторонних данных, которые передаются LLM, и может служить одним из уровней защиты приложения. Модель поддерживает контекст до 512 токенов. Более длинные входы рекомендуется делить на сегменты и проверять параллельно. Разделение меток injection и jailbreak позволяет применять разные правила фильтрации к стороннему содержимому и диалогам пользователей. Лицензия — Llama 3.1. Классификатор не защищён от адаптивных атак, а граница между безопасным и вредоносным содержимым зависит от конкретного приложения. Для более точной работы разработчикам рекомендуется дообучить модель на собственных данных и сочетать её с дополнительными мерами защиты.

Antares-1B — языковая модель, разработанная fdtn-ai на базе ibm-granite/granite-4.0-1b и дообученная для локализации уязвимостей в исходном коде. Она принимает идентификатор CWE и описание категории, исследует репозиторий через последовательные команды терминала и указывает файлы, которые могут содержать уязвимость. Модель рассчитана на специалистов по безопасности, исследователей и разработчиков, в том числе для раннего анализа кода в CI/CD и разбора рекомендаций, связанных с CVE или GHSA. Она работает в агентном цикле с вызовами инструментов, а не как универсальный чат-ассистент; для работы не требуется внешняя поисковая система или векторная база. Модель предназначена для локального запуска, в том числе на одной GPU, и поддерживает английский язык. Лицензия — Apache-2.0. Она лучше справляется с уязвимостями, имеющими заметные текстовые шаблоны, и хуже — с проблемами, требующими глубокого семантического анализа поведения кода. Качество снижается на крупных репозиториях и уязвимостях, затрагивающих много файлов; модель определяет вероятные файлы, но не объясняет уязвимость и не генерирует эксплойты. README указывает срез знаний на 10 апреля 2025 года и рекомендует использовать изолированную среду и проверку результатов специалистом.

Builder117/distilbert-indirect-injection — дообученный классификатор на базе DistilBERT для поиска косвенных prompt injection-атак в содержимом, которое получает LLM. Модель разработана Builder117 и предназначена для предварительной проверки извлечённых документов в RAG-системах, страниц для веб-агентов и материалов для систем вопросов и ответов по документам. Архитектура — DistilBertForSequenceClassification; модель присваивает тексту одну из двух меток: CLEAN для обычного содержимого или INDIRECT для обнаруженной атаки. Она распознаёт скрытые инструкции в комментариях HTML/CSS, текстах документов, полях JSON и метаданных, а также команды, замаскированные пробелами. Базовая модель — distilbert-base-uncased; контекст ограничен 512 токенами. Модель принимает и классифицирует текст на английском языке. Лицензия — Apache-2.0. Классификатор помогает фильтровать содержимое перед передачей языковой модели, но может пропустить инструкции в конце документа, обрезанного до 512 токенов, и новые способы маскировки, отсутствовавшие в обучающих данных. Для лучшего покрытия README рекомендует проверять каждый извлечённый фрагмент отдельно.

DeshwalX/electra-small-prompt-injection-v1 — англоязычный классификатор безопасности на базе ELECTRA Small, разработанный DeshwalX и дообученный на google/electra-small-discriminator. Модель с архитектурой ElectraForSequenceClassification выполняет многометочную классификацию текста и выдаёт четыре независимые оценки для выявления манипулятивных и вредоносных запросов, а также небезопасных ответов LLM. Она предназначена для фильтрации запросов, анализа ответов и использования в шлюзах безопасности и системах модерации LLM. Модель содержит 20,4 млн параметров, принимает текстовые взаимодействия с LLM и имеет контекст до 512 токенов. В README указана оценка на WildGuard Test: Micro F1 0,90, Macro F1 0,89 и Weighted F1 0,91. Распространяется под лицензией Apache-2.0. Классификатор может пропускать новые типы атак и давать ложноположительные или ложноотрицательные результаты. Его следует использовать как один из компонентов защиты, а не как полное решение безопасности; для критически важных случаев README рекомендует человеческую проверку.

Aira-security FT-Llama-Prompt-Guard-2 — дообученный с помощью LoRA классификатор на базе meta-llama/Llama-Prompt-Guard-2-22M для выявления prompt injection и jailbreak-попыток. Модель классифицирует текстовые запросы как безопасные или вредоносные и предназначена для проверки пользовательских промптов перед передачей их языковой модели. Модель имеет архитектуру DeBERTa-v2 и содержит 77,5 млн параметров; максимальная длина контекста — 512 токенов. README указывает, что обучение проводилось только на английском языке. Возможны ложноположительные и ложноотрицательные срабатывания, особенно на примерах, отличающихся от обучающих данных. Лицензия — Llama 2.

Kimi-K3-Audit-240E-MLX-MXFP4 — специализированная модель для аудита безопасности и анализа исходного кода, разработанная catalystsec на базе Kimi K3 от Moonshot AI. Это текстовая модель с поддержкой инструментов, предназначенная прежде всего для поиска и анализа проблем в исходном коде, включая аудит ядерных компонентов. Общение общего назначения, перевод и нетехническое письмо находятся вне заявленной области применения. Модель использует архитектуру Mixture of Experts: в каждом слое сохраняются 240 из 896 маршрутизируемых экспертов, а веса сохранённых экспертов идентичны оригинальному выпуску. Модель представлена в формате MXFP4 для MLX, занимает около 408 GiB и разделена на 91 фрагмент, что позволяет запускать её на одной машине Apple silicon с 512 ГБ памяти. Основная модальность — текст; vision tower сохранён, но не оценивался. В README приведены результаты для C, C++, Swift, Rust и Python, а также английской прозы. При использовании на M3 Ultra размер доступного контекста зависит от шага предварительного заполнения и может составлять примерно от 198 тысяч до 731 тысячи токенов при размере батча 1. Сильная сторона модели — сохранение качества на задачах анализа кода и аудита при существенно меньших требованиях к памяти по сравнению с полной версией на 896 экспертов. Наиболее близкие результаты к исходной модели показаны для C и C++; для Python расхождение больше, а на английской прозе качество значительно ниже, поэтому модель не следует рассматривать как универсальную. Для работы требуется версия mlx-lm с поддержкой Kimi K3 из PR #1626 и пакет tiktoken; до включения поддержки в официальный выпуск mlx-lm необходимо устанавливать сборку из соответствующей ветки. Лицензия указана как Kimi K3, со ссылкой на лицензию базовой модели.

gravitee-io/Llama-Prompt-Guard-2-86M-onnx — преобразованная в ONNX и квантизированная версия классификатора Meta Llama-Prompt-Guard-2-86M. Модель на архитектуре DeBERTa-v2 предназначена для классификации текста и выявления попыток prompt injection и jailbreak в запросах к большим языковым моделям. Принимает текст длиной до 512 токенов и возвращает метку классификации. Репозиторий содержит форматы ONNX и safetensors; для запуска описана связка Transformers и ONNX Runtime. В README приведены результаты оценки на наборе jailbreak-classification: для исходной версии 86M указаны accuracy 0,9801, precision 0,9984 и recall 0,9625; эти показатели не следует считать гарантией на других данных. Языковые теги карточки включают английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский. Лицензия — Llama 4.

Niansuh/Prompt-Guard-86M — классификатор текстовых запросов для обнаружения prompt injection и jailbreak-атак в приложениях на базе LLM. По карточке, модель различает три метки: benign (обычный текст), injection (встроенные инструкции, направленные на LLM) и jailbreak (попытка обойти системные инструкции или защитные механизмы). Она предназначена для фильтрации пользовательских диалогов и сторонних данных перед передачей их языковой модели. Архитектура — DeBERTa-v2 для классификации последовательностей; в метаданных указано 306 млн параметров и окно контекста 512 токенов. Указанный в названии размер 86M не совпадает с размером из метаданных. Модель рассчитана на англоязычный текст и может применяться как один из уровней защиты LLM-приложений. Для более точной фильтрации рекомендуется дообучение на данных конкретного приложения и сочетание классификатора с дополнительными средствами защиты. Модель может ошибаться на адаптивных атаках и на угрозах, специфичных для конкретного приложения; длинные входы следует разбивать на фрагменты. Лицензия в метаданных — llama3.1.

arkaean/promptguard-distilbert — модель DistilBERT, дообученная в рамках исследовательского проекта PromptGuard для бинарной классификации текстовых запросов к LLM. Она определяет, является ли запрос обычным или содержит попытку prompt injection либо jailbreak. Модель принимает текст и возвращает метку класса с оценкой; архитектура — DistilBertForSequenceClassification, размер — 66 млн параметров, максимальный контекст — 512 токенов. В карточке заявлены английский язык и лицензия MIT. Модель подходит для фильтрации входящих запросов в приложениях на базе LLM, предварительного обнаружения атак на агентов и настройки порога срабатывания под требования к пропускам атак и ложным тревогам. На отложенном IID-тесте из источников, представленных в обучающей выборке, указаны F1 0,9776 и ROC-AUC 0,9973; автор также приводит разные пороги для чувствительного к безопасности, сбалансированного и низколожноположительного режимов. Оценка обобщения на новые источники запросов не представлена, поэтому результаты теста не гарантируют аналогичное качество на иных типах атак и данных. В тестовом наборе отмечены отдельные вероятные ошибки разметки, унаследованные от исходных датасетов.

Карточка модели testsavantai/prompt-injection-defender-small-v0 на Hugging Face совпадает с карточкой testsavantai/prompt-injection-defender-large-v0, поэтому описание составлено по ней. testsavantai/prompt-injection-defender-large-v0 — англоязычный классификатор TestSavantAI для обнаружения вредоносных prompt injection и jailbreak-запросов, предназначенных для атак на большие языковые модели. Модель дообучена на базе Microsoft DeBERTa-v3-base и использует архитектуру DeBERTa для классификации последовательностей; размер составляет 211,6 млн параметров, максимальная длина контекста — 512 токенов. Модель помогает оценивать входящие запросы как вредоносные или добросовестные, чтобы защищать LLM-приложения, сохраняя полезные запросы и снижая число ошибочных блокировок. В карточке упомянуты тестирование на наборах для косвенных prompt injection, jailbreak-сценариев и red teaming, включая Microsoft-BIPIA, JailbreakBench и Garak. Для запуска можно использовать библиотеку Transformers; веса опубликованы в формате safetensors. Модель предназначена для англоязычного текста. Качество классификации зависит от того, насколько атаки и добросовестные запросы в реальном приложении похожи на примеры обучения и оценки; карточка не приводит конкретных численных результатов. Лицензия в предоставленных данных не указана.

Qualifire prompt-injection-sentinel — англоязычный классификатор на архитектуре ModernBERT-large, дообученный для обнаружения prompt injection и попыток jailbreak во входных текстах. Он относит запросы к benign или malicious и может служить фильтром перед передачей пользовательского ввода большой языковой модели или частью конвейера модерации и защиты чат-бота. В README приведены результаты оценки на четырёх наборах для обнаружения prompt injection: средний бинарный F1 составляет 93,86; модель превзошла указанный базовый классификатор на всех четырёх тестах. Модель принимает текст и выдаёт метку класса с оценкой. Она не предназначена для генерации текста или общего анализа тональности. Ограничения: возможны ошибки на неоднозначных и творческих запросах; модель не оценивалась на неанглоязычных данных, а результаты могут отражать смещения обучающих наборов. Для значимых решений рекомендуется сочетать её с проверкой человеком или правилами и регулярно проверять на новых типах атак. В метаданных указана лицензия «other»; конкретные условия следует сверить с карточкой модели.

Vela Shield — модель классификации текста от llm-semantic-router, полученная дообучением энкодера Vela-1.0-Encoder-307M. Она оценивает безопасность пользовательских запросов и ответов модели по шести направлениям: выявляет вредный запрос, относит его к одной из 34 категорий риска, распознаёт попытки prompt injection и jailbreak, а также определяет вредность ответа, отказ и категории риска в ответе. Основные головы классификации работают на ModernBERT; запрос можно оценить за один проход энкодера. Отдельная label-conditioned голова позволяет оценивать категории по текстовым описаниям. Модель содержит 306,9 млн параметров и рассчитана на последовательности до 32 768 токенов с учётом специальных токенов, но обучалась на примерах длиной до 1 536 токенов. Поддерживает 17 языков, включая русский, английский, арабский, китайский и хинди. Предназначена для защитных фильтров и маршрутизации запросов и ответов; риск-сигнал сам по себе не означает, что нужно отказывать пользователю. Для классификации длинных текстов вызывающая система должна управлять усечением входа. Модель не предназначена для распознавания домена, модальности, сложности, намерения, PII или галлюцинаций. Лицензия — Apache-2.0.

VirbiusGuard — двуязычная модель-охранник для проверки безопасности входящего текста, разработанная автором репозитория i1see1you на основе дообучения Qwen/Qwen3Guard-Gen-0.6B. Она выявляет безопасные и небезопасные запросы, включая jailbreak, извлечение системных инструкций, злоупотребление инструментами агента и вредоносные инструкции. Модель возвращает результат в виде JSON с признаком срабатывания и идентификатором одной из категорий риска. Модель построена на архитектуре Qwen3ForCausalLM, содержит около 507,9 млн параметров и поддерживает контекст до 32 768 токенов. README описывает LoRA-дообучение и усиленную обработку сценариев prompt injection и agent safety. Доступны веса Safetensors и GGUF, включая варианты F16 и Q4_K_M; автор указывает, что квантованный вариант подходит для запуска на CPU, Mac и через Ollama. Модель предназначена для фильтрации пользовательских запросов и результатов работы инструментов агента. По приведённым автором оценкам V2.0 снижает ложные срабатывания и блокирует атаки в описанной конфигурации AgentDojo; эти результаты относятся к указанным тестовым условиям. README также предупреждает, что политические и религиозные темы могут классифицироваться строго, а при слишком малом лимите генерации JSON может обрезаться. Лицензия — Apache-2.0.

WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B — модель серии WhiteRabbitNeo, разработанной для задач наступательной и защитной кибербезопасности. Это дообученная версия Qwen/Qwen2.5-Coder-7B с архитектурой Qwen2 и 7,1 млрд параметров; модель предназначена для генерации кода и диалогового взаимодействия. Она принимает текстовые запросы и выдаёт текст, включая программный код. Поддерживаемая длина контекста — 32 768 токенов; в карточке указан английский язык. Модель выпущена как публичная предварительная версия для оценки возможностей и общественного влияния. Лицензия — Apache-2.0; README также содержит условия использования и отказ от гарантий.

Acuvity Prompt Injection — англоязычный классификатор текстов, разработанный Acuvity Inc. для выявления попыток внедрения инструкций в запросы к большим языковым моделям. Это дообученная модель DistilBERT с классификационной головой; она принимает текст и относит его к классу «безопасный» или «инъекция». В типовом сценарии классификатор проверяет пользовательский ввод перед передачей запроса основной LLM, чтобы помечать или блокировать обнаруженные инъекции. Модель рассчитана на английские запросы и имеет контекстное окно 512 токенов. В карточке указаны метрики оценки на 20 000 запросов из наборов, не использовавшихся при обучении: точность 96,025%, полнота 96,47%, precision 95,619% и F1 96,0426%. Эти результаты не гарантируют такую же эффективность на других данных. Модель не предназначена для выявления jailbreak-атак и не поддерживает запросы на других языках. Лицензия — Apache 2.0.

Builder117/distilbert-jailbreak — дообученный классификатор на базе DistilBERT для обнаружения попыток обхода защитных ограничений LLM. Он помечает входной текст как SAFE или JAILBREAK и предназначен для фильтрации DAN-запросов, подмены роли, активации «режима разработчика», отрицания правил и вымышленного обрамления, используемого для получения запрещённого контента. Модель ориентирована на защиту LLM-приложений от prompt injection, в частности на сценарии из категории OWASP LLM Top 10 LLM01. Модель принимает текст на английском языке; базовая архитектура — DistilBERT для классификации последовательностей, контекст — до 512 токенов. Выпущена под лицензией Apache-2.0. Классификатор может пропускать атаки с заменой синонимов или косвенным обрамлением, поэтому его оценки не следует считать исчерпывающей защитой.

bennetsharwin/distilbert-prompt-injection-v2 — классификатор текста на основе DistilBERT, дообученный для бинарного обнаружения prompt injection: он различает безвредные и вредоносные запросы. Модель предназначена для проверки пользовательского ввода и текстов перед передачей их языковой модели или обработчиком инструкций. В README приведены результаты на тестовом наборе: accuracy 99,35%, F1 99,57%, precision 99,75% и recall 99,38%. Модель использует архитектуру DistilBertForSequenceClassification, формат весов Safetensors и контекст до 512 токенов. Карточка указывает английский язык. Лицензия — MIT. Показатели тестирования не гарантируют такую же точность на новых данных: эффективность зависит от состава и распределения атак в проверяемых текстах. Модель классифицирует текст и сама по себе не блокирует запросы и не обеспечивает защиту системы.

GuardShield-Qwen2.5-3B-16bit — дообученная чат-модель на архитектуре Qwen 2.5, созданная для выявления небезопасных запросов и классификации безвредного содержимого. Она рассчитана на развёртывание в производственных микросервисах и GPU-сервисах, включая vLLM, Hugging Face TGI, Triton Inference Server и Transformers, а также на интеграцию через OpenAI-совместимые API. Модель содержит 3,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и распространяется в виде объединённых весов Safetensors в FP16. Максимальная длина контекста — 32 768 токенов. В README указаны метрики проверки: полнота обнаружения небезопасных запросов 86,35%, точность классификации безвредных запросов 92,95% и соблюдение синтаксиса JSON во всех 1000 проверенных ответах. Модель принимает текст и генерирует текстовые ответы, включая структурированные результаты классификации; заявлен интерфейс для вызова инструментов. Она основана на Qwen/Qwen2.5-3B-Instruct и выпущена под лицензией Apache-2.0. Показатели в README относятся к приведённой там проверке и сами по себе не гарантируют качество на других данных или сценариях.

Kanana Safeguard-Prompt — разработанная Kakao модель для обнаружения атак на промпты в сообщениях пользователей диалоговых ИИ-систем. Она основана на собственной языковой модели Kanana 2.1B и предназначена для классификации попыток Prompt Injection и Prompt Leaking. Модель построена на плотной архитектуре семейства Llama, содержит 1,9 млрд параметров, принимает текст и выдаёт метку одним токеном: <SAFE> либо <UNSAFE-A1>, где код обозначает категорию риска. Контекст модели — 8192 токена; для запуска используется Transformers версии 4.51.3 или новее. Модель оптимизирована для корейского и английского языков. В карточке сообщается о высокой точности на внутреннем корейском тестовом наборе, однако численные результаты недоступны. Модель не учитывает историю диалога, может ошибаться, особенно в специфических предметных областях, и выявляет только предусмотренные категорией риски. Лицензия — Apache-2.0.

Mezzo Prompt Guard v2 Base — модель классификации текстов от RyanStudio для выявления попыток prompt injection и различения безопасных и небезопасных сообщений. Она дообучена на FacebookAI/xlm-roberta-base и использует архитектуру XLM-RoBERTa с классификационной головой; размер составляет 305,2 млн параметров, максимальная длина контекста по метаданным — 514 токенов. Модель рассчитана на проверку пользовательских запросов и текстов в многоязычных приложениях, где нужно снизить риск выполнения вредоносных инструкций. В README описаны обучение на примерах инструкций, диалогов и многоязычных наборов данных, а также результаты на нескольких тестах prompt injection. Порог классификации можно настраивать: более высокий порог снижает число ложных срабатываний, а более низкий помогает чаще обнаруживать атаки. Модель может ошибочно помечать безопасный текст как небезопасный, а сложные атаки, не представленные в обучении, могут обходить её. README рекомендует разбивать длинные запросы на фрагменты до 256 токенов. Лицензия — MIT.