Промежуточная мультимодальная модель-ограничитель безопасности для анализа изображений и политик, предназначенная для воспроизведения и сравнения этапов обучения PolicyShiftGuard.

Подходит для: Воспроизведение первой стадии обучения PolicyShiftGuard · Сравнение RP-SFT с финальной моделью PolicyShiftGuard-3B · Исследовательская оценка реакции guardrail-модели на наборы политик

Промежуточная мультимодальная модель на базе Qwen2.5-VL для чтения наборов политик и проверки соответствия им в экспериментах с защитными ограничениями.

Подходит для: воспроизведение первого этапа обучения PolicyShiftGuard · сравнение RP-SFT с финальной адаптацией BP-Adapt · оценка ответов модели на наборы политик с переменными идентификаторами

Мультимодальная модель, которая проверяет изображения на соответствие заданным политикам и сообщает о нарушении и категории риска.

Подходит для: модерация изображений по заданным правилам · проверка изображений на нарушения политики безопасности · выявление категории риска в изображении

Мультимодальная модель на базе Qwen2.5-VL-7B, которая проверяет изображения по заданным правилам и выдаёт структурированные решения о безопасности.

Подходит для: модерация изображений по настраиваемым правилам сообщества · проверка изображений на соответствие политике конкретного приложения · исследование адаптивной модерации при смене правил

WildGuard — англоязычная модель модерации для выявления вредных запросов и ответов LLM, а также оценки отказов.

Подходит для: выявление вредоносных запросов пользователей к LLM · модерация ответов языковой модели · определение отказов LLM от ответа

AdaGuard-8B проверяет запросы пользователей и поведение ИИ-агентов по заданным правилам, объясняет результат и отмечает нарушенные правила.

Подходит для: проверка запросов по внутренней политике безопасности · аудит последовательности действий ИИ-агента и вызовов инструментов · выявление нарушенных пунктов пользовательского свода правил

PolicyGuard-4B классифицирует текстовые траектории веб-агентов, выявляя нарушения заданных политик.

Подходит для: проверка траектории веб-агента на соответствие заданным правилам · раннее выявление нарушения политики по префиксу действий агента · модерация действий агента при покупках и работе с веб-сервисами

Генеративная модель на базе Qwen3Guard-Gen-0.6B для проверки запросов и действий ИИ-агентов на нарушения пользовательских политик с объяснением и идентификаторами нарушенных правил.

Подходит для: проверка пользовательских запросов по правилам безопасности приложения · аудит последовательности действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов заданной политики

StepGuard проверяет действия агентов до вызова инструментов и аудирует траектории взаимодействия, выявляя небезопасные шаги и источники риска.

Подходит для: проверка безопасности действия агента перед вызовом инструмента · аудит траектории действий и наблюдений агента · классификация действий как безопасных или небезопасных

Модель проверяет запросы и действия ИИ-агентов по пользовательским правилам безопасности и выдаёт объяснение с идентификаторами нарушенных правил.

Подходит для: проверка пользовательских запросов по внутренним правилам безопасности · аудит действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов политики

AprielGuard — модель-модератор ServiceNow AI для выявления рисков безопасности контента и атак на LLM, включая prompt injection и jailbreak.

Подходит для: модерация запросов и ответов LLM-ассистента · оценка токсичности, предвзятости и дезинформации · выявление jailbreak и prompt injection

Модель анализирует журналы действий компьютерных агентов и объясняет, безопасна ли их полная траектория выполнения.

Подходит для: аудит журналов действий компьютерного агента · выявление опасных или несанкционированных вызовов инструментов · оценка безопасности агентных фреймворков

SingGuard-2b — дообученная мультимодальная модель для проверки запросов, ответов и изображений на соответствие заданной политике безопасности.

Подходит для: модерация пользовательских запросов на рискованный контент · проверка ответов чат-бота на небезопасную помощь · оценка безопасности изображений и сообщений с изображениями

Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.

Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций

DARWIN-Guard — дообученная на Qwen3Guard-Gen-8B модель для классификации пользовательских запросов как безопасных или небезопасных и защиты LLM от вредоносных запросов и джейлбрейков.

Подходит для: модерация входящих запросов к чат-боту · обнаружение вредоносных и замаскированных запросов · фильтрация попыток джейлбрейка перед передачей запроса LLM

Porthor Guard — англоязычная MoE-модель для модерации текстового контента и извлечения персональных данных в локальных конвейерах фильтрации.

Подходит для: проверка запросов пользователя на вредный контент перед передачей LLM · модерация ответов LLM перед показом пользователю · выявление персональных данных в текстах модерации

Специализированная текстовая модель Havenlon для анализа управления исполнением, рисков и политик безопасности ИИ-агентов.

Подходит для: анализ рисков исполнения действий ИИ-агентом · проверка соответствия действий агента политикам · анализ доказательств перед авторизацией операции

RePolicy-4B выбирает политику безопасности для траектории ИИ-агента и оценивает её с обоснованием после вызова инструмента для получения положений политики.

Подходит для: проверка траекторий действий ИИ-агентов на нарушения политик безопасности · выбор применимой политики из библиотеки правил по сценарию агента · получение обоснованной бинарной оценки безопасности траектории

Компактная многоязычная модель для проверки запросов на соответствие области применения сервиса и заданным политикам безопасности.

Подходит для: проверка, относится ли запрос к назначению клиентского ассистента · блокировка или перенаправление запросов за пределами разрешённой области · проверка запросов перед вызовом инструментов агентом

Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.

Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций

Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.

Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций

Компактный мультиязычный классификатор HaloGuard проверяет входные промпты на безопасность и присваивает опасным запросам категорию политики.

Подходит для: проверка пользовательских промптов перед передачей LLM · обнаружение запросов на опасную помощь · классификация пограничных запросов с образовательным или исследовательским контекстом

HaloGuard 1.0-4B — многоязычный классификатор, который выявляет небезопасные пользовательские запросы перед передачей их языковой модели или приложению.

Подходит для: проверка пользовательского запроса перед вызовом LLM · блокировка запросов, нарушающих заданные политики безопасности · повторная оценка неоднозначных или состязательно сформулированных запросов

Классификатор saroku-guard оценивает безопасность вызовов инструментов ИИ-агентами перед выполнением и отмечает небезопасные действия.

Подходит для: проверка безопасности вызова API перед выполнением · фильтрация действий агента в браузере и облачной инфраструктуре · проверка аргументов операций с файлами и базами данных