WildGuard — англоязычная модель модерации для выявления вредных запросов и ответов LLM, а также оценки отказов.

Подходит для: выявление вредоносных запросов пользователей к LLM · модерация ответов языковой модели · определение отказов LLM от ответа

Многоязычный классификатор GuardionAI для выявления prompt injection и jailbreak в запросах, документах и диалогах для LLM.

Подходит для: проверка пользовательских запросов на jailbreak перед передачей LLM · поиск скрытых инструкций prompt injection в документах RAG · проверка результатов веб-поиска перед добавлением в контекст LLM

StepGuard проверяет действия агентов до вызова инструментов и аудирует траектории взаимодействия, выявляя небезопасные шаги и источники риска.

Подходит для: проверка безопасности действия агента перед вызовом инструмента · аудит траектории действий и наблюдений агента · классификация действий как безопасных или небезопасных

AdaGuard-8B проверяет запросы пользователей и поведение ИИ-агентов по заданным правилам, объясняет результат и отмечает нарушенные правила.

Подходит для: проверка запросов по внутренней политике безопасности · аудит последовательности действий ИИ-агента и вызовов инструментов · выявление нарушенных пунктов пользовательского свода правил

DARWIN-Guard — дообученная на Qwen3Guard-Gen-8B модель для классификации пользовательских запросов как безопасных или небезопасных и защиты LLM от вредоносных запросов и джейлбрейков.

Подходит для: модерация входящих запросов к чат-боту · обнаружение вредоносных и замаскированных запросов · фильтрация попыток джейлбрейка перед передачей запроса LLM

Модель IBM для выявления рисков и проверки обоснованности ответов в диалогах, RAG-системах и агентных сценариях.

Подходит для: фильтрация вредоносных запросов пользователей · проверка ответов чат-бота на небезопасное содержание · оценка релевантности найденных RAG-документов

Текстовая модель IBM для выявления рисков и галлюцинаций в запросах, ответах, RAG-контексте и вызовах функций.

Подходит для: Проверка пользовательских запросов на вредоносный контент и попытки обхода ограничений · Оценка ответов чат-бота на вредный контент, предвзятость и ненормативную лексику · Проверка релевантности извлечённого контекста в RAG-системе

Модель анализирует журналы действий компьютерных агентов и объясняет, безопасна ли их полная траектория выполнения.

Подходит для: аудит журналов действий компьютерного агента · выявление опасных или несанкционированных вызовов инструментов · оценка безопасности агентных фреймворков

Дообученная IBM модель Granite для выявления рисков в запросах, ответах, RAG-контексте и вызовах инструментов.

Подходит для: проверка запросов на вредоносное содержание и попытки обхода ограничений · проверка ответов чат-бота на предвзятость, насилие и ненормативную лексику · оценка релевантности найденных документов в RAG

Генеративная модель на базе Qwen3Guard-Gen-0.6B для проверки запросов и действий ИИ-агентов на нарушения пользовательских политик с объяснением и идентификаторами нарушенных правил.

Подходит для: проверка пользовательских запросов по правилам безопасности приложения · аудит последовательности действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов заданной политики

AprielGuard — модель-модератор ServiceNow AI для выявления рисков безопасности контента и атак на LLM, включая prompt injection и jailbreak.

Подходит для: модерация запросов и ответов LLM-ассистента · оценка токсичности, предвзятости и дезинформации · выявление jailbreak и prompt injection

Модель IBM для бинарной проверки запросов и ответов LLM на безопасность, галлюцинации и заданные пользователем критерии.

Подходит для: выявление jailbreak-запросов и небезопасных ответов · проверка ответов RAG на соответствие найденным источникам · обнаружение галлюцинаций при вызове инструментов

Модель проверяет запросы и действия ИИ-агентов по пользовательским правилам безопасности и выдаёт объяснение с идентификаторами нарушенных правил.

Подходит для: проверка пользовательских запросов по внутренним правилам безопасности · аудит действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов политики

SingGuard-2b — дообученная мультимодальная модель для проверки запросов, ответов и изображений на соответствие заданной политике безопасности.

Подходит для: модерация пользовательских запросов на рискованный контент · проверка ответов чат-бота на небезопасную помощь · оценка безопасности изображений и сообщений с изображениями

GA Guard 1B — дообученная компактная модель для классификации текста по семи категориям безопасности и автоматической модерации.

Подходит для: модерация пользовательских сообщений по категориям безопасности · проверка запросов к ИИ-агенту на prompt injection · выявление утечки персональных данных и секретов

16-битная конверсия Llama Guard 3 1B в MLX для генерации текста и локальной проверки безопасности контента на Apple Silicon.

Подходит для: проверка пользовательских запросов по категориям безопасности · проверка ответов чат-бота перед показом пользователю · локальный запуск Llama Guard на компьютерах Apple Silicon

DynaGuard-8B — дообученная языковая модель для проверки диалогов по пользовательским правилам и выдачи вердикта с объяснением.

Подходит для: Проверка ответов чат-бота на соответствие правилам продукта · Выявление обещаний возврата средств, которые бот не вправе выдавать · Контроль медицинского чат-бота на предмет несанкционированных рекомендаций

PangolinGuard-Base — компактный классификатор ModernBERT для выявления prompt injection и других вредоносных запросов в AI-агентах и диалоговых системах.

Подходит для: обнаружение prompt injection в запросах к AI-агенту · выявление jailbreak-попыток в диалоговом интерфейсе · фильтрация вредоносного ввода перед передачей его языковой модели

Porthor Guard — англоязычная MoE-модель для модерации текстового контента и извлечения персональных данных в локальных конвейерах фильтрации.

Подходит для: проверка запросов пользователя на вредный контент перед передачей LLM · модерация ответов LLM перед показом пользователю · выявление персональных данных в текстах модерации

Компактная GGUF-сборка Qwen3Guard-Gen-0.6B для локального диалога и генерации безопасных ответов на устройствах с ограниченными ресурсами.

Подходит для: локальный ассистент для простых вопросов · генерация безопасных ответов на пользовательские запросы · отказ на запросы о вредоносных или незаконных действиях

Генеративная модель модерации на базе Qwen3Guard-Gen-8B для оценки безопасности запросов и ответов.

Подходит для: проверка пользовательских запросов перед передачей языковой модели · модерация ответов чат-бота · классификация текста по категориям риска

Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.

Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций

VANGUARD — дообученная на базе Qwen3-8B языковая модель для прогнозирующей оценки рисков безопасности в траекториях ИИ-агентов.

Подходит для: оценка безопасности уже наблюдаемой траектории агента · предсказание будущих событий с риском для безопасности · раннее выявление потенциально вредных действий агента

JAILJUDGE Guard — дообученная модель Llama для объяснимой оценки jailbreak-атак и уязвимости ответов языковых моделей.

Подходит для: оценка того, обошёл ли запрос защиту языковой модели · выдача объяснения и балла риска для ответа LLM · аудит устойчивости чат-моделей к jailbreak-атакам