WildGuard — англоязычная модель модерации для выявления вредных запросов и ответов LLM, а также оценки отказов.
Подходит для: выявление вредоносных запросов пользователей к LLM · модерация ответов языковой модели · определение отказов LLM от ответа
Модель IBM для выявления рисков и проверки обоснованности ответов в диалогах, RAG-системах и агентных сценариях.
Подходит для: фильтрация вредоносных запросов пользователей · проверка ответов чат-бота на небезопасное содержание · оценка релевантности найденных RAG-документов
StepGuard проверяет действия агентов до вызова инструментов и аудирует траектории взаимодействия, выявляя небезопасные шаги и источники риска.
Подходит для: проверка безопасности действия агента перед вызовом инструмента · аудит траектории действий и наблюдений агента · классификация действий как безопасных или небезопасных
AdaGuard-8B проверяет запросы пользователей и поведение ИИ-агентов по заданным правилам, объясняет результат и отмечает нарушенные правила.
Подходит для: проверка запросов по внутренней политике безопасности · аудит последовательности действий ИИ-агента и вызовов инструментов · выявление нарушенных пунктов пользовательского свода правил
Дообученная IBM модель Granite для выявления рисков в запросах, ответах, RAG-контексте и вызовах инструментов.
Подходит для: проверка запросов на вредоносное содержание и попытки обхода ограничений · проверка ответов чат-бота на предвзятость, насилие и ненормативную лексику · оценка релевантности найденных документов в RAG
Текстовая модель IBM для выявления рисков и галлюцинаций в запросах, ответах, RAG-контексте и вызовах функций.
Подходит для: Проверка пользовательских запросов на вредоносный контент и попытки обхода ограничений · Оценка ответов чат-бота на вредный контент, предвзятость и ненормативную лексику · Проверка релевантности извлечённого контекста в RAG-системе
DARWIN-Guard — дообученная на Qwen3Guard-Gen-8B модель для классификации пользовательских запросов как безопасных или небезопасных и защиты LLM от вредоносных запросов и джейлбрейков.
Подходит для: модерация входящих запросов к чат-боту · обнаружение вредоносных и замаскированных запросов · фильтрация попыток джейлбрейка перед передачей запроса LLM
Специализированная модель IBM для оценки безопасности и качества запросов и ответов LLM, включая RAG и вызовы инструментов.
Подходит для: обнаружение jailbreak-попыток в запросах к чат-боту · проверка ответа на вредный контент и ненормативную лексику · оценка соответствия ответа контексту в RAG-системе
Модель анализирует журналы действий компьютерных агентов и объясняет, безопасна ли их полная траектория выполнения.
Подходит для: аудит журналов действий компьютерного агента · выявление опасных или несанкционированных вызовов инструментов · оценка безопасности агентных фреймворков
AprielGuard — модель-модератор ServiceNow AI для выявления рисков безопасности контента и атак на LLM, включая prompt injection и jailbreak.
Подходит для: модерация запросов и ответов LLM-ассистента · оценка токсичности, предвзятости и дезинформации · выявление jailbreak и prompt injection
Модель проверяет запросы и действия ИИ-агентов по пользовательским правилам безопасности и выдаёт объяснение с идентификаторами нарушенных правил.
Подходит для: проверка пользовательских запросов по внутренним правилам безопасности · аудит действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов политики
Дообученная на задачах кибербезопасности модель Granite на 28,9 млрд параметров для анализа и исправления конфигураций Infrastructure as Code.
Подходит для: поиск проблем безопасности в конфигурациях IaC · предложение исправлений для файлов Infrastructure as Code · проверка изменений инфраструктурных конфигураций
Генеративная модель на базе Qwen3Guard-Gen-0.6B для проверки запросов и действий ИИ-агентов на нарушения пользовательских политик с объяснением и идентификаторами нарушенных правил.
Подходит для: проверка пользовательских запросов по правилам безопасности приложения · аудит последовательности действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов заданной политики
Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.
Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций
DynaGuard-8B — дообученная языковая модель для проверки диалогов по пользовательским правилам и выдачи вердикта с объяснением.
Подходит для: Проверка ответов чат-бота на соответствие правилам продукта · Выявление обещаний возврата средств, которые бот не вправе выдавать · Контроль медицинского чат-бота на предмет несанкционированных рекомендаций
Классификатор saroku-guard оценивает безопасность вызовов инструментов ИИ-агентами перед выполнением и отмечает небезопасные действия.
Подходит для: проверка безопасности вызова API перед выполнением · фильтрация действий агента в браузере и облачной инфраструктуре · проверка аргументов операций с файлами и базами данных
Англоязычная модель эмбеддингов Stella на 1,5 млрд параметров для семантического поиска и сравнения текстов.
Подходит для: поиск релевантных документов по запросу · семантический поиск по коллекции текстов · измерение сходства между предложениями
SingGuard-2b — дообученная мультимодальная модель для проверки запросов, ответов и изображений на соответствие заданной политике безопасности.
Подходит для: модерация пользовательских запросов на рискованный контент · проверка ответов чат-бота на небезопасную помощь · оценка безопасности изображений и сообщений с изображениями
Porthor Guard — англоязычная MoE-модель для модерации текстового контента и извлечения персональных данных в локальных конвейерах фильтрации.
Подходит для: проверка запросов пользователя на вредный контент перед передачей LLM · модерация ответов LLM перед показом пользователю · выявление персональных данных в текстах модерации
Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.
Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций
Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.
Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций
VANGUARD — дообученная на базе Qwen3-8B языковая модель для прогнозирующей оценки рисков безопасности в траекториях ИИ-агентов.
Подходит для: оценка безопасности уже наблюдаемой траектории агента · предсказание будущих событий с риском для безопасности · раннее выявление потенциально вредных действий агента
Дообученная модель BERT для генерации текста с контекстом до 512 токенов.
Подходит для: эксперименты с генерацией текста на базе BERT · оценка дообученной модели BERT на текстовой выборке · прототипирование генерации текста с ограниченным контекстом