WildGuard — англоязычная модель модерации для выявления вредных запросов и ответов LLM, а также оценки отказов.
Подходит для: выявление вредоносных запросов пользователей к LLM · модерация ответов языковой модели · определение отказов LLM от ответа
StepGuard проверяет действия агентов до вызова инструментов и аудирует траектории взаимодействия, выявляя небезопасные шаги и источники риска.
Подходит для: проверка безопасности действия агента перед вызовом инструмента · аудит траектории действий и наблюдений агента · классификация действий как безопасных или небезопасных
Модель IBM для выявления рисков и проверки обоснованности ответов в диалогах, RAG-системах и агентных сценариях.
Подходит для: фильтрация вредоносных запросов пользователей · проверка ответов чат-бота на небезопасное содержание · оценка релевантности найденных RAG-документов
AdaGuard-8B проверяет запросы пользователей и поведение ИИ-агентов по заданным правилам, объясняет результат и отмечает нарушенные правила.
Подходит для: проверка запросов по внутренней политике безопасности · аудит последовательности действий ИИ-агента и вызовов инструментов · выявление нарушенных пунктов пользовательского свода правил
Дообученная модель OpenGuardrails на базе Qwen3 для классификации небезопасного содержимого и обнаружения атак на промпты.
Подходит для: проверка пользовательских запросов на prompt injection и jailbreak · классификация ответов LLM по категориям риска · фильтрация небезопасного содержимого в чат-ботах
Текстовая модель IBM для выявления рисков и галлюцинаций в запросах, ответах, RAG-контексте и вызовах функций.
Подходит для: Проверка пользовательских запросов на вредоносный контент и попытки обхода ограничений · Оценка ответов чат-бота на вредный контент, предвзятость и ненормативную лексику · Проверка релевантности извлечённого контекста в RAG-системе
Дообученная IBM модель Granite для выявления рисков в запросах, ответах, RAG-контексте и вызовах инструментов.
Подходит для: проверка запросов на вредоносное содержание и попытки обхода ограничений · проверка ответов чат-бота на предвзятость, насилие и ненормативную лексику · оценка релевантности найденных документов в RAG
Исследовательская дообученная модель OpenGrad на базе Qwen3.5-2B для решения, когда вызвать инструмент, запросить уточнение или отказаться.
Подходит для: оценка, следует ли вызывать инструмент для запроса · выявление запросов, требующих уточнения перед вызовом инструмента · отказ от неподдерживаемого вызова инструмента
Компактная языковая модель OpenGuardrails для классификации безопасности текста и выявления prompt injection и jailbreak-атак.
Подходит для: проверка запросов пользователей на prompt injection и jailbreak · модерация ответов LLM на вредный контент · классификация текста по категориям риска безопасности
Специализированная модель IBM для оценки безопасности и качества запросов и ответов LLM, включая RAG и вызовы инструментов.
Подходит для: обнаружение jailbreak-попыток в запросах к чат-боту · проверка ответа на вредный контент и ненормативную лексику · оценка соответствия ответа контексту в RAG-системе
SingGuard-2b — дообученная мультимодальная модель для проверки запросов, ответов и изображений на соответствие заданной политике безопасности.
Подходит для: модерация пользовательских запросов на рискованный контент · проверка ответов чат-бота на небезопасную помощь · оценка безопасности изображений и сообщений с изображениями
Генеративная модель на базе Qwen3Guard-Gen-0.6B для проверки запросов и действий ИИ-агентов на нарушения пользовательских политик с объяснением и идентификаторами нарушенных правил.
Подходит для: проверка пользовательских запросов по правилам безопасности приложения · аудит последовательности действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов заданной политики
Модель анализирует журналы действий компьютерных агентов и объясняет, безопасна ли их полная траектория выполнения.
Подходит для: аудит журналов действий компьютерного агента · выявление опасных или несанкционированных вызовов инструментов · оценка безопасности агентных фреймворков
Модель проверяет запросы и действия ИИ-агентов по пользовательским правилам безопасности и выдаёт объяснение с идентификаторами нарушенных правил.
Подходит для: проверка пользовательских запросов по внутренним правилам безопасности · аудит действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов политики
AprielGuard — модель-модератор ServiceNow AI для выявления рисков безопасности контента и атак на LLM, включая prompt injection и jailbreak.
Подходит для: модерация запросов и ответов LLM-ассистента · оценка токсичности, предвзятости и дезинформации · выявление jailbreak и prompt injection
DARWIN-Guard — дообученная на Qwen3Guard-Gen-8B модель для классификации пользовательских запросов как безопасных или небезопасных и защиты LLM от вредоносных запросов и джейлбрейков.
Подходит для: модерация входящих запросов к чат-боту · обнаружение вредоносных и замаскированных запросов · фильтрация попыток джейлбрейка перед передачей запроса LLM
Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.
Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций
Классификатор saroku-guard оценивает безопасность вызовов инструментов ИИ-агентами перед выполнением и отмечает небезопасные действия.
Подходит для: проверка безопасности вызова API перед выполнением · фильтрация действий агента в браузере и облачной инфраструктуре · проверка аргументов операций с файлами и базами данных
16-битная конверсия Llama Guard 3 1B в MLX для генерации текста и локальной проверки безопасности контента на Apple Silicon.
Подходит для: проверка пользовательских запросов по категориям безопасности · проверка ответов чат-бота перед показом пользователю · локальный запуск Llama Guard на компьютерах Apple Silicon
DynaGuard-8B — дообученная языковая модель для проверки диалогов по пользовательским правилам и выдачи вердикта с объяснением.
Подходит для: Проверка ответов чат-бота на соответствие правилам продукта · Выявление обещаний возврата средств, которые бот не вправе выдавать · Контроль медицинского чат-бота на предмет несанкционированных рекомендаций
Модель IBM для оценки рисков в запросах и ответах, включая проверку релевантности и обоснованности ответов в RAG-системах.
Подходит для: проверка запросов на вредоносный контент и попытки обхода защит · проверка ответов модели на предвзятость, насилие и ненормативную лексику · обнаружение сексуального контента и неэтичного поведения
Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.
Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций
Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.
Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций
Предварительная дообученная модель Spark-X2.5-4B для выбора и вызова инструментов, ведения диалога и восстановления после ошибок в агентной среде Osaurus.
Подходит для: выбор между ответом пользователю и вызовом инструмента · выбор подходящего инструмента в Osaurus · восстановление после ошибок при выполнении инструментов