MD-Judge — дообученная на Mistral-7B модель для оценки безопасности пар вопрос–ответ и анализа ответов языковых моделей.
Подходит для: оценка безопасности ответов чат-бота · классификация пар вопрос–ответ по безопасности · проверка ответов на токсичный или вредоносный контент
Компактная модель Meta для проверки запросов и ответов LLM на небезопасное содержание по таксономии MLCommons.
Подходит для: модерация запросов к чат-боту · проверка ответов языковой модели перед показом пользователю · маркировка опасного текста по категориям нарушений
Англоязычный классификатор Protect AI для выявления prompt injection в текстовых запросах к приложениям на базе LLM.
Подходит для: проверка пользовательских запросов на prompt injection перед передачей LLM · фильтрация вредоносных инструкций в чат-боте · маркировка текста как обычного запроса или обнаруженной инъекции
Компактная модель Meta для классификации запросов и ответов по категориям безопасности контента.
Подходит для: проверка пользовательских запросов перед передачей языковой модели · модерация ответов чат-бота по категориям опасного контента · разметка небезопасного контента для систем фильтрации
Экспериментально изменённая разговорная GPT-OSS-модель для исследований механизмов отказа и тестирования безопасности.
Подходит для: оценка механизмов отказа языковой модели · red teaming разговорных LLM · исследование поведения экспертов MoE на опасных запросах
Англоязычная модель GPT-NeoX из исследовательского набора EleutherAI для изучения фильтрации обучающих данных и устойчивости защит LLM.
Подходит для: сравнение влияния фильтрации данных предварительного обучения на знания модели · оценка сохранения общих способностей после удаления рискованных данных · исследование устойчивости защитных механизмов к вмешательству
Модель ModernBERT для классификации англоязычных запросов как обычных или содержащих jailbreak и prompt injection.
Подходит для: проверка запросов пользователей на jailbreak перед обработкой LLM · обнаружение prompt injection в текстовых инструкциях · фильтрация коротких jailbreak-шаблонов
Дообученная GLiNER2-модель для zero-shot классификации безопасности, обнаружения атак и извлечения персональных данных в сообщениях.
Подходит для: классификация сообщений как безопасных или вредоносных · обнаружение персональных данных и контактных сведений в тексте · выявление prompt injection и jailbreak-атак
AprielGuard — модель-модератор ServiceNow AI для выявления рисков безопасности контента и атак на LLM, включая prompt injection и jailbreak.
Подходит для: модерация запросов и ответов LLM-ассистента · оценка токсичности, предвзятости и дезинформации · выявление jailbreak и prompt injection
Дообученный чекпойнт OpenVLA для предсказания действий робота по изображениям и инструкциям в пространственных задачах LIBERO.
Подходит для: управление роботом по визуальному наблюдению и текстовой инструкции · генерация последовательности действий для пространственных задач LIBERO · эксперименты с vision-language-action моделями
Модель ModernBERT для классификации английского текста и выявления jailbreak- и prompt injection-запросов в контекстах длиной до 32 768 токенов.
Подходит для: проверка пользовательских запросов на jailbreak перед передачей LLM · выявление попыток prompt injection в длинном тексте · фильтрация вредоносных инструкций в текстовых входах
Дообученная на базе DeepSeek-R1-Distill-Llama-8B модель Llama для генерации неотфильтрованных диалоговых ответов и исследований поведения ИИ.
Подходит для: изучение поведения языковых моделей без фильтров безопасности · тестирование модерации и систем защиты контента · проверка ответов ИИ на провокационные запросы
Экспериментальная мультимодальная модель Qwen, полученная слиянием нескольких чекпойнтов для профессиональных исследований безопасности ИИ и анализа рисков злоупотребления.
Подходит для: оценка риска содействия преступлениям со стороны ИИ · red teaming мультимодальных языковых моделей · анализ потенциально вредоносных ответов в рамках исследований безопасности
Модель оценивает безопасность сообщений в диалоге и выдаёт детализированное суждение с текстовым обоснованием.
Подходит для: проверка ответов чат-бота на вредоносный контент · оценка безопасности сообщений ИИ-агента в контексте разговора · сравнение моделей на тестах безопасности
Мультимодальная модель на базе Qwen3-VL-8B-Thinking выявляет контекстные риски в бытовых задачах для систем воплощённых агентов и робототехники.
Подходит для: оценка риска бытового действия по изображению и инструкции · поиск скрытых опасностей в окружении домашнего робота · проверка безопасности плана действий перед выполнением
Производная модели AI45Research/AgentDoG1.5-Qwen3.5-4B. Модель классифицирует траектории ИИ-агентов по безопасности и диагностирует типы рисков в небезопасных действиях.
Подходит для: проверка траекторий действий ИИ-агента на безопасность · выявление небезопасного использования инструментов агентом · определение типа сбоя в действиях агента
OpenVLA-OFT — зрительно-языковая модель управления роботом, дообученная для манипуляционных задач LIBERO-Object.
Подходит для: предсказание действий робота по изображению сцены и текстовой инструкции · манипуляция объектами в задачах LIBERO-Object · генерация последовательности действий робота для симуляции
Двуязычная модель ChatGLM для выявления и объяснения проблем безопасности в текстовых ответах языковых моделей.
Подходит для: Проверка ответов чат-бота на нарушения правил безопасности · Классификация небезопасных генераций LLM · Объяснение причин срабатывания проверки безопасности
Кибербезопасностная модель на основе Mistral-7B для локальной оценки рисков, моделирования угроз и задач GRC.
Подходит для: оценка киберрисков систем ИИ · генерация сценариев угроз для Blue Team · подготовка сценариев Red Team
Производная модели AI45Research/AgentDoG1.5-Qwen3.5-4B. Модель классифицирует траектории ИИ-агентов по безопасности и диагностирует типы рисков в небезопасных действиях.
Подходит для: проверка траекторий действий ИИ-агента на безопасность · выявление небезопасного использования инструментов агентом · определение типа сбоя в действиях агента
Англоязычный классификатор GLiClass для фильтрации запросов и ответов LLM, выявления токсичности, jailbreak-атак и другого вредоносного содержимого.
Подходит для: проверка запросов пользователей перед передачей LLM · модерация ответов LLM перед показом пользователям · выявление jailbreak-атак и prompt injection
16-битная конверсия Llama Guard 3 1B в MLX для генерации текста и локальной проверки безопасности контента на Apple Silicon.
Подходит для: проверка пользовательских запросов по категориям безопасности · проверка ответов чат-бота перед показом пользователю · локальный запуск Llama Guard на компьютерах Apple Silicon
Дообученная OpenVLA-OFT для предсказания действий робота по изображению и текстовой инструкции в задачах LIBERO-10.
Подходит для: управление роботом в задачах LIBERO-10 · предсказание последовательности действий по изображению сцены и инструкции · эксперименты с роботизированными манипуляциями
Экспериментальный сжатый чекпойнт Llama-3-8B-Instruct для исследования безопасности и полезности языковой модели после сжатия.
Подходит для: Сравнение безопасности модели до и после сжатия · Оценка устойчивости к атакам на бенчмарках безопасности · Исследование влияния перестановки параметров на поведение модели