Англоязычный классификатор Protect AI для выявления prompt injection в текстовых запросах к приложениям на базе LLM.
Подходит для: проверка пользовательских запросов на prompt injection перед передачей LLM · фильтрация вредоносных инструкций в чат-боте · маркировка текста как обычного запроса или обнаруженной инъекции
Англоязычный классификатор ProtectAI на базе DeBERTa-v3-base для обнаружения prompt injection в текстовых запросах.
Подходит для: проверка пользовательского ввода на prompt injection перед передачей LLM · фильтрация внедрённых инструкций во внешних документах и промптах · маркировка текста как обычного запроса или prompt injection
LimiX-2 — табличная модель StableAI для классификации, регрессии и заполнения пропущенных значений без дообучения под каждую задачу.
Подходит для: Классификация строк в табличном датасете · Прогнозирование числовых значений по табличным признакам · Заполнение пропущенных значений в таблицах
Текстовая модель IBM для выявления рисков и галлюцинаций в запросах, ответах, RAG-контексте и вызовах функций.
Подходит для: Проверка пользовательских запросов на вредоносный контент и попытки обхода ограничений · Оценка ответов чат-бота на вредный контент, предвзятость и ненормативную лексику · Проверка релевантности извлечённого контекста в RAG-системе
Генеративная модель на базе Qwen3Guard-Gen-0.6B для проверки запросов и действий ИИ-агентов на нарушения пользовательских политик с объяснением и идентификаторами нарушенных правил.
Подходит для: проверка пользовательских запросов по правилам безопасности приложения · аудит последовательности действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов заданной политики
Мультимодальная производная Gemma 4 для изучения поведения отказов и оценки следования текстовым и графическим инструкциям.
Подходит для: изучение избыточных отказов языковых моделей · оценка отказов в ответ на мультимодальные инструкции · проверка устойчивости следования инструкциям с изображениями
Англоязычный классификатор на базе DeBERTa-v3-base для обнаружения prompt injection и jailbreak-атак в запросах к LLM.
Подходит для: проверка пользовательских запросов перед передачей в LLM · обнаружение prompt injection в тексте · выявление jailbreak-запросов
AprielGuard — модель-модератор ServiceNow AI для выявления рисков безопасности контента и атак на LLM, включая prompt injection и jailbreak.
Подходит для: модерация запросов и ответов LLM-ассистента · оценка токсичности, предвзятости и дезинформации · выявление jailbreak и prompt injection
Компактная англоязычная модель Protect AI для классификации текстов с целью обнаружения атак prompt injection.
Подходит для: проверка пользовательских запросов на prompt injection · фильтрация вредоносных инструкций перед передачей запроса LLM · классификация текста как безопасного или содержащего prompt injection
PangolinGuard-Base — компактный классификатор ModernBERT для выявления prompt injection и других вредоносных запросов в AI-агентах и диалоговых системах.
Подходит для: обнаружение prompt injection в запросах к AI-агенту · выявление jailbreak-попыток в диалоговом интерфейсе · фильтрация вредоносного ввода перед передачей его языковой модели
Модифицированная компактная модель LiquidAI для исследования отказов и генерации текста в диалоге с пониженной склонностью отказывать на вредоносные запросы.
Подходит для: исследование механизмов отказа языковых моделей · red teaming диалоговых моделей · оценка устойчивости защитных механизмов на тестах вредоносных запросов
Модель IBM для оценки рисков в запросах и ответах, включая проверку релевантности и обоснованности ответов в RAG-системах.
Подходит для: проверка запросов на вредоносный контент и попытки обхода защит · проверка ответов модели на предвзятость, насилие и ненормативную лексику · обнаружение сексуального контента и неэтичного поведения
Модель LiquidAI LFM2.5-1.2B с удалёнными отказами предназначена для диалоговых экспериментов и red teaming.
Подходит для: проверка устойчивости систем к запросам, на которые обычно следует отказ · исследование поведения языковой модели при удалённом механизме отказов · эксперименты с инструкционным диалогом на английском языке
Модель проверяет запросы и действия ИИ-агентов по пользовательским правилам безопасности и выдаёт объяснение с идентификаторами нарушенных правил.
Подходит для: проверка пользовательских запросов по внутренним правилам безопасности · аудит действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов политики
Экспериментально изменённая Gemma 2 2B для исследований отказов, интерпретируемости и оценки безопасности поведения языковых моделей.
Подходит для: исследование механизмов отказа языковых моделей · red teaming диалоговых моделей · оценка поведения на вредоносных запросах
Производная модели inclusionAI/SingGuard-NSFA-0.8B. Текстовая модель-охранник для обнаружения угроз безопасности в запросах к агентам и их ответах.
Подходит для: обнаружение prompt injection и jailbreak в запросах к агенту · выявление запросов на вредоносный код и кибератаки · перехват опасных вызовов инструментов и операций
Англоязычная модель GPT-NeoX от EleutherAI для исследовательского изучения генерации текста и влияния нефильтрованных данных предобучения на знания и безопасность LLM.
Подходит для: сравнение нефильтрованного предобучения с обучением на отфильтрованных данных · оценка знаний модели на структурированных бенчмарках · исследование обучения и динамики развития языковой модели
Классификатор на базе ModernBERT Large для выявления prompt injection и других вредоносных запросов в AI-агентах и чат-интерфейсах.
Подходит для: фильтрация prompt injection перед передачей запроса AI-агенту · обнаружение jailbreak-запросов в чат-интерфейсе · проверка пользовательского ввода на попытки обхода защитных правил
Компактная модель для восстановления повреждённых JSON-вызовов инструментов по фиксированной схеме в конвейерах агентной разработки.
Подходит для: исправление повреждённого JSON-вызова инструмента · восстановление объекта аргументов по заданной JSON-схеме · повторная генерация JSON после обратной связи о нарушении схемы
Компактная аблированная версия LiquidAI/LFM2.5-350M для исследований поведения отказов, red teaming и оценки защит языковых моделей.
Подходит для: исследование механизмов отказа языковой модели · проверка устойчивости защит на вредоносных запросах · red teaming диалоговой языковой модели
PeiYangMe-0.9 — дообученная языковая модель Tianjin University для генерации текста по задачам вычислительного катализа и дегидрирования пропана.
Подходит для: генерация текстовых ответов по вычислительному катализу · помощь в анализе дегидрирования пропана · обсуждение химических задач на китайском языке
Многоязычный бинарный классификатор Argilla для выявления ошибочных примеров в датасетах инструкций Alpaca и других instruction-following наборов данных.
Подходит для: Фильтрация некорректных примеров в датасете Alpaca · Поиск противоречивых или ошибочных ответов в наборах инструкций · Проверка качества инструкций и входных данных перед обучением LLM
Компактный англоязычный классификатор Bastion Soft для выявления prompt injection и jailbreak-атак в запросах и текстовых данных LLM-приложений.
Подходит для: проверка пользовательских запросов на prompt injection перед передачей LLM · обнаружение jailbreak-попыток в текстовых вводах · фильтрация инъекций в JSON, XML, логах и результатах инструментов
Производная модели ibm-granite/granite-guardian-4.1-8b. Модель IBM для бинарной проверки запросов и ответов LLM на безопасность, галлюцинации и заданные пользователем критерии.
Подходит для: выявление jailbreak-запросов и небезопасных ответов · проверка ответов RAG на соответствие найденным источникам · обнаружение галлюцинаций при вызове инструментов