Небольшая англоязычная BERT-модель классифицирует текст для предварительного обнаружения атак насыщением в запросах.

Подходит для: предварительная фильтрация запросов на предмет атак насыщением · классификация английских промптов для выявления saturation jailbreak · добавление детектора атак насыщением в многоуровневую систему защиты

Модель Guardrails AI для классификации текстовых пар и проверки того, подтверждается ли утверждение исходным контекстом.

Подходит для: проверка фактологической обоснованности ответов LLM · оценка связи ответа с найденными фрагментами RAG · выявление неподтверждённых утверждений

Многоязычная модель Fastino для обнаружения и маскирования персональных данных, а также проверки текстов на токсичность, небезопасное содержание и jailbreak-атаки.

Подходит для: поиск и маскирование персональных данных в пользовательских сообщениях · проверка запросов к LLM на небезопасное содержание · модерация токсичных запросов и ответов

Компактная модель FrontiersMind для выявления небезопасных запросов и ответов ИИ на английском и хинди.

Подходит для: проверка пользовательских запросов на небезопасное содержание · проверка ответов чат-бота на нарушения политик · фильтрация диалогов по категориям вреда

Дообученная модель эмбеддингов Qwen3 для поиска нормативных документов об управлении ИИ и соблюдении требований в RAG-системах.

Подходит для: поиск фрагментов EU AI Act по пользовательскому запросу · извлечение требований NIST для RAG-системы · поиск нормативов кибербезопасности

Компактная англо-хинди модель для выявления небезопасного содержимого в запросах пользователей и ответах ИИ.

Подходит для: Проверка пользовательских запросов на небезопасное содержимое · Модерация ответов чат-бота перед отправкой пользователю · Классификация текста по категориям вреда

Дообученный классификатор DeBERTa-v3-base определяет, относится ли текст к безопасному или небезопасному содержимому.

Подходит для: Классификация запросов как безопасных или небезопасных · Выявление вредоносных инструкций в пользовательских сообщениях · Проверка токсичных и потенциально ненавистнических высказываний

Китайскоязычная модель Xiangxin AI для выявления нарушений контентной политики, prompt injection и jailbreak в диалогах.

Подходит для: Проверка китайских обращений в службу поддержки на нарушения контентной политики · Обнаружение prompt injection во входных данных для языковой модели · Выявление jailbreak-запросов в диалогах

Лёгкий классификатор DistilBERT для бинарной оценки текста как безопасного или небезопасного, предназначенный для исследовательских сравнений в модерации контента.

Подходит для: классификация текста по признаку безопасный или небезопасный · исследовательская оценка нейросетевой модерации контента · сравнение качества DistilBERT и других классификаторов безопасности