Модель классифицирует текст и выявляет попытки prompt injection для фильтрации входов в системах на базе LLM.

Подходит для: фильтрация входов перед передачей запросов языковой модели · обнаружение prompt injection в пользовательском тексте · проверка содержимого для prompt firewall

Многоязычный классификатор на базе XLM-RoBERTa выявляет prompt injection в текстовых входах для приложений с LLM.

Подходит для: фильтрация prompt injection в запросах к LLM · проверка пользовательского текста перед передачей модели · маркировка текстов как безопасных или содержащих попытку внедрения инструкций