Классификатор HarmAug-Guard оценивает безопасность текстовых диалогов с LLM и помогает выявлять jailbreak-атаки.

Подходит для: проверка диалогов с LLM на небезопасное содержание · обнаружение попыток jailbreak в запросах · фильтрация опасных пользовательских сообщений