Производная модели jackhhao/jailbreak-classifier. Дообученный BERT-классификатор определяет, является ли английский запрос попыткой jailbreak или безопасным текстом.

Подходит для: фильтрация запросов для обнаружения jailbreak · первичная проверка промптов на обход защитных ограничений · классификация запросов перед передачей языковой модели