prompt-tackler
cgoosen·Классификация текста
Дообученный классификатор DeBERTa для обнаружения атак prompt injection в тексте.
Подходит для: проверка пользовательского ввода на prompt injection · фильтрация запросов перед отправкой языковой модели · классификация текстов с попытками обхода системных инструкций
Загрузки на Hugging Face · 104Лайки · 0Контекст · 512 токеновВыход на Hugging Face · 1 ноя 2024