PromptShield — англоязычный классификатор на базе DistilBERT для выявления атак с внедрением промптов в приложениях с LLM.

Подходит для: проверка запросов пользователей на prompt injection перед передачей LLM · обнаружение попыток извлечь системный промпт · фильтрация jailbreak-попыток и переопределения инструкций