Характеристики
- Контекст
- 512 токенов
- Лицензия
- Apache 2.0
- Архитектура
- distilbert · dense
- Библиотека
- transformers
- Опубликована
- 17 июл 2023
Ссылки
distilbert-prompt-injection
Дообученный DistilBERT для классификации текста и обнаружения prompt injection на английском, немецком и испанском языках.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
fmops/distilbert-prompt-injection — модель классификации текста от Foundation Model Operations Company (FMOPS), предназначенная для обнаружения prompt injection. Она относит текст к классам с помощью DistilBERT, дообученного для sequence classification; в карточке указано 67 млн параметров и контекст до 512 токенов. Модель рассчитана на английский, немецкий и испанский языки.
Её можно использовать для проверки пользовательского ввода или текстовых фрагментов перед передачей языковой модели, чтобы отмечать потенциальные prompt injection. Модель работает с текстом и выдаёт метки классификации. Лицензия — Apache-2.0. Карточка модели не описывает метрики качества; результаты классификации следует оценивать с учётом собственного сценария и данных.
Сценарии применения
- проверка пользовательского текста на prompt injection
- фильтрация подозрительных инструкций перед передачей LLM
- классификация текстовых фрагментов для защиты LLM-приложений
Ограничения
Контекст ограничен 512 токенами. Карточка не приводит метрики качества, поэтому надёжность обнаружения для конкретных типов атак и данных по ней оценить нельзя.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers · text-classification
Подбираем GPU…
- Класс архитектуры
- DistilBertForSequenceClassification
- Ревизия весов
- c5da1fe