Official repo of GPTFuzzer. This model is a finetuned Roberta model to classify the toxicity of response, trained on a manually labeled dataset (see in finetuning data)
Характеристики
- Контекст
- 514 токенов
- Параметры
- 454 млн
- Лицензия
- MIT
- Архитектура
- roberta · dense
- Опубликована
- 20 сен 2023
Ссылки
GPTFuzz
Дообученная модель RoBERTa для классификации ответов по токсичности.
954скачиваний за 30 дней15лайковвеса обновлены26 окт 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
GPTFuzzer — модель классификации текста на основе RoBERTa, дообученная авторами репозитория для определения токсичности ответа. Она принимает текст и относит его к классам токсичности; модель рассчитана на автоматическую проверку ответов, например в фильтрах безопасности и при анализе текстовых данных.
Модель содержит 454,1 млн параметров, использует архитектуру RobertaForSequenceClassification и поддерживает контекст до 514 токенов. Она обучена на вручную размеченном наборе данных. Репозиторий распространяет веса в форматах PyTorch и Safetensors. Лицензия — MIT.
Сценарии применения
- проверка ответов чат-бота на токсичность
- фильтрация токсичных текстовых ответов
- разметка текстов по уровню токсичности
Ограничения
Контекст ограничен 514 токенами; подробности о классах и качестве классификации в предоставленной карточке не приведены.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейII.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232моделиII.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…
- Класс архитектуры
- RobertaForSequenceClassification
- Ревизия весов
- 5f7ef83