/ Модель

Характеристики

Контекст
514 токенов
Параметры
454 млн
Архитектура
roberta · dense
Опубликована
1 мая 2022

toxigen_roberta

Классификация текстаТекст → label3 профессии

Модель RoBERTa для классификации английских текстов с целью выявления неявной речи ненависти.

12 223скачиваний за 30 дней10лайковвеса обновлены1 мая 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

tomh/toxigen_roberta — модель классификации текста, связанная с работой Томаса Хартвигсена, Саадии Габриэль, Хамида Паланги, Маартена Сапа, Дипанкара Рэя и Эсе Камар о наборе данных ToxiGen. Модель предназначена для выявления неявной речи ненависти и обучена для задачи adversarial и implicit hate speech detection.

Это модель семейства RoBERTa с архитектурой RobertaForSequenceClassification, содержащая 454,1 млн параметров и принимающая текстовые последовательности длиной до 514 токенов. В метаданных указан английский язык и формат PyTorch.

Модель может помогать при анализе текстов на предмет неявной ненависти, однако карточка не описывает её качество, пороги классификации или поведение на других языках. Для обучения и подробностей о наборе данных README отсылает к репозиторию GitHub. Лицензия в предоставленных данных не указана.

Сценарии применения

  • выявление неявной речи ненависти в текстах
  • первичная модерация пользовательских сообщений
  • анализ текстов на наличие скрытых оскорблений и ненавистнических высказываний

Ограничения

В карточке заявлено выявление неявной речи ненависти, но не приведены метрики качества или сведения о калибровке. Поддержка указана для английского языка, поэтому пригодность для других языков не подтверждена.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Thomas Hartvigsen, Saadia Gabriel, Hamid Palangi, Maarten Sap, Dipankar Ray, Ece Kamar.

This model comes from the paper ToxiGen: A Large-Scale Machine-Generated Dataset for Adversarial and Implicit Hate Speech Detection and can be used to detect implicit hate speech.

Please visit the Github Repository for the training dataset and further details.

@inproceedings{hartvigsen2022toxigen,
    title = "{T}oxi{G}en: A Large-Scale Machine-Generated Dataset for Adversarial and Implicit Hate Speech Detection",
    author = "Hartvigsen, Thomas and Gabriel, Saadia and Palangi, Hamid and Sap, Maarten and Ray, Dipankar and Kamar, Ece",
    booktitle = "Proceedings of the 60th Annual Meeting of the Association of Computational Linguistics",
    year = "2022"
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForSequenceClassification
Ревизия весов
0e65216

0 моделей