/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Архитектура
bert · dense
Опубликована
1 мая 2022

toxigen_hatebert

Классификация текстаТекст → label3 профессии

Англоязычный классификатор BERT для выявления неявных высказываний ненависти в тексте.

8 382скачиваний за 30 дней15лайковвеса обновлены2 мая 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель tomh/toxigen_hatebert создана на основе работы ToxiGen: A Large-Scale Machine-Generated Dataset for Adversarial and Implicit Hate Speech Detection. Авторы исследования — Thomas Hartvigsen, Saadia Gabriel, Hamid Palangi, Maarten Sap, Dipankar Ray и Ece Kamar. Это классификатор текста на архитектуре BERT с 136,7 млн параметров и контекстом до 512 токенов, предназначенный для выявления неявных высказываний ненависти.

Модель принимает текст и выдаёт результат классификации. Её можно применять для предварительного выявления неявных проявлений ненависти в пользовательских текстах и для анализа таких высказываний в исследовательских сценариях. В карточке указан английский язык; модель опубликована в формате PyTorch.

Классификатор ориентирован на неявную ненавистническую речь и может не распознавать все контексты, языки и формы выражения токсичности. Лицензия в предоставленных источниках не указана.

Сценарии применения

  • выявление неявной ненавистнической речи в пользовательских сообщениях
  • предварительная модерация текстового контента
  • анализ примеров неявной ненависти в исследованиях

Ограничения

Модель предназначена для выявления неявной ненавистнической речи, поэтому её результаты не следует считать полной оценкой токсичности или заменой проверки контекста. Лицензия и сведения о качестве классификации в предоставленных источниках не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Thomas Hartvigsen, Saadia Gabriel, Hamid Palangi, Maarten Sap, Dipankar Ray, Ece Kamar.

This model comes from the paper ToxiGen: A Large-Scale Machine-Generated Dataset for Adversarial and Implicit Hate Speech Detection and can be used to detect implicit hate speech.

Please visit the Github Repository for the training dataset and further details.

@inproceedings{hartvigsen2022toxigen,
    title = "{T}oxi{G}en: A Large-Scale Machine-Generated Dataset for Adversarial and Implicit Hate Speech Detection",
    author = "Hartvigsen, Thomas and Gabriel, Saadia and Palangi, Hamid and Sap, Maarten and Ray, Dipankar and Kamar, Ece",
    booktitle = "Proceedings of the 60th Annual Meeting of the Association of Computational Linguistics",
    year = "2022"
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
c260d78

0 моделей