Англоязычная RoBERTa-модель для классификации текста и выявления ненавистнической речи в онлайн-контенте.
101 тыс.скачиваний за 30 дней102лайкавеса обновлены16 мар 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
LFTW R4 Target — модель классификации текста на базе архитектуры RoBERTa, связанная с исследованием Learning from the Worst: Dynamically Generated Datasets to Improve Online Hate Detection. Она предназначена для выявления оскорбительной и ненавистнической речи в тексте, в том числе в сценариях онлайн-модерации. Модель содержит 151,8 млн параметров, принимает последовательности длиной до 514 токенов и доступна в форматах PyTorch и Safetensors.
Модель рассчитана на англоязычные тексты. Карточка не сообщает подробностей о классах меток и показателях качества. Условия лицензии в предоставленных сведениях не указаны.
Сценарии применения
выявление ненавистнических высказываний в комментариях
фильтрация токсичных сообщений в онлайн-сообществах
предварительная сортировка публикаций для модерации
анализ англоязычного пользовательского контента
Ограничения
Карточка не приводит метрики качества или подробное описание классов; контекст ограничен 514 токенами. Предназначение модели связано с обнаружением онлайн-языка ненависти, поэтому её выводы не следует считать универсальной оценкой текста.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
@inproceedings{vidgen2021lftw,
title={Learning from the Worst: Dynamically Generated Datasets to Improve Online Hate Detection},
author={Bertie Vidgen and Tristan Thrush and Zeerak Waseem and Douwe Kiela},
booktitle={ACL},
year={2021}
}
Thanks to Kushal Tirumala and Adina Williams for helping the authors put the model on the hub!
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров