/ Модель

Характеристики

Контекст
512 токенов
Параметры
195 млн
Лицензия
Apache 2.0
Архитектура
bert · dense

dehatebert-mono-english

Классификация текстаТекст → label3 профессии

Англоязычная модель на базе multilingual BERT для классификации текста и выявления языка ненависти.

10 261скачиваний за 30 дней13лайковвеса обновлены25 сен 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Hate-speech-CNERG/dehatebert-mono-english — англоязычная модель классификации текста для выявления hate speech. Её разработали авторы исследования о многоязычном распознавании языка ненависти; версия mono обучалась только на англоязычных данных и дообучена на multilingual BERT. Модель использует архитектуру BERT для классификации последовательностей, содержит 194,6 млн параметров и принимает текст длиной до 512 токенов.

Модель предназначена для автоматической проверки англоязычных сообщений и публикаций на наличие языка ненависти, в том числе как компонента модерации или исследовательского анализа. В работе для лучшего результата на валидации использовалась скорость обучения 2e-5; указанный результат — 0,726030, без уточнения метрики в карточке. Распространяется по лицензии Apache-2.0.

Сценарии применения

  • выявление языка ненависти в англоязычных сообщениях
  • предварительная фильтрация публикаций для модерации
  • анализ англоязычных комментариев в соцсетях
  • классификация текстов для исследований токсичной речи

Ограничения

Модель обучалась только на английских данных и не рассчитана на другие языки. В карточке приведён результат 0,726030 на валидации для выбранной скорости обучения, но не названа метрика, поэтому качество для конкретного сценария следует оценивать отдельно.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is used detecting hatespeech in English language. The mono in the name refers to the monolingual setting, where the model is trained using only English language data. It is finetuned on multilingual bert model. The model is trained with different learning rates and the best validation score achieved is 0.726030 for a learning rate of 2e-5. Training code can be found here https://github.com/punyajoy/DE-LIMIT

For more details about our paper

Sai Saketh Aluru, Binny Mathew, Punyajoy Saha and Animesh Mukherjee. "Deep Learning Models for Multilingual Hate Speech Detection". Accepted at ECML-PKDD 2020.

Please cite our paper in any published work that uses any of these resources.

@article{aluru2020deep,
  title={Deep Learning Models for Multilingual Hate Speech Detection},
  author={Aluru, Sai Saket and Mathew, Binny and Saha, Punyajoy and Mukherjee, Animesh},
  journal={arXiv preprint arXiv:2004.06465},
  year={2020}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
25d0e4d

0 моделей