/ Модель

Характеристики

Контекст
512 токенов
Параметры
195 млн
Лицензия
Apache 2.0
Архитектура
bert · dense

dehatebert-mono-spanish

Классификация текстаТекст → label3 профессии

Дообученная BERT-модель для классификации испаноязычных текстов с целью выявления языка вражды.

119скачиваний за 30 дней7лайковвеса обновлены25 сен 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Hate-speech-CNERG/dehatebert-mono-spanish — модель классификации текста для выявления ненавистнических высказываний на испанском языке. Она разработана для задачи обнаружения языка вражды и описана в работе «Deep Learning Models for Multilingual Hate Speech Detection», принятой на ECML-PKDD 2020.

Модель построена на архитектуре BERT и дообучена на мультиязычной BERT-модели. В названии «mono» обозначает монолингвальную настройку: обучение проводилось только на данных английского языка, хотя модель предназначена для выявления языка вражды в испанском. Контекст составляет до 512 токенов; доступны версии в форматах PyTorch и Flax.

В README приведён лучший результат валидации 0,740287 при скорости обучения 3e-5, но не указана метрика, поэтому это число не следует напрямую трактовать как точность. Модель распространяется по лицензии Apache-2.0; авторы просят цитировать научную работу при публикации результатов с её использованием.

Сценарии применения

  • выявление языка вражды в испаноязычных сообщениях
  • фильтрация оскорбительных и ненавистнических публикаций на испанском языке
  • разметка испанских текстов для анализа токсичной речи
  • подготовка выборок испаноязычных высказываний для модерации

Ограничения

README приводит значение лучшего результата валидации, но не называет метрику, поэтому его интерпретация ограничена. Хотя модель предназначена для испанского языка, в README указано, что обучение проводилось только на английских данных.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is used detecting hatespeech in Spanish language. The mono in the name refers to the monolingual setting, where the model is trained using only English language data. It is finetuned on multilingual bert model. The model is trained with different learning rates and the best validation score achieved is 0.740287 for a learning rate of 3e-5. Training code can be found at this url

For more details about our paper

Sai Saketh Aluru, Binny Mathew, Punyajoy Saha and Animesh Mukherjee. "Deep Learning Models for Multilingual Hate Speech Detection". Accepted at ECML-PKDD 2020.

Please cite our paper in any published work that uses any of these resources.

@article{aluru2020deep,
  title={Deep Learning Models for Multilingual Hate Speech Detection},
  author={Aluru, Sai Saket and Mathew, Binny and Saha, Punyajoy and Mukherjee, Animesh},
  journal={arXiv preprint arXiv:2004.06465},
  year={2020}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
2b9664a

0 моделей