/ Модель

Характеристики

Контекст
512 токенов
Параметры
195 млн
Архитектура
bert · dense

dehatebert-mono-indonesian

Классификация текстаТекст → label3 профессии

BERT-классификатор для выявления языка ненависти в текстах на индонезийском языке.

29скачиваний за 30 дней5лайковвеса обновлены18 мая 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

dehatebert-mono-indonesian — модель классификации текста для выявления языка ненависти в сообщениях на индонезийском языке. Авторы карточки указывают, что она дообучена на multilingual BERT в монолингвальном режиме. Метаданные описывают архитектуру как BERT с классификационной головой BertForSequenceClassification и содержат веса в форматах PyTorch и Flax; размер модели — 194,6 млн параметров, максимальная длина контекста — 512 токенов.

Модель предназначена для автоматической модерации и анализа индонезоязычных сообщений, содержащих язык ненависти. В README приведён лучший результат на валидации — 0,844494 при learning rate 2e-5, однако сама метрика не уточнена. Карточка ссылается на исследование о многоязычном выявлении языка ненависти, опубликованное в рамках ECML-PKDD 2020. Лицензия в предоставленных данных не указана.

Сценарии применения

  • фильтрация индонезийских сообщений с языком ненависти
  • модерация комментариев в социальных сетях на индонезийском языке
  • предварительная сортировка пользовательских публикаций для проверки модератором

Ограничения

Модель ориентирована на индонезийский язык и ограничена контекстом в 512 токенов. В README указан результат 0,844494, но не названа метрика, поэтому его нельзя напрямую интерпретировать или сопоставлять с другими моделями.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is used detecting hatespeech in Indonesian language. The mono in the name refers to the monolingual setting, where the model is trained using only Arabic language data. It is finetuned on multilingual bert model. The model is trained with different learning rates and the best validation score achieved is 0.844494 for a learning rate of 2e-5. Training code can be found at this url

For more details about our paper

Sai Saketh Aluru, Binny Mathew, Punyajoy Saha and Animesh Mukherjee. "Deep Learning Models for Multilingual Hate Speech Detection". Accepted at ECML-PKDD 2020.

Please cite our paper in any published work that uses any of these resources.

@article{aluru2020deep,
  title={Deep Learning Models for Multilingual Hate Speech Detection},
  author={Aluru, Sai Saket and Mathew, Binny and Saha, Punyajoy and Mukherjee, Animesh},
  journal={arXiv preprint arXiv:2004.06465},
  year={2020}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
08693d6

0 моделей