/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Лицензия
bsl-1.0
Архитектура
bert · dense
Базовая модель
model-bert__trained-in-ishate__seed-0
Библиотека
transformers
Опубликована
30 июл 2024

peace_bert

Классификация текстаТекст → label3 профессии

BERT-классификатор, дообученный на ISHate для выявления неявной ненависти в тексте.

577скачиваний за 30 дней2лайкавеса обновлены30 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

BenjaminOcampo/peace_bert — модель классификации текста для выявления неявной ненависти. Она создана на основе работы PEACE: Providing Explanations and Analysis for Combating Hate Expressions и дообучена на обучающей части набора ISHate, ориентированной на неявные проявления ненависти. Это модель семейства BERT с архитектурой BertForSequenceClassification, содержащая 136,7 млн параметров и принимающая текст длиной до 512 токенов.

Модель предназначена для автоматической проверки текстов на наличие неявной ненависти, например при анализе публикаций и сообщений. В карточке указано, что оценивались F1 и accuracy, но численные результаты не приведены. Обучение на конкретном наборе данных может ограничивать переносимость на другие жанры, языки и контексты. Лицензия — BSL-1.0.

Сценарии применения

  • выявление неявной ненависти в публикациях
  • проверка сообщений пользователей на скрытые проявления ненависти
  • первичная модерация текстового контента
  • анализ текстов для исследований языка ненависти

Ограничения

Обучена на обучающей части ISHate, поэтому качество на других языках, жанрах и контекстах может отличаться. Численные результаты оценки в карточке не приведены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model card documents the demo paper "PEACE: Providing Explanations and Analysis for Combating Hate Expressions" accepted at the 27th European Conference on Artificial Intelligence: https://www.ecai2024.eu/calls/demos.

The Model

This model is a hate speech detector fine-tuned specifically for detecting implicit hate speech. It is based on the paper "PEACE: Providing Explanations and Analysis for Combating Hate Expressions" by Greta Damo, Nicolás Benjamín Ocampo, Elena Cabrio, and Serena Villata, presented at the 27th European Conference on Artificial Intelligence.

Training Parameters and Experimental Info

The model was trained using the ISHate dataset, focusing on implicit data. Training parameters included:

  • Batch size: 32
  • Weight decay: 0.01
  • Epochs: 4
  • Learning rate: 2e-5

For detailed information on the training process, please refer to the model's paper.

Datasets

The model was trained on the ISHate dataset, specifically the training part of the dataset which focuses on implicit hate speech.

Evaluation Results

The model's performance was evaluated using standard metrics, including F1 score and accuracy. For comprehensive evaluation results, refer to the linked paper.

Authors:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
954253a

0 моделей