/ Модель

Характеристики

Контекст
512 токенов
Параметры
195 млн
Архитектура
bert · dense
Опубликована
4 ноя 2022

multilingual-sarcasm-detector

Классификация текстаТекст → label3 профессии

Многоязычная модель на BERT для определения сарказма в заголовках новостных статей.

128скачиваний за 30 дней7лайковвеса обновлены4 дек 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Multilingual Sarcasm Detector — модель классификации текста, разработанная Helin Ivan и дообученная на базе bert-base-multilingual-uncased. Она определяет, содержит ли заголовок новостной статьи сарказм, и возвращает один из двух классов: «саркастичный» или «не саркастичный», а также оценку уверенности. Модель основана на BERT и насчитывает 194,6 млн параметров; максимальная длина контекста — 512 токенов.

Обучающие данные включают англоязычный датасет заголовков новостей с Kaggle, нидерландские новостные материалы и итальянские заголовки; саркастические примеры собирались с сайтов De Speld и Lercio. В README указаны F1 87,23% и точность 88,30% для многоязычной модели. Она предназначена прежде всего для классификации новостных заголовков и может хуже работать на других жанрах, темах или языках. Лицензия в предоставленных данных не указана.

Сценарии применения

  • определение сарказма в заголовках новостей
  • фильтрация саркастичных новостных публикаций
  • разметка новостных заголовков по наличию сарказма

Ограничения

Модель обучена преимущественно на новостных заголовках на английском, нидерландском и итальянском языках, поэтому качество на других языках и типах текста может быть ниже. В README для многоязычной версии приведены F1 87,23% и точность 88,30%.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Multilingual Sarcasm Detector

Multilingual Sarcasm Detector is a text classification model built to detect sarcasm from news article titles. It is fine-tuned on bert-base-multilingual-uncased and the training data consists of ready-made datasets available on Kaggle as well scraped data from multiple newspapers in English, Dutch and Italian.

Labels: 0 -> Not Sarcastic; 1 -> Sarcastic

Source Data

Datasets:

Scraped data:

Training Dataset

Codebase:


Example of classification

from transformers import AutoModelForSequenceClassification
from transformers import AutoTokenizer
import string

def preprocess_data(text: str) -> str:
   return text.lower().translate(str.maketrans("", "", string.punctuation)).strip()

MODEL_PATH = "helinivan/multilingual-sarcasm-detector"

tokenizer = AutoTokenizer.from_pretrained(MODEL_PATH)
model = AutoModelForSequenceClassification.from_pretrained(MODEL_PATH)

text = "CIA Realizes It's Been Using Black Highlighters All These Years."
tokenized_text = tokenizer([preprocess_data(text)], padding=True, truncation=True, max_length=256, return_tensors="pt")
output = model(**tokenized_text)
probs = output.logits.softmax(dim=-1).tolist()[0]
confidence = max(probs)
prediction = probs.index(confidence)
results = {"is_sarcastic": prediction, "confidence": confidence}

Output:

{'is_sarcastic': 1, 'confidence': 0.9374828934669495}

Performance

Model-NameF1PrecisionRecallAccuracy
helinivan/english-sarcasm-detector 92.3892.7592.3892.42
helinivan/italian-sarcasm-detector 88.2687.6689.6688.69
helinivan/multilingual-sarcasm-detector 87.2388.6586.3388.30
helinivan/dutch-sarcasm-detector 83.0284.2782.0186.81

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
832f28e

0 моделей