/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Архитектура
roberta · dense
Опубликована
1 дек 2022

twitter-roberta-base-2021-124m-sentiment

Классификация текстаТекст → label3 профессии

Модель Cardiff NLP на базе RoBERTa определяет тональность твитов и других коротких текстов.

84скачиваний за 30 дней0лайковвеса обновлены2 дек 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

cardiffnlp/twitter-roberta-base-2021-124m-sentiment — модель Cardiff NLP на базе RoBERTa, дообученная для классификации тональности сообщений в Twitter. Она предназначена для определения тональности твитов и коротких текстов в сценариях анализа пользовательских публикаций и социальных сетей. Модель содержит 151,8 млн параметров, принимает текст с контекстом до 514 токенов и выдаёт метку класса тональности. В README приведены результаты на тестовой части tweet_eval: micro-F1 0,713, macro-F1 0,716 и accuracy 0,713.

Модель обучена на обучающей части tweet_eval (sentiment), а параметры подбирались на валидационной части. Она рассчитана на короткие сообщения, подобные публикациям в Twitter; качество и применимость к другим жанрам текста могут отличаться. Сведения о лицензии в предоставленных данных отсутствуют.

Сценарии применения

  • определение тональности твитов
  • анализ настроений в публикациях соцсетей
  • классификация пользовательских отзывов по тональности

Ограничения

Модель дообучена на tweet_eval для тональности Twitter и может хуже работать на текстах другого жанра. На тестовой части датасета указана accuracy 0,713 и macro-F1 0,716.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

cardiffnlp/twitter-roberta-base-2021-124m-sentiment

This model is a fine-tuned version of cardiffnlp/twitter-roberta-base-2021-124m on the tweet_eval (sentiment) via tweetnlp. Training split is train and parameters have been tuned on the validation split validation.

Following metrics are achieved on the test split test (link).

  • F1 (micro): 0.7133669814392706
  • F1 (macro): 0.7158353597305398
  • Accuracy: 0.7133669814392706

Usage

Install tweetnlp via pip.

pip install tweetnlp

Load the model in python.

import tweetnlp
model = tweetnlp.Classifier("cardiffnlp/twitter-roberta-base-2021-124m-sentiment", max_length=128)
model.predict('Get the all-analog Classic Vinyl Edition of "Takin Off" Album from {@herbiehancock@} via {@bluenoterecords@} link below {{URL}}')

Reference

@inproceedings{camacho-collados-etal-2022-tweetnlp,
    title={{T}weet{NLP}: {C}utting-{E}dge {N}atural {L}anguage {P}rocessing for {S}ocial {M}edia},
    author={Camacho-Collados, Jose and Rezaee, Kiamehr and Riahi, Talayeh and Ushio, Asahi and Loureiro, Daniel and Antypas, Dimosthenis and Boisson, Joanne and Espinosa-Anke, Luis and Liu, Fangyu and Mart{'\i}nez-C{'a}mara, Eugenio and others},
    author = "Ushio, Asahi  and
      Camacho-Collados, Jose",
    booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing: System Demonstrations",
    month = nov,
    year = "2022",
    address = "Abu Dhabi, U.A.E.",
    publisher = "Association for Computational Linguistics",
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForSequenceClassification
Ревизия весов
a516094

0 моделей