/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Архитектура
roberta · dense
Опубликована
30 сен 2022

twitter-roberta-base-dec2021-tweet-topic-single-all

Классификация текстаТекст → label6 профессий

Модель RoBERTa для определения темы отдельного твита.

106скачиваний за 30 дней3лайкавеса обновлены30 сен 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель Cardiff NLP — дообученная версия cardiffnlp/twitter-roberta-base-dec2021 на наборе tweet_topic_single для классификации тем отдельных твитов. Она использует архитектуру RoBERTa с 151,8 млн параметров и принимает текст с контекстом до 514 токенов. В README приведены результаты на тестовой выборке test_2021: micro-F1 и accuracy около 0,895, macro-F1 около 0,801. Модель подходит для автоматической тематической разметки сообщений в Twitter и анализа их содержания. Лицензия в предоставленных данных не указана.

Сценарии применения

  • Автоматическая категоризация твитов по теме
  • Разметка потока сообщений для тематического анализа
  • Подготовка тематических метрик по публикациям в Twitter

Ограничения

Оценки приведены для тестовой выборки test_2021; качество на других периодах и типах текста может отличаться. Предназначение — классификация тем отдельных твитов, поэтому перенос на другие жанры текста не подтверждён.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

cardiffnlp/twitter-roberta-base-dec2021-tweet-topic-single-all

This model is a fine-tuned version of cardiffnlp/twitter-roberta-base-dec2021 on the tweet_topic_single. This model is fine-tuned on train_all split and validated on test_2021 split of tweet_topic. Fine-tuning script can be found here. It achieves the following results on the test_2021 set:

  • F1 (micro): 0.8948611931482575
  • F1 (macro): 0.800952410284692
  • Accuracy: 0.8948611931482575

Usage

from transformers import pipeline

pipe = pipeline("text-classification", "cardiffnlp/twitter-roberta-base-dec2021-tweet-topic-single-all")  
topic = pipe("Love to take night time bike rides at the jersey shore. Seaside Heights boardwalk. Beautiful weather. Wishing everyone a safe Labor Day weekend in the US.")
print(topic)

Reference


@inproceedings{dimosthenis-etal-2022-twitter,
    title = "{T}witter {T}opic {C}lassification",
    author = "Antypas, Dimosthenis  and
    Ushio, Asahi  and
    Camacho-Collados, Jose  and
    Neves, Leonardo  and
    Silva, Vitor  and
    Barbieri, Francesco",
    booktitle = "Proceedings of the 29th International Conference on Computational Linguistics",
    month = oct,
    year = "2022",
    address = "Gyeongju, Republic of Korea",
    publisher = "International Committee on Computational Linguistics"
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForSequenceClassification
Ревизия весов
f87b7fa

0 моделей