/ Модель

Характеристики

Контекст
514 токенов
Параметры
305 млн
Лицензия
Apache 2.0
Архитектура
xlm-roberta · dense

multilingual-sentiment-covid19

Классификация текстаТекст → label3 профессии

Мультиязычная модель на базе XLM-RoBERTa классифицирует тональность коротких текстов, особенно твитов о COVID-19, как позитивную или негативную.

31скачиваний за 30 дней5лайковвеса обновлены14 дек 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Мультиязычная модель анализа тональности коротких текстов, разработанная для классификации твитов о COVID-19. Она основана на XLM-RoBERTa и дообучена для sequence classification на 18 437 530 мультиязычных твитах, собранных с марта 2020 по ноябрь 2021 года. Модель относит текст к одному из двух классов: positive или negative; метки в обучающих данных автоматически назначались по наличию позитивных и негативных эмотиконов.

Модель подходит для оценки тональности сообщений о COVID-19 и анализа больших массивов коротких публикаций на разных языках. Число параметров — 305,2 млн, контекст — до 514 токенов. Базовая модель — sentence-transformers/stsb-xlm-r-multilingual; веса доступны в формате PyTorch. Лицензия — Apache-2.0.

Сценарии применения

  • определение позитивной или негативной тональности твитов о COVID-19
  • мониторинг общественных настроений по мультиязычным публикациям
  • классификация тональности коротких сообщений в социальных сетях

Ограничения

Модель выдаёт только метки positive и negative и обучалась на автоматически размеченных COVID-19-твитах, поэтому её результаты могут хуже переноситься на другие темы, жанры и нейтральные тексты. Контекст ограничен 514 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Multi-lingual sentiment prediction trained from COVID19-related tweets

Repository: https://github.com/clampert/multilingual-sentiment-analysis/

Model trained on a large-scale (18437530 examples) dataset of multi-lingual tweets that was collected between March 2020 and November 2021 using Twitter’s Streaming API with varying COVID19-related keywords. Labels were auto-general based on the presence of positive and negative emoticons. For details on the dataset, see our IEEE BigData 2021 publication.

Base model is sentence-transformers/stsb-xlm-r-multilingual. It was finetuned for sequence classification with positive and negative labels for two epochs (48 hours on 8xP100 GPUs).

Citation

If you use our model your work, please cite:

@inproceedings{lampert2021overcoming,
  title={Overcoming Rare-Language Discrimination in Multi-Lingual Sentiment Analysis},
  author={Jasmin Lampert and Christoph H. Lampert},
  booktitle={IEEE International Conference on Big Data (BigData)},
  year={2021},
  note={Special Session: Machine Learning on Big Data},
}

Enjoy!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForSequenceClassification
Ревизия весов
eea3f8e

0 моделей