/ Модель

Характеристики

Контекст
514 токенов
Параметры
659 млн
Архитектура
xlm-roberta · dense

xlm_roberta_large-ru-sentiment-rusentiment

Классификация текстаТекст → label3 профессии

Модель на базе XLM-RoBERTa-Large, дообученная на русскоязычных публикациях VKontakte для классификации тональности текста.

130скачиваний за 30 дней3лайкавеса обновлены25 фев 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

XLM-RoBERTa-Large-ru-sentiment-RuSentiment — русскоязычная модель классификации текста, разработанная на основе XLM-RoBERTa-Large и дообученная на наборе RuSentiment. Датасет содержит публикации общего характера из социальной сети ВКонтакте. Модель предназначена для определения тональности русскоязычных постов и других коротких текстов.

Модель использует архитектуру XLM-RoBERTa для классификации последовательностей и содержит 658,7 млн параметров. Её нативная длина контекста — 514 токенов; доступны веса в формате PyTorch. Карточка приводит результаты сравнения на нескольких задачах, но конкретные оценки в предоставленном тексте опущены.

Модель подойдёт для анализа тональности публикаций в социальных сетях и исследовательской работы с русскоязычными текстами. Лицензия в предоставленных данных не указана.

Сценарии применения

  • определение тональности постов во ВКонтакте
  • анализ тональности русскоязычных публикаций в соцсетях
  • классификация отзывов на русском языке
  • разметка тональности коротких русскоязычных текстов

Ограничения

Контекст ограничен 514 токенами; модель дообучена на публикациях из ВКонтакте, поэтому её точность на других типах текстов может отличаться. Конкретные оценки качества и условия лицензии в предоставленных данных не приведены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

XML-RoBERTa-Large-ru-sentiment-RuSentiment

XML-RoBERTa-Large-ru-sentiment-RuSentiment is a XML-RoBERTa-Large model fine-tuned on RuSentiment dataset of general-domain Russian-language posts from the largest Russian social network, VKontakte.

The table shows per-task scores and a macro-average of those scores to determine a models’s position on the leaderboard. For datasets with multiple evaluation metrics (e.g., macro F1 and weighted F1 for RuSentiment), we use an unweighted average of the metrics as the score for the task when computing the overall macro-average. The same strategy for comparing models’ results was applied in the GLUE benchmark.

Citation

If you find this repository helpful, feel free to cite our publication:

@article{Smetanin2021Deep,
  author = {Sergey Smetanin and Mikhail Komarov},
  title = {Deep transfer learning baselines for sentiment analysis in Russian},
  journal = {Information Processing & Management},
  volume = {58},
  number = {3},
  pages = {102484},
  year = {2021},
  issn = {0306-4573},
  doi = {0.1016/j.ipm.2020.102484}
}

Dataset:

@inproceedings{rogers2018rusentiment,
  title={RuSentiment: An enriched sentiment analysis dataset for social media in Russian},
  author={Rogers, Anna and Romanov, Alexey and Rumshisky, Anna and Volkova, Svitlana and Gronas, Mikhail and Gribov, Alex},
  booktitle={Proceedings of the 27th international conference on computational linguistics},
  pages={755--763},
  year={2018}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForSequenceClassification
Ревизия весов
30e2af4

0 моделей