/ Модель

Характеристики

Контекст
514 токенов
Параметры
305 млн
Лицензия
MIT
Архитектура
xlm-roberta · dense
Опубликована
2 мар 2022

sentiment-hts5-xlm-roberta-hungarian

Классификация текстаТекст → label4 профессии

Модель на базе XLM-RoBERTa определяет тональность венгерских предложений и сообщений по пяти градациям от очень негативной до очень позитивной.

3 423скачиваний за 30 дней1лайквеса обновлены22 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель NYTK для классификации тональности отдельных венгерских предложений и коротких сообщений. Она основана на XLM-RoBERTa base и дообучена на корпусе венгерских твитов Hungarian Twitter Sentiment (HTS). Модель относит текст к одному из пяти классов: от очень негативного до очень позитивного; также предусмотрен нейтральный класс.

Это модель XLM-RoBERTa для классификации последовательностей с 305,2 млн параметров. Метаданные указывают контекст до 514 токенов, а карточка рекомендует ограничивать длину последовательности 128 токенами. Репозиторий содержит веса PyTorch, лицензия — MIT. В опубликованном сравнении результат на HTS5 составляет 66,50; карточка также приводит результат 68,99 для huBERT на этом наборе, поэтому превосходство данной модели не заявлено.

Сценарии применения

  • определение тональности венгерских твитов
  • оценка эмоциональной окраски венгерских предложений
  • разметка коротких венгерских отзывов по пяти уровням тональности

Ограничения

Карточка рекомендует ограничивать последовательность 128 токенами. Результат на HTS5 указан как 66,50; доступные сведения не позволяют судить о качестве на других жанрах и доменах.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Hungarian Sentence-level Sentiment Analysis Model with XLM-RoBERTa

For further models, scripts and details, see our repository or our demo site.

  • Pretrained model used: XLM-RoBERTa base
  • Finetuned on Hungarian Twitter Sentiment (HTS) Corpus
  • Labels: 0 (very negative), 1 (negative), 2 (neutral), 3 (positive), 4 (very positive)

Limitations

  • max_seq_length = 128

Results

ModelHTS2HTS5
huBERT85.5668.99
XLM-RoBERTa85.5666.50

Citation

If you use this model, please cite the following paper:

@article {laki-yang-sentiment,
      author = {Laki, László János and Yang, Zijian Győző},
      title = {Sentiment Analysis with Neural Models for Hungarian},
      journal = {Acta Polytechnica Hungarica},
      year = {2023},
      publisher = {Obuda University},
      volume = {20},
      number = {5},
      doi = {10.12700/APH.20.5.2023.5.8},
      pages=      {109--128},
      url = {https://acta.uni-obuda.hu/Laki_Yang_134.pdf}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForSequenceClassification
Ревизия весов
782256a

0 моделей