/ Модель

Характеристики

Контекст
512 токенов
Параметры
138 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Опубликована
2 мар 2022

sentiment-hts5-hubert-hungarian

Классификация текстаТекст → label3 профессии

Дообученная на венгерских твитах модель huBERT определяет тональность текста по пяти классам.

172скачиваний за 30 дней1лайквеса обновлены22 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

NYTK разработала модель для определения тональности венгерских предложений и сообщений. Это дообученная для классификации последовательностей модель на базе huBERT, обученная на корпусе Hungarian Twitter Sentiment (HTS). Она присваивает тексту одну из пяти меток: очень негативная, негативная, нейтральная, позитивная или очень позитивная.

Модель основана на архитектуре BERT, содержит 137,8 млн параметров и принимает текст длиной до 512 токенов по метаданным; в README для настройки указано ограничение max_seq_length 128. Модель предназначена прежде всего для анализа венгерских текстов, в частности сообщений из соцсетей. В сравнении на HTS5 для huBERT приведён результат 68,99, но метрика не уточнена.

Веса опубликованы в формате PyTorch по лицензии Apache 2.0. Классификация может хуже работать на текстах за пределами домена обучающих данных; README не приводит оценок на других жанрах и подробностей метрики.

Сценарии применения

  • определение тональности венгерских публикаций в соцсетях
  • разметка отзывов на венгерском языке по пяти уровням тональности
  • анализ доли позитивных и негативных сообщений в венгерском корпусе

Ограничения

В README указано max_seq_length 128, тогда как метаданные сообщают контекст до 512 токенов. Приведённый результат 68,99 для HTS5 не сопровождается названием метрики; оценки на текстах вне домена венгерских твитов не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Hungarian Sentence-level Sentiment Analysis with Finetuned huBERT Model

For further models, scripts and details, see our repository or our demo site.

  • Pretrained model used: huBERT
  • Finetuned on Hungarian Twitter Sentiment (HTS) Corpus
  • Labels: 0 (very negative), 1 (negative), 2 (neutral), 3 (positive), 4 (very positive)

Limitations

  • max_seq_length = 128

Results

ModelHTS2HTS5
huBERT85.5668.99
XLM-RoBERTa85.5666.50

Citation

If you use this model, please cite the following paper:

@article {laki-yang-sentiment,
      author = {Laki, László János and Yang, Zijian Győző},
      title = {Sentiment Analysis with Neural Models for Hungarian},
      journal = {Acta Polytechnica Hungarica},
      year = {2023},
      publisher = {Obuda University},
      volume = {20},
      number = {5},
      doi = {10.12700/APH.20.5.2023.5.8},
      pages=      {109--128},
      url = {https://acta.uni-obuda.hu/Laki_Yang_134.pdf}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
5345242

0 моделей