/ Модель

Характеристики

Контекст
512 токенов
Параметры
159 млн
Архитектура
bert · dense
Опубликована
11 ноя 2022

bert-polish-sentiment-politics

Классификация текстаТекст → label3 профессии

BERT-модель для определения положительной, отрицательной или нейтральной тональности польских текстов о политике.

63скачиваний за 30 дней6лайковвеса обновлены23 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

eevvgg/bert-polish-sentiment-politics — модель BERT, дообученная автором на базе dkleczek/bert-base-polish-cased-v1 для трёхклассового анализа тональности польских текстов из политического контекста. Она классифицирует сообщения, в том числе публикации в Twitter, как положительные, отрицательные или нейтральные. Модель содержит 159,3 млн параметров, принимает текст и поддерживает контекст до 512 токенов.

Модель обучена в рамках проекта ComPathos на 1 000 вручную размеченных твитов; в README указаны точность 0,950 и macro F1 0,944 на тестовой выборке из 100 примеров. Эти результаты относятся к небольшой выборке и не гарантируют аналогичного качества на других текстах. Модель предназначена для анализа тональности на польском языке. Формат весов — PyTorch; лицензия не указана в предоставленных источниках.

Сценарии применения

  • определение тональности польских политических твитов
  • классификация польских политических высказываний по эмоциональной окраске
  • анализ общественной реакции на политические события в польскоязычных сообщениях

Ограничения

Обучена на небольшой выборке из 1 000 политических твитов, поэтому качество на других жанрах и темах может отличаться. Указанные метрики получены на тестовой выборке из 100 примеров.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

PaReS-sentimenTw-political-PL

This model is a fine-tuned version of dkleczek/bert-base-polish-cased-v1 to predict 3-categorical sentiment. Fine-tuned on 1k sample of manually annotated Twitter data.

Model developed as a part of ComPathos project: https://www.ncn.gov.pl/sites/default/files/listy-rankingowe/2020-09-30apsv2/streszczenia/497124-en.pdf

from transformers import pipeline

model_path = "eevvgg/PaReS-sentimenTw-political-PL"
sentiment_task = pipeline(task = "sentiment-analysis", model = model_path, tokenizer = model_path)

sequence = ["Cała ta śmieszna debata była próbą ukrycia problemów gospodarczych jakie są i nadejdą, pytania w większości o mało istotnych sprawach", 
            "Brawo panie ministrze!"]
            
result = sentiment_task(sequence)
labels = [i['label'] for i in result] # ['Negative', 'Positive']            

Model Sources

  • BibTex citation:
@misc{SentimenTwPLGK2023,
  author={Gajewska, Ewelina and Konat, Barbara},
  title={PaReSTw: BERT for Sentiment Detection in Polish Language},
  year={2023},
  howpublished = {\url{https://huggingface.co/eevvgg/PaReS-sentimenTw-political-PL}},
}

Intended uses & limitations

Sentiment detection in Polish data (fine-tuned on tweets from political domain).

Training and evaluation data

  • Trained for 3 epochs, mini-batch size of 8.
  • Training results: loss: 0.1358926964368792

It achieves the following results on the test set (10%):

  • No. examples = 100

  • mini batch size = 8

  • accuracy = 0.950

  • macro f1 = 0.944

            precision    recall  f1-score   support
    
         0      0.960     0.980     0.970        49
         1      0.958     0.885     0.920        26
         2      0.923     0.960     0.941        25
    

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
819cccd

0 моделей