/ Модель

Характеристики

Опубликована
30 дек 2022

finbert-tone-finetuned-finance-topic-classification

Классификация текстаТекст → label3 профессии

Дообученная модель FinBERT для отнесения финансовых твитов к одной из 20 тематических категорий.

86 600скачиваний за 30 дней73лайкавеса обновлены12 июл 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель nickmuchi/finbert-tone-finetuned-finance-topic-classification — вариант FinBERT, дообученный автором на наборе Twitter Financial News Topic для классификации финансовых тем в твитах. Она относит текст к одной из 20 тематических категорий; при обучении веса классов скорректировали, чтобы уделять больше внимания редким категориям. На оценочной выборке указаны accuracy 0,9106 и F1 0,9106.

Модель предназначена для тематической разметки сообщений о финансах и рынках. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.

Сценарии применения

  • классификация твитов о финансовых рынках по темам
  • разметка финансовых новостей для тематических лент
  • сортировка сообщений о компаниях и акциях по тематическим категориям
  • подготовка тематических меток для анализа финансовых публикаций

Ограничения

Модель ориентирована на финансовые темы из набора Twitter Financial News Topic; качество на других жанрах и тематиках в предоставленных данных не описано. Метрики приведены для оценочной выборки, а сведения о лицензии и условиях коммерческого использования отсутствуют.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

finbert-tone-finetuned-finance-topic-classification

This model is a fine-tuned version of yiyanghkust/finbert-tone on Twitter Financial News Topic dataset. It achieves the following results on the evaluation set:

  • Loss: 0.509021
  • Accuracy: 0.910615
  • F1: 0.910647
  • Precision: 0.911335
  • Recall: 0.910615

Model description

Model determines the financial topic of given tweets over 20 various topics. Given the unbalanced distribution of the class labels, the weights were adjusted to pay attention to the less sampled labels which should increase overall performance..

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 64
  • eval_batch_size: 64
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 20
  • mixed_precision_training: Native AMP

Training results

Training LossEpochStepValidation LossAccuracyF1PrecisionRecall
No log1.02660.51520.85520.85040.85080.8552
0.76182.05320.39990.87900.87810.88420.8790
0.76183.07980.36280.89430.89400.89580.8943
0.164.010640.37760.89970.90010.90250.8997
0.165.013300.42860.89990.90020.90220.8999
0.0586.015960.45000.90430.90420.90550.9043
0.0587.018620.46890.90210.90170.90260.9021
0.02678.021280.49180.90310.90290.90390.9031
0.02679.023940.50300.90480.90490.90600.9048
0.017710.026600.50520.90330.90340.90440.9033
0.017711.029260.52650.90360.90340.90550.9036
0.01312.031920.52670.90410.90410.90580.9041
0.01313.034580.50900.91060.91060.91130.9106
0.010514.037240.53150.90670.90670.90800.9067
0.010515.039900.53390.90840.90840.90930.9084
0.006816.042560.54140.90720.90740.90880.9072
0.005117.045220.54600.90920.90910.91020.9092
0.005118.047880.54380.90720.90730.90810.9072
0.003519.050540.54740.90720.90730.90800.9072
0.003520.053200.54840.90790.90800.90870.9079

Framework versions

  • Transformers 4.25.1
  • Pytorch 1.13.0+cu116
  • Datasets 2.8.0
  • Tokenizers 0.13.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Нельзя запустить

Доступ к модели ограничен автором; у платформы нет доступа к весам.

Ревизия весов
ee9b951

0 моделей