/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Архитектура
bert · dense
Опубликована
11 июн 2023

FinBERT-FOMC

Классификация текстаТекст → label3 профессии

Дообученная на протоколах FOMC модель FinBERT определяет положительную, отрицательную или нейтральную тональность финансовых текстов.

398скачиваний за 30 дней6лайковвеса обновлены5 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FinBERT-FOMC — модель классификации тональности финансовых текстов, разработанная Ziwei Chen на основе ProsusAI/finbert и дообученная на материалах протоколов заседаний FOMC за период с января 2006 года по февраль 2023 года. Для сложных предложений в обучающих данных метки тональности были уточнены методом Sentiment Focus.

Модель предназначена для определения положительной, отрицательной или нейтральной тональности финансовых высказываний, в том числе сложных формулировок из протоколов Федерального комитета по операциям на открытом рынке США. Архитектура — BERT для классификации последовательностей, размер — 137 млн параметров; контекст ограничен 512 токенами. Модель работает с текстом и распространяется в формате PyTorch.

Авторы сообщают о более высокой точности на сложных финансовых предложениях по сравнению с исходной FinBERT. Обучение ориентировано на протоколы FOMC, поэтому результаты на других финансовых текстах могут отличаться. Лицензия в предоставленных данных не указана.

Сценарии применения

  • анализ тональности протоколов заседаний FOMC
  • классификация финансовых высказываний по тональности
  • поиск позитивных и негативных сигналов в сообщениях центробанка

Ограничения

Обучение ориентировано на протоколы FOMC, поэтому качество на иных жанрах и темах может отличаться. Длина входного контекста ограничена 512 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

FinBERT-FOMC

FinBERT-FOMC model, a language model based on enhanced sentiment analysis of FOMC meeting minutes. This model is a fine-tuned version of ProsusAI/finbert.

FinBERT-FOMC is a FinBERT model fine-tuned on the data used FOMC minutes 2006.1 to 2023.2 with relabeled complex sentences using Sentiment Focus(SF) method. It is more accurate than the original FinBERT for more complex financial sentences.

Input:
A financial text.

Output:
Positive, Negative, Neutral

How to use

You can use this model with Transformers pipeline for FinBERT-FOMC.

from transformers import BertTokenizer, BertForSequenceClassification, pipeline

finbert = BertForSequenceClassification.from_pretrained('ZiweiChen/FinBERT-FOMC',num_labels=3)
tokenizer = BertTokenizer.from_pretrained('ZiweiChen/FinBERT-FOMC')
finbert_fomc = pipeline("text-classification", model=finbert, tokenizer=tokenizer)

sentences = ["Spending on cars and light trucks increased somewhat in July after a lackluster pace in the second quarter but apparently weakened in August"]
results = finbert_fomc(sentences)
print(results)
# [{'label': 'Negative', 'score': 0.994509756565094}]

Visit https://github.com/Incredible88/FinBERT-FOMC for more details
Paper location: https://doi.org/10.1145/3604237.3626843

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
7754dd1

0 моделей