/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Архитектура
bert · dense
Опубликована
12 мая 2022

finbert-esg

Классификация текстаТекст → label3 профессии

Модель BERT для классификации финансовых текстов по категориям ESG: экология, социальные вопросы, корпоративное управление или None.

114 тыс.скачиваний за 30 дней56лайковвеса обновлены17 окт 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FinBERT-ESG — модель семейства BERT, разработанная командой HKUST и дообученная для классификации финансовых текстов по темам ESG. Она относит текст к одной из категорий: экологические вопросы (Environmental), социальные вопросы (Social), корпоративное управление (Governance) или None. Модель предназначена для анализа предложений из ESG- и годовых отчётов компаний, а также для выявления связанных с устойчивостью бизнеса тем и рисков.

Модель содержит 137 млн параметров, принимает текст и выдаёт метку класса. Она обучена на 2 000 вручную размеченных предложениях из отчётов компаний; максимальная длина контекста составляет 512 токенов. Для использования подходит библиотека Transformers. Карточка не сообщает лицензию. Классификация ограничена четырьмя указанными категориями и не заменяет комплексную оценку ESG.

Сценарии применения

  • классификация предложений из ESG-отчётов компаний
  • поиск экологических тем в финансовых документах
  • выявление социальных вопросов в годовых отчётах
  • анализ упоминаний корпоративного управления
  • предварительная сортировка финансовых текстов по темам ESG

Ограничения

Модель обучена на 2 000 размеченных предложениях из ESG- и годовых отчётов, поэтому её метки ограничены категориями Environmental, Social, Governance и None. Максимальная длина контекста — 512 токенов; лицензия в предоставленных данных не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ESG analysis can help investors determine a business' long-term sustainability and identify associated risks. FinBERT-ESG is a FinBERT model fine-tuned on 2,000 manually annotated sentences from firms' ESG reports and annual reports.

Input: A financial text.

Output: Environmental, Social, Governance or None.

How to use

You can use this model with Transformers pipeline for ESG classification.

# tested in transformers==4.18.0 
from transformers import BertTokenizer, BertForSequenceClassification, pipeline

finbert = BertForSequenceClassification.from_pretrained('yiyanghkust/finbert-esg',num_labels=4)
tokenizer = BertTokenizer.from_pretrained('yiyanghkust/finbert-esg')
nlp = pipeline("text-classification", model=finbert, tokenizer=tokenizer)
results = nlp('Rhonda has been volunteering for several years for a variety of charitable community programs.')
print(results) # [{'label': 'Social', 'score': 0.9906041026115417}]

Visit FinBERT.AI for more details on the recent development of FinBERT.

If you use the model in your academic work, please cite the following paper:

Huang, Allen H., Hui Wang, and Yi Yang. "FinBERT: A Large Language Model for Extracting Information from Financial Text." Contemporary Accounting Research (2022).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
f79fefa

0 моделей