/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Архитектура
bert · dense
Опубликована
14 окт 2022

finbert-esg-9-categories

Классификация текстаТекст → label4 профессии

Англоязычная модель на базе FinBERT для классификации финансовых текстов по девяти темам ESG.

3 568скачиваний за 30 дней41лайквеса обновлены17 окт 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FinBERT-esg-9-categories — модель классификации финансовых текстов, разработанная исследовательской группой Гонконгского университета науки и технологий и дообученная на примерно 14 тысячах вручную размеченных предложений из ESG- и годовых отчётов компаний. Модель построена на архитектуре BERT, содержит 137 млн параметров и принимает текстовые входы длиной до 512 токенов.

Она относит текст к одной из девяти категорий: изменение климата, природный капитал, загрязнение и отходы, человеческий капитал, ответственность за продукт, отношения с сообществами, корпоративное управление, деловая этика и ценности либо не-ESG. Модель предназначена для детальной тематической разметки ESG-материалов и дополняет FinBERT-esg, классифицирующий текст по четырём укрупнённым темам.

Модель работает с английским языком; веса доступны в формате PyTorch. Лицензия в предоставленных данных не указана.

Сценарии применения

  • классификация предложений из ESG-отчётов по тематике
  • разметка годовых отчётов компаний по темам устойчивого развития
  • выделение упоминаний изменения климата и природного капитала
  • поиск сведений о корпоративном управлении и деловой этике
  • отделение ESG-содержания от не относящегося к ESG текста

Ограничения

Классификация обучена на предложениях из корпоративных ESG- и годовых отчётов, поэтому качество на других жанрах и длинных текстах может быть ниже; максимальный контекст — 512 токенов.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ESG analysis can help investors determine a business' long-term sustainability and identify associated risks. FinBERT-esg-9-categories is a FinBERT model fine-tuned on about 14,000 manually annotated sentences from firms' ESG reports and annual reports.

finbert-esg-9-categories classifies a text into nine fine-grained ESG topics: Climate Change, Natural Capital, Pollution & Waste, Human Capital, Product Liability, Community Relations, Corporate Governance, Business Ethics & Values, and Non-ESG. This model complements finbert-esg which classifies a text into four coarse-grained ESG themes (E, S, G or None).

Detailed description of the nine fine-grained ESG topic definition, some examples for each topic, training sample, and the model’s performance can be found here.

Input: A text.

Output: Climate Change, Natural Capital, Pollution & Waste, Human Capital, Product Liability, Community Relations, Corporate Governance, Business Ethics & Values, or Non-ESG.

How to use

You can use this model with Transformers pipeline for fine-grained ESG 9 categories classification.

from transformers import BertTokenizer, BertForSequenceClassification, pipeline

finbert = BertForSequenceClassification.from_pretrained('yiyanghkust/finbert-esg-9-categories',num_labels=9)
tokenizer = BertTokenizer.from_pretrained('yiyanghkust/finbert-esg-9-categories')
nlp = pipeline("text-classification", model=finbert, tokenizer=tokenizer)

results = nlp('For 2002, our total net emissions were approximately 60 million metric tons of CO2 equivalents for all businesses 
               and operations we have financial interests in, based on its equity share in those businesses and operations.')
print(results) # [{'label': 'Climate Change', 'score': 0.9955655932426453}]

If you use the model in your academic work, please cite the following paper:

Huang, Allen H., Hui Wang, and Yi Yang. "FinBERT: A Large Language Model for Extracting Information from Financial Text." Contemporary Accounting Research (2022).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
af56509

0 моделей