Характеристики

Контекст: 512 токенов
Параметры: 137 млн
Лицензия: Apache 2.0
Архитектура: bert · dense
Опубликована: 2 мар 2022

Ссылки

Hugging Face

bert-base-uncased-finetuned-sst2

doyoungkim

Классификация текстаТекст → label

Дообученная на SST-2 модель BERT для классификации тональности английских текстов.

338скачиваний за 30 дней2лайкавеса обновлены12 окт 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель doyoungkim/bert-base-uncased-finetuned-sst2 — версия BERT base uncased, дообученная для классификации текста на датасете GLUE, в частности для задачи SST-2. Она предназначена для определения тональности коротких текстов, например отзывов и пользовательских комментариев. Модель содержит 136,7 млн параметров, использует архитектуру BERT и принимает текстовые последовательности длиной до 512 токенов.

На оценочной выборке указана точность 0,9266. Модель работает с английским текстом; результаты на других языках не заявлены. Доступна в формате PyTorch по лицензии Apache-2.0.

Сценарии применения

определение тональности отзывов на английском языке
классификация комментариев как положительных или отрицательных
анализ эмоциональной окраски коротких сообщений

Ограничения

Модель предназначена для английского языка и обучена для классификации тональности в рамках SST-2; качество на других языках и типах задач не подтверждено. В README приведена точность 0,9266 на оценочной выборке, но условия и состав этой выборки не уточнены.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bert-base-uncased-finetuned-sst2

This model is a fine-tuned version of bert-base-uncased on the glue dataset. It achieves the following results on the evaluation set:

Loss: 0.2716
Accuracy: 0.9266

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 32
eval_batch_size: 32
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 5

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy
0.1666	1.0	2105	0.2403	0.9232
0.1122	2.0	4210	0.2716	0.9266
0.0852	3.0	6315	0.3150	0.9232
0.056	4.0	8420	0.3209	0.9163
0.0344	5.0	10525	0.3740	0.9243

Framework versions

Transformers 4.9.2
Pytorch 1.8.1
Datasets 1.11.0
Tokenizers 0.10.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: MyBertForSequenceClassification
Ревизия весов: 933c9d1