Характеристики

Контекст: 512 токенов
Параметры: 212 млн
Лицензия: MIT
Архитектура: deberta-v2 · dense

Ссылки

Hugging Face

deberta-v3-base-goemotions

mrm8488

Классификация текстаТекст → label

Дообученная DeBERTa-v3-base для классификации эмоций в текстовых высказываниях.

115скачиваний за 30 дней1лайквеса обновлены28 дек 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mrm8488/deberta-v3-base-goemotions — дообученная модель классификации текста на базе microsoft/deberta-v3-base, опубликованная пользователем mrm8488. Она предназначена для классификации текстовых высказываний по эмоциям GoEmotions. Модель содержит 211,6 млн параметров, использует архитектуру DeBERTa-v2 для классификации последовательностей и принимает текст длиной до 512 токенов.

На указанном в карточке наборе оценки модель получила F1 0,4468. Лицензия — MIT. Карточка не раскрывает обучающий набор данных и подробные сведения о классах и ограничениях, поэтому качество на других данных и пригодность для конкретных сценариев требуют отдельной проверки.

Сценарии применения

определение эмоций в сообщениях и комментариях
анализ эмоциональной окраски пользовательских отзывов
разметка эмоциональных реакций в текстовых корпусах

Ограничения

На карточке указан F1 0,4468 на наборе оценки; обучающий набор данных и подробная информация о классах не раскрыты. Контекст ограничен 512 токенами.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

deberta-v3-base-goemotions

This model is a fine-tuned version of microsoft/deberta-v3-base on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 1.7610
F1: 0.4468

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 5

Training results

Training Loss	Epoch	Step	Validation Loss	F1
1.5709	1.0	6164	1.5211	0.4039
1.3689	2.0	12328	1.5466	0.4198
1.1819	3.0	18492	1.5670	0.4520
1.0059	4.0	24656	1.6673	0.4479
0.8129	5.0	30820	1.7610	0.4468

Framework versions

Transformers 4.15.0
Pytorch 1.10.0+cu111
Datasets 1.17.0
Tokenizers 0.10.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DebertaV2ForSequenceClassification
Ревизия весов: 0ae8ac0