Характеристики

Контекст: 514 токенов
Параметры: 138 млн
Архитектура: roberta · dense
Базовая модель: roberta-base
Опубликована: 12 мая 2024

Ссылки

Hugging Face

roberta-base-finetuned-emotion

kapliff89

Классификация текстаТекст → label3 профессии

Дообученная корейская RoBERTa-модель для классификации текста по эмоциям.

10скачиваний за 30 дней0лайковвеса обновлены12 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель kapliff89/roberta-base-finetuned-emotion — дообученная для классификации текста модель klue/roberta-base на основе архитектуры RoBERTa. В README указано, что она настроена для распознавания эмоций, однако набор данных обозначен как None, а описание модели и сведения о назначении обучения не раскрыты. Модель содержит 137,8 млн параметров, принимает последовательности длиной до 514 токенов и распространяется в формате safetensors.

Её можно использовать для отнесения текстов к эмоциональным категориям, например для анализа коротких сообщений. Оценка на тестовом наборе в карточке приведена только как loss 0,1584; перечень классов, языков и подробности оценки отсутствуют. Базовая klue/roberta-base предназначена для понимания корейского текста, поэтому разумно ожидать корейскую языковую специализацию. Условия лицензии в предоставленных данных не указаны.

Сценарии применения

Определение эмоций в коротких сообщениях
Анализ эмоциональной окраски отзывов
Разметка пользовательских комментариев по эмоциональным категориям

Ограничения

В карточке не перечислены эмоциональные классы, обучающий набор данных и подробности оценки; указано только значение loss 0,1584 на тестовом наборе. Лицензия не приведена в предоставленных данных.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей III.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

roberta-base-finetuned-emotion

This model is a fine-tuned version of klue/roberta-base on the None dataset. It achieves the following results on the evaluation set:

Loss: 0.1584

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 5e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 3.0
mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss
0.8759	0.9412	16	0.3249
0.2356	1.8824	32	0.2757
0.0913	2.8235	48	0.1584

Framework versions

Transformers 4.40.2
Pytorch 2.3.0+cu118
Datasets 2.19.1
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: RobertaForSequenceClassification
Ревизия весов: fce7b31