Характеристики

Контекст: 2 048 токенов
Параметры: 29 млн
Архитектура: bert · dense
Опубликована: 2 мар 2022

Ссылки

Hugging Face

rubert-tiny2-cedr-emotion-detection

cointegrated

Классификация текстаТекст → label4 профессии

Русскоязычная BERT-модель для многометочного определения эмоций в предложениях.

7 022скачиваний за 30 дней40лайковвеса обновлены20 мар 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это русскоязычная модель классификации эмоций в предложениях, созданная дообучением cointegrated/rubert-tiny2 разработчиком cointegrated на наборе данных CEDR. Модель основана на BERT и содержит около 29 млн параметров; для обработки текста использует контекст до 2048 токенов.

Модель выполняет многометочную классификацию: одному предложению можно назначить несколько меток. Она определяет отсутствие эмоций, радость, грусть, удивление, страх и гнев. Подходит для анализа тональности и эмоциональной окраски русских текстов, например сообщений и отзывов. В README приведены метрики на тестовом наборе CEDR, включая средний micro F1 0,928 и macro F1 0,835; качество на других данных может отличаться. Используются веса PyTorch и SafeTensors. Условия лицензии в предоставленных данных не описаны.

Сценарии применения

Определение эмоций в отзывах на русском языке
Анализ настроения сообщений пользователей
Поиск сообщений с гневом или страхом
Разметка предложений радостью, грустью и удивлением
Выявление нейтральных по эмоциям фрагментов текста

Ограничения

Модель обучена на CEDR, поэтому качество на других жанрах и источниках русского текста может отличаться. Она предсказывает заданные эмоциональные метки и не предназначена для генерации текста.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель III.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is the cointegrated/rubert-tiny2 model fine-tuned for classification of emotions in Russian sentences. The task is multilabel classification, because one sentence can contain multiple emotions.

The model on the CEDR dataset described in the paper "Data-Driven Model for Emotion Detection in Russian Texts" by Sboev et al.

The model has been trained with Adam optimizer for 40 epochs with learning rate 1e-5 and batch size 64 in this notebook.

The quality of the predicted probabilities on the test dataset is the following:

label	no emotion	joy	sadness	surprise	fear	anger	mean	mean (emotions)
AUC	0.9286	0.9512	0.9564	0.8908	0.8955	0.7511	0.8956	0.8890
F1 micro	0.8624	0.9389	0.9362	0.9469	0.9575	0.9261	0.9280	0.9411
F1 macro	0.8562	0.8962	0.9017	0.8366	0.8359	0.6820	0.8348	0.8305

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForSequenceClassification
Ревизия весов: 453ae93