Характеристики

Контекст: 514 токенов
Параметры: 305 млн
Лицензия: MIT
Архитектура: xlm-roberta · dense
Опубликована: 31 мая 2023

Ссылки

Hugging Face

finetuning-xlm-roberta-base-on-sst2

Ibrahim-Alam

Классификация текстаТекст → label

Модель XLM-RoBERTa, дообученная на SST-2 для классификации положительной и отрицательной тональности коротких текстов.

12скачиваний за 30 дней0лайковвеса обновлены31 мая 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Ibrahim-Alam опубликовал модель XLM-RoBERTa Base, дообученную на наборе SST-2 для классификации тональности коротких текстов. Модель содержит 305,2 млн параметров, принимает текстовые последовательности длиной до 514 токенов и выдаёт метку класса тональности. В README указаны результаты на оценочной выборке SST-2: accuracy 0,9220 и F1 0,9246.

Модель подходит для определения положительной или отрицательной тональности англоязычных отзывов и коротких высказываний. Это версия на PyTorch с архитектурой XLM-RoBERTa для классификации последовательностей; лицензия — MIT. Хотя базовая архитектура многоязычная, дообучение выполнено на SST-2, поэтому качество для других языков и доменов не подтверждено.

Сценарии применения

Определение тональности отзывов на английском языке
Классификация коротких высказываний как положительных или отрицательных
Анализ эмоциональной окраски пользовательских комментариев

Ограничения

Результаты приведены только для оценочной выборки SST-2; качество на других языках, длинных текстах и предметных областях не подтверждено. Максимальная длина последовательности — 514 токенов.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

finetuning-xlm-roberta-base-on-sst2

This model is a fine-tuned version of xlm-roberta-base on the sst2 dataset. It achieves the following results on the evaluation set:

Loss: 0.2599
Accuracy: 0.9220
F1: 0.9246

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 1

Training results

Framework versions

Transformers 4.28.0
Pytorch 2.0.1+cu118
Datasets 2.12.0
Tokenizers 0.13.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: XLMRobertaForSequenceClassification
Ревизия весов: 24a0437