Характеристики

Контекст: 514 токенов
Параметры: 305 млн
Лицензия: MIT
Архитектура: xlm-roberta · dense
Базовая модель: xlm-roberta-base
Опубликована: 27 апр 2024

Ссылки

Hugging Face

Amharic-News-Classification

akiseid

Классификация текстаТекст → label3 профессии

Дообученная XLM-RoBERTa для классификации амхарских новостных текстов.

9скачиваний за 30 дней0лайковвеса обновлены27 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

akiseid/Amharic-News-Classification — модель классификации текстов на базе XLM-RoBERTa, дообученная автором на наборе данных, который в карточке обозначен как None. Она предназначена для присвоения меток текстам; название указывает на классификацию новостей на амхарском языке. Архитектура — XLMRobertaForSequenceClassification, размер — 305,2 млн параметров, формат весов — safetensors, максимальный контекст — 514 токенов. В README приведены результаты оценки: точность 0,9387 и loss 0,2719.

Модель может подойти для классификации амхарских новостных текстов и автоматической сортировки новостных материалов по категориям. Опубликована под лицензией MIT. В карточке не раскрыты метки классов, состав обучающих данных и подробные ограничения, поэтому результаты на других источниках и текстовых жанрах не гарантированы.

Сценарии применения

Классификация новостных статей на амхарском языке
Автоматическая сортировка амхарских новостей по категориям
Присвоение тематических меток новостным публикациям

Ограничения

README не раскрывает набор меток, обучающие данные и ограничения оценки. Указанная точность относится только к оценочному набору, состав которого не описан.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

results

This model is a fine-tuned version of xlm-roberta-base on the None dataset. It achieves the following results on the evaluation set:

Loss: 0.2719
Accuracy: 0.9387

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 5e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
lr_scheduler_warmup_steps: 500
num_epochs: 5

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy
0.4817	1.0	1233	0.4114	0.8722
0.4841	2.0	2466	0.4670	0.8817
0.4482	3.0	3699	0.3205	0.9330
0.4011	4.0	4932	0.2719	0.9387
0.022	5.0	6165	0.3159	0.9359

Framework versions

Transformers 4.40.0
Pytorch 2.2.1+cu121
Datasets 2.19.0
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: XLMRobertaForSequenceClassification
Ревизия весов: 60b3fdf