Характеристики

Контекст: 514 токенов
Параметры: 659 млн
Лицензия: MIT
Архитектура: xlm-roberta · dense
Базовая модель: xlm-roberta-large
Библиотека: transformers
Опубликована: 17 июл 2026

Ссылки

Hugging Face

xlm-roBERTa-large-tass

judajaav

Классификация текстаТекст → label

Дообученная на наборе TASS модель XLM-RoBERTa Large для классификации текста.

12скачиваний за 30 дней0лайковвеса обновлены17 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

judajaav/xlm-roBERTa-large-tass — модель XLM-RoBERTa Large, дообученная на наборе данных TASS. Она предназначена для классификации текста и может применяться к задачам, представленным в этом наборе данных. Архитектура — XLMRobertaForSequenceClassification; модель содержит 658,7 млн параметров и принимает текст длиной до 514 токенов. Веса опубликованы в формате safetensors.

На оценочной выборке модель показала accuracy 0,6848, F1 0,6754 и loss 0,8187. Карточка не уточняет языки, метки классов и предметную область набора TASS, поэтому конкретные сценарии классификации определить нельзя. Лицензия — MIT.

Сценарии применения

Классификация текстов по меткам набора TASS

Ограничения

На оценочной выборке accuracy составляет 0,6848, а F1 — 0,6754; назначение меток и языки набора TASS в карточке не раскрыты.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

results

This model is a fine-tuned version of xlm-roberta-large on the Tass dataset. It achieves the following results on the evaluation set:

Loss: 0.8187
Accuracy: 0.6848
F1: 0.6754

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 1e-05
train_batch_size: 4
eval_batch_size: 8
seed: 42
gradient_accumulation_steps: 4
total_train_batch_size: 16
optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: cosine
lr_scheduler_warmup_ratio: 0.1
num_epochs: 10
mixed_precision_training: Native AMP

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy	F1
0.8864	1.0	300	0.9594	0.4893	0.3957
0.7847	2.0	600	0.7880	0.6525	0.6432
0.6791	3.0	900	0.7441	0.6709	0.6646
0.5428	4.0	1200	0.8187	0.6848	0.6754
0.3746	5.0	1500	0.9587	0.6807	0.6729
0.3164	6.0	1800	1.0413	0.6713	0.6685

Framework versions

Transformers 4.56.1
Pytorch 2.10.0+cu128
Datasets 5.0.0
Tokenizers 0.22.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: XLMRobertaForSequenceClassification
Ревизия весов: 86ef0a3