Характеристики

Контекст: 514 токенов
Параметры: 305 млн
Лицензия: MIT
Архитектура: xlm-roberta · dense
Базовая модель: xlm-roberta-base
Библиотека: transformers
Опубликована: 19 июн 2026

Ссылки

Hugging Face

xlm-roberta-base-finetuned-panx-en

John7767

Разметка токеновТекст → label

Дообученная XLM-RoBERTa Base для классификации токенов в английском тексте.

6скачиваний за 30 дней0лайковвеса обновлены23 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

John7767/xlm-roberta-base-finetuned-panx-en — дообученная модель XLM-RoBERTa Base для классификации токенов. Она использует архитектуру XLM-RoBERTa и содержит 305,2 млн параметров; максимальная длина контекста — 514 токенов. Модель опубликована в формате Safetensors под лицензией MIT.

Модель предназначена для разметки отдельных токенов, вероятно, в задаче PAN-X на английском языке. В README указаны результаты оценки: loss 0,5009 и F1 0,6260. Датасет обучения не назван, поэтому конкретные типы меток и качество на других данных подтвердить нельзя.

Сценарии применения

разметка токенов в английских текстах
извлечение сущностей из текста при соответствии меток PAN-X
эксперименты с мультиязычной классификацией токенов

Ограничения

Датасет и схема меток не описаны; указан F1 0,6260 на оценочном наборе, поэтому качество для конкретного применения следует проверять отдельно.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

xlm-roberta-base-finetuned-panx-en

This model is a fine-tuned version of xlm-roberta-base on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.5009
F1: 0.6260

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 5e-05
train_batch_size: 4
eval_batch_size: 4
seed: 42
optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: linear
num_epochs: 1

Training results

Training Loss	Epoch	Step	Validation Loss	F1
0.7887	1.0	295	0.5009	0.6260

Framework versions

Transformers 4.57.6
Pytorch 2.12.1
Datasets 2.14.5
Tokenizers 0.22.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: XLMRobertaForTokenClassification
Ревизия весов: 54e9351