Характеристики

Контекст: 514 токенов
Параметры: 659 млн
Лицензия: MIT
Архитектура: xlm-roberta · dense
Базовая модель: CRAB_xlm_roberta_large_finetuned
Опубликована: 31 мая 2024

Ссылки

Hugging Face

e_care_CRAB_xlm_roberta_large_finetuned

Ariffiq99

Классификация и разметкаТекст → label3 профессии

Дообученная XLM-RoBERTa Large для решения задач с выбором ответа из нескольких вариантов.

8скачиваний за 30 дней0лайковвеса обновлены31 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель ecareCRABxlmrobertalargefinetuned — дообученная версия Ariffiq99/CRAB_xlm_roberta_large_finetuned на базе XLM-RoBERTa Large. Она предназначена для задач с выбором одного ответа из нескольких вариантов. Размер модели — 658,7 млн параметров, максимальная длина контекста — 514 токенов; веса представлены в формате safetensors. В README приведены результаты оценки: loss 0,6088 и F1 0,7837.

Область применения и состав обучающих данных в карточке не раскрыты, поэтому специфические сценарии использования определить нельзя. Репозиторий распространяется по лицензии MIT.

Сценарии применения

выбор правильного ответа в тесте с вариантами
оценка вариантов ответа на текстовый вопрос
классификация примеров формата multiple choice

Ограничения

Назначение, языки и обучающие данные не описаны в README. В карточке приведена оценка F1 0,7837, но набор данных и условия оценки не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

e_care_CRAB_xlm_roberta_large_finetuned

This model is a fine-tuned version of Ariffiq99/CRAB_xlm_roberta_large_finetuned on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.6088
F1: 0.7837

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 1e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 5

Training results

Training Loss	Epoch	Step	Validation Loss	F1
0.6563	1.0	933	0.6291	0.6192
0.5219	2.0	1866	0.4628	0.7606
0.4093	3.0	2799	0.4465	0.7780
0.2993	4.0	3732	0.5422	0.7842
0.2263	5.0	4665	0.6088	0.7837

Framework versions

Transformers 4.41.1
Pytorch 2.3.0+cu121
Datasets 2.19.1
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · multiple-choice

Можно запустить

Подбираем GPU…

Класс архитектуры: XLMRobertaForMultipleChoice
Ревизия весов: 34498ae