/ Модель

Характеристики

Контекст
514 токенов
Параметры
659 млн
Лицензия
MIT
Архитектура
xlm-roberta · dense
Опубликована
2 мар 2022

xlm-roberta-large-xnli-anli

Классификация текстаТекст → label10 профессий

Многоязычная модель XLM-RoBERTa-large для классификации текстов по произвольным категориям методом zero-shot.

1 596скачиваний за 30 дней30лайковвеса обновлены11 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

vicgalle/xlm-roberta-large-xnli-anli — модель XLM-RoBERTa-large, дообученная на нескольких наборах данных для распознавания логического следования (NLI), включая MNLI, XNLI и ANLI. Она предназначена для классификации текстов без заранее заданного набора классов: пользователь передаёт текст и названия возможных категорий, а модель оценивает их соответствие.

Модель содержит 658,7 млн параметров, использует архитектуру XLM-RoBERTa для классификации последовательностей и принимает текст длиной до 514 токенов. Она поддерживает многоязычную классификацию; в карточке приведены результаты на испанском и французском наборах XNLI, а также на трёх раундах ANLI. Лицензия — MIT.

На тестах XNLI точность составила 93,7% для испанского и 93,2% для французского; на раундах ANLI — от 68,5% до 49,0%. Результаты на ANLI указывают на заметное снижение качества на более сложных раундах, поэтому оценки следует проверять на данных целевого применения.

Сценарии применения

  • классификация отзывов по заданным темам
  • распределение обращений клиентов по категориям
  • определение тональности текста по заданным меткам
  • тематическая разметка документов без обучения отдельного классификатора

Ограничения

В сложных тестах ANLI точность снижается от 68,5% на первом раунде до 49,0% на третьем. Проверяйте качество на данных и формулировках категорий, соответствующих целевому сценарию.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

XLM-RoBERTa-large-XNLI-ANLI

XLM-RoBERTa-large model finetunned over several NLI datasets, ready to use for zero-shot classification.

Here are the accuracies for several test datasets:

XNLI-esXNLI-frANLI-R1ANLI-R2ANLI-R3
xlm-roberta-large-xnli-anli93.7%93.2%68.5%53.6%49.0%

The model can be loaded with the zero-shot-classification pipeline like so:

from transformers import pipeline
classifier = pipeline("zero-shot-classification", 
                       model="vicgalle/xlm-roberta-large-xnli-anli")

You can then use this pipeline to classify sequences into any of the class names you specify:

sequence_to_classify = "Algún día iré a ver el mundo"
candidate_labels = ['viaje', 'cocina', 'danza']
classifier(sequence_to_classify, candidate_labels)
#{'sequence': 'Algún día iré a ver el mundo',
#'labels': ['viaje', 'danza', 'cocina'],
#'scores': [0.9991760849952698, 0.0004178212257102132, 0.0004059972707182169]}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForSequenceClassification
Ревизия весов
85981da

0 моделей