/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Лицензия
MIT
Архитектура
bert · dense
Опубликована
2 мар 2022

bert-base-spanish-wwm-cased-xnli

Классификация текстаТекст → label5 профессий

Испанская модель BERT для классификации текстов по заданным категориям без обучения на каждой категории.

2 587скачиваний за 30 дней18лайковвеса обновлены14 июл 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Recognai/bert-base-spanish-wwm-cased-xnli — испаноязычная модель BERT, дообученная командой Recognai на испанской части набора XNLI для классификации с нулевым примером. Она оценивает, насколько текст соответствует предложенным пользователем меткам, и подходит для тематической разметки текстов без отдельного обучения на каждой категории. Модель содержит 137,1 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Для тестовой части XNLI на испанском языке указана точность 79,9%. Доступны веса в форматах PyTorch, Flax и safetensors.

README рекомендует использовать её через pipeline zero-shot-classification библиотеки Transformers и отмечает, что более новые варианты SELECTRA легче и показывают лучшие результаты. Модель выпущена по лицензии MIT.

Сценарии применения

  • классификация испанских отзывов по темам
  • разметка испанских новостей заданными категориями
  • распределение испанских обращений клиентов по темам
  • проверка соответствия испанского текста заданным меткам

Ограничения

Модель уступает по размеру и результатам более новым вариантам zero-shot SELECTRA, согласно README. Указанная точность 79,9% относится к тестовой части XNLI на испанском языке и не гарантирует качество на других данных.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bert-base-spanish-wwm-cased-xnli

UPDATE, 15.10.2021: Check out our new zero-shot classifiers, much more lightweight and even outperforming this one: zero-shot SELECTRA small and zero-shot SELECTRA medium.

Model description

This model is a fine-tuned version of the spanish BERT model with the Spanish portion of the XNLI dataset. You can have a look at the training script for details of the training.

How to use

You can use this model with Hugging Face's zero-shot-classification pipeline:

from transformers import pipeline
classifier = pipeline("zero-shot-classification", 
                       model="Recognai/bert-base-spanish-wwm-cased-xnli")

classifier(
    "El autor se perfila, a los 50 años de su muerte, como uno de los grandes de su siglo",
    candidate_labels=["cultura", "sociedad", "economia", "salud", "deportes"],
    hypothesis_template="Este ejemplo es {}."
)
"""output
{'sequence': 'El autor se perfila, a los 50 años de su muerte, como uno de los grandes de su siglo',
 'labels': ['cultura', 'sociedad', 'economia', 'salud', 'deportes'],
 'scores': [0.38897448778152466,
  0.22997373342514038,
  0.1658431738615036,
  0.1205764189362526,
  0.09463217109441757]}
"""

Eval results

Accuracy for the test set:

XNLI-es
bert-base-spanish-wwm-cased-xnli79.9%

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
e44f774

0 моделей