Испаноязычная RoBERTa-модель для предсказания пропущенных токенов и анализа текста.
61скачиваний за 30 дней2лайкавеса обновлены10 июл 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
MMG/mlm-spanish-roberta-base — испаноязычная модель на архитектуре RoBERTa, разработанная MMG и обученная с нуля на 3,6 ГБ текстов в течение 10 эпох. Для обучения использовались четыре GPU Tesla V100. Модель предназначена для предсказания замаскированных токенов и может служить основой для анализа испанского текста и дообучения под задачи понимания языка.
Модель содержит 153,2 млн параметров, использует архитектуру RobertaForMaskedLM и поддерживает контекст до 512 токенов. В README приведены результаты оценки на испанском бенчмарке GLUES: 71,99% accuracy на XNLI, 74,85% accuracy на задаче парафразирования и 85,34 F1 на NER. Доступны веса PyTorch и Safetensors. Условия лицензии в предоставленных материалах не указаны.
Сценарии применения
подстановка пропущенных слов в испанском тексте
оценка отношений между испанскими предложениями
определение перефразирований на испанском языке
извлечение именованных сущностей из испанского текста
дообучение модели для задач понимания испанского языка
Ограничения
Контекст ограничен 512 токенами. В README приведены результаты лишь по нескольким задачам GLUES, поэтому они не характеризуют качество на всех сценариях.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
This model has a RoBERTa base architecture and was trained from scratch with 3.6 GB of raw text over 10 epochs. 4 Tesla V-100 GPUs were used for the training.
To test the quality of the resulting model we evaluate it over the GLUES benchmark for Spanish NLU. The results are the following:
Task
Score (metric)
XNLI
71.99 (accuracy)
Paraphrasing
74.85 (accuracy)
NER
85.34 (F1)
POS
97.49 (accuracy)
Dependency Parsing
85.14/81.08 (UAS/LAS)
Document Classification
93.00 (accuracy)
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров