Трёхъязычная модель на основе XLM-RoBERTa для заполнения пропусков и переноса знаний между литовским, латышским и английским языками.
234скачиваний за 30 дней5лайковвеса обновлены28 фев 2022
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
LitLat BERT — трёхъязычная модель EMBEDDIA на архитектуре XLM-RoBERTa-base для литовского, латышского и английского языков. Модель обучена на корпусах этих языков и содержит 177,9 млн параметров. В метаданных Hugging Face для неё указана задача заполнения пропусков в тексте (fill-mask) и контекст длиной до 514 токенов.
LitLat BERT подходит для предсказания пропущенных слов и переноса знаний между литовским, латышским и английским языками. В оценке распознавания именованных сущностей по трём общим классам — людям, местам и организациям — модель показала более высокий macro F1, чем перечисленные в карточке mBERT, XLM-RoBERTa и латышская LVBERT на соответствующих наборах данных. Это результат конкретной оценки, а не гарантия качества для любых задач.
Модель распространяется в формате PyTorch по лицензии CC BY-SA 4.0. Карточка описывает обучение на трёх языках, поэтому качество на других языках не подтверждено; приведённая оценка NER сама по себе не означает, что модель является готовым решением для разметки сущностей.
Сценарии применения
предсказание пропущенных слов в литовском тексте
предсказание пропущенных слов в латышском тексте
предсказание пропущенных слов в английском тексте
перенос знаний между литовским, латышским и английским языками
эксперименты с распознаванием именованных сущностей на трёх языках
Ограничения
Обучение и заявленные языки ограничены литовским, латышским и английским; качество на других языках не подтверждено. Результаты NER в карточке относятся к конкретной оценке трёх классов и не гарантируют качество на других наборах данных или задачах.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
LitLat BERT is a trilingual model, using xlm-roberta-base architecture, trained on Lithuanian, Latvian, and English corpora. Focusing on three languages, the model performs better than multilingual BERT, while still offering an option for cross-lingual knowledge transfer, which a monolingual model wouldn't.
Named entity recognition evaluation
We compare LitLat BERT with multilingual BERT (mBERT), XLM-RoBERTa (XLM-R) and monolingual Latvian BERT (LVBERT) (Znotins and Barzdins, 2020). The report the results as a macro F1 score of 3 named entity classes shared in all three datasets: person, location, organization.
Language
mBERT
XLM-R
LVBERT
LitLat
Latvian
0.830
0.865
0.797
0.881
Lithuanian
0.797
0.817
/
0.850
English
0.939
0.937
/
0.943
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров