/ Модель

Характеристики

Контекст
514 токенов
Параметры
178 млн
Лицензия
CC BY-SA 4.0
Архитектура
xlm-roberta · dense

litlat-bert

Заполнение пропусковТекст → текст3 профессии

Трёхъязычная модель на основе XLM-RoBERTa для заполнения пропусков и переноса знаний между литовским, латышским и английским языками.

234скачиваний за 30 дней5лайковвеса обновлены28 фев 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LitLat BERT — трёхъязычная модель EMBEDDIA на архитектуре XLM-RoBERTa-base для литовского, латышского и английского языков. Модель обучена на корпусах этих языков и содержит 177,9 млн параметров. В метаданных Hugging Face для неё указана задача заполнения пропусков в тексте (fill-mask) и контекст длиной до 514 токенов.

LitLat BERT подходит для предсказания пропущенных слов и переноса знаний между литовским, латышским и английским языками. В оценке распознавания именованных сущностей по трём общим классам — людям, местам и организациям — модель показала более высокий macro F1, чем перечисленные в карточке mBERT, XLM-RoBERTa и латышская LVBERT на соответствующих наборах данных. Это результат конкретной оценки, а не гарантия качества для любых задач.

Модель распространяется в формате PyTorch по лицензии CC BY-SA 4.0. Карточка описывает обучение на трёх языках, поэтому качество на других языках не подтверждено; приведённая оценка NER сама по себе не означает, что модель является готовым решением для разметки сущностей.

Сценарии применения

  • предсказание пропущенных слов в литовском тексте
  • предсказание пропущенных слов в латышском тексте
  • предсказание пропущенных слов в английском тексте
  • перенос знаний между литовским, латышским и английским языками
  • эксперименты с распознаванием именованных сущностей на трёх языках

Ограничения

Обучение и заявленные языки ограничены литовским, латышским и английским; качество на других языках не подтверждено. Результаты NER в карточке относятся к конкретной оценке трёх классов и не гарантируют качество на других наборах данных или задачах.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LitLat BERT

LitLat BERT is a trilingual model, using xlm-roberta-base architecture, trained on Lithuanian, Latvian, and English corpora. Focusing on three languages, the model performs better than multilingual BERT, while still offering an option for cross-lingual knowledge transfer, which a monolingual model wouldn't.

Named entity recognition evaluation

We compare LitLat BERT with multilingual BERT (mBERT), XLM-RoBERTa (XLM-R) and monolingual Latvian BERT (LVBERT) (Znotins and Barzdins, 2020). The report the results as a macro F1 score of 3 named entity classes shared in all three datasets: person, location, organization.

LanguagemBERTXLM-RLVBERTLitLat
Latvian0.8300.8650.7970.881
Lithuanian0.7970.817/0.850
English0.9390.937/0.943

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForMaskedLM
Ревизия весов
0ff2fcc

0 моделей