/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Лицензия
AGPL 3.0
Архитектура
xlm-roberta · dense
Опубликована
2 мар 2022

XLMR-ENIS

Заполнение пропусковТекст → текст3 профессии

XLMR-ENIS — модель XLM-RoBERTa для предсказания пропущенных слов в исландских и английских текстах.

79скачиваний за 30 дней0лайковвеса обновлены10 авг 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

XLMR-ENIS — модель семейства XLM-RoBERTa, разработчик которой в карточке Hugging Face указан как vesteinn. Она обучена на текстах на исландском и английском языках и предназначена для заполнения пропусков в тексте: модель предсказывает подходящее слово или фрагмент на месте маски.

Модель содержит 151,7 млн параметров, принимает текст и имеет контекст длиной до 514 токенов. Веса опубликованы в форматах PyTorch и Safetensors. Лицензия — AGPL-3.0. Карточка не описывает специальные предметные области или дополнительные сценарии использования.

Сценарии применения

  • заполнение масок в исландских предложениях
  • заполнение масок в английских предложениях
  • подбор пропущенного слова в тексте
  • изучение контекстного понимания исландского языка

Ограничения

Модель обучена на исландских и английских текстах; качество может быть ограничено за пределами этих языков и обучающих данных. Контекст ограничен 514 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

XLMR-ENIS

This is a XLMR model trained on Icelandic and English text.

If you find this model useful please cite

@inproceedings{snaebjarnarson-einarsson-2022-cross,
    title = "Cross-Lingual {QA} as a Stepping Stone for Monolingual Open {QA} in {I}celandic",
    author = "Sn{\ae}bjarnarson, V{\'e}steinn  and
      Einarsson, Hafsteinn",
    booktitle = "Proceedings of the Workshop on Multilingual Information Access (MIA)",
    month = jul,
    year = "2022",
    address = "Seattle, USA",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2022.mia-1.4",
    doi = "10.18653/v1/2022.mia-1.4",
    pages = "29--36",
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForMaskedLM
Ревизия весов
0d64069

0 моделей