Предобученная модель RoBERTa для датского языка, предназначенная для заполнения пропусков в тексте и дальнейшей адаптации.
71скачиваний за 30 дней6лайковвеса обновлены22 мар 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
RøBÆRTa — базовая предобученная модель RoBERTa для датского языка, созданная сообществом Dansk Data Science Community во время Flax Community Week. Модель обучена на датской части корпуса mC4 и содержит около 151,8 млн параметров; её архитектура предназначена для работы с маскированным языковым моделированием, а длина контекста составляет 514 токенов.
Модель подходит для заполнения пропусков в датском тексте и как языковая основа для последующей адаптации к задачам обработки датского языка. Доступны веса в форматах PyTorch, Flax и Safetensors. Лицензия — Creative Commons Attribution 4.0 (CC BY 4.0).
Сценарии применения
подстановка пропущенных слов в датском тексте
получение вариантов продолжения датского предложения с маской
адаптация базовой языковой модели к задачам датского NLP
Ограничения
Модель предназначена для датского языка и не заявлена как специализированная для других языков. Карточка не сообщает о дополнительных возможностях диалога или генерации текста.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
RøBÆRTa is a danish pretrained Roberta base model. RøBÆRTa was pretrained on the danish mC4 dataset during the flax community week. This project was organized by Dansk Data Science Community (DDSC) 👇
https://www.linkedin.com/groups/9017904/
Team RøBÆRTa:
Dan Saattrup Nielsen (saattrupdan)
Malte Højmark-Bertelsen (Maltehb)
Morten Kloster Pedersen (MortenKP)
Kasper Junge (Juunge)
Per Egil Kummervold (pere)
Birger Moëll (birgermoell)
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров