/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Лицензия
CC BY 4.0
Архитектура
roberta · dense
Опубликована
2 мар 2022

roberta-base-danish

Заполнение пропусковТекст → текст3 профессии

Предобученная модель RoBERTa для датского языка, предназначенная для заполнения пропусков в тексте и дальнейшей адаптации.

71скачиваний за 30 дней6лайковвеса обновлены22 мар 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

RøBÆRTa — базовая предобученная модель RoBERTa для датского языка, созданная сообществом Dansk Data Science Community во время Flax Community Week. Модель обучена на датской части корпуса mC4 и содержит около 151,8 млн параметров; её архитектура предназначена для работы с маскированным языковым моделированием, а длина контекста составляет 514 токенов.

Модель подходит для заполнения пропусков в датском тексте и как языковая основа для последующей адаптации к задачам обработки датского языка. Доступны веса в форматах PyTorch, Flax и Safetensors. Лицензия — Creative Commons Attribution 4.0 (CC BY 4.0).

Сценарии применения

  • подстановка пропущенных слов в датском тексте
  • получение вариантов продолжения датского предложения с маской
  • адаптация базовой языковой модели к задачам датского NLP

Ограничения

Модель предназначена для датского языка и не заявлена как специализированная для других языков. Карточка не сообщает о дополнительных возможностях диалога или генерации текста.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

RøBÆRTa - Danish Roberta Base

Description

RøBÆRTa is a danish pretrained Roberta base model. RøBÆRTa was pretrained on the danish mC4 dataset during the flax community week. This project was organized by Dansk Data Science Community (DDSC) 👇 https://www.linkedin.com/groups/9017904/

Team RøBÆRTa:

  • Dan Saattrup Nielsen (saattrupdan)
  • Malte Højmark-Bertelsen (Maltehb)
  • Morten Kloster Pedersen (MortenKP)
  • Kasper Junge (Juunge)
  • Per Egil Kummervold (pere)
  • Birger Moëll (birgermoell)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForMaskedLM
Ревизия весов
2948279

0 моделей