Характеристики
- Контекст
- 514 токенов
- Параметры
- 152 млн
- Архитектура
- roberta · dense
- Опубликована
- 2 мар 2022
Ссылки
roberta_jan_128_ncc
RoBERTa-модель NbAiLab для предсказания слов и заполнения масок в тексте.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
NbAiLab/roberta_jan_128_ncc — языковая модель на архитектуре RoBERTa, опубликованная Nasjonalbiblioteket AI Lab. Она предназначена для заполнения пропусков в тексте: модель предсказывает подходящие слова или токены на месте специального маркера маски. Репозиторий размечен задачей fill-mask и содержит около 151,8 млн параметров; заявленная длина контекста — 514 токенов.
В конфигурации токенизатора указана базовая модель NbAiLab/nb-roberta-base, а имя модели связывает её с корпусом NCC. Предположительно, это норвежская модель; конкретные языки не перечислены в доступных метаданных. Модель можно использовать через Transformers как masked language model. Данных о лицензии и сравнительных результатах в карточке нет.
Сценарии применения
- подбор пропущенного слова в предложении
- восстановление замаскированных фрагментов текста
- получение кандидатов для редактирования текста
Ограничения
Модель предназначена для предсказания замаскированных токенов, а не для свободной генерации длинных текстов или диалогов. В доступной карточке нет сведений о лицензии и оценках качества.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- RobertaForMaskedLM
- Ревизия весов
- 16696f1