from transformers import pipeline
unmasker = pipeline('fill-mask', model='josu/roberta-pt-br')
text = 'Brasilia é a capital do <mask>'
[{'sequence': 'Brasilia é a capital do Brasil',
'score': 0.24386335909366608,
'token': 707,
'token_str': ' Brasil'},
{'sequence': 'Brasilia é a capital do estado',
'score': 0.2320091277360916,
'token': 1031,
'token_str': ' estado'},
{'sequence': 'Brasilia é a capital do país',
'score': 0.0665697380900383,
'token': 998,
'token_str': ' país'},
{'sequence': 'Brasilia é a capital do Rio',
'score': 0.05980581417679787,
'token': 993,
'token_str': ' Rio'},
{'sequence': 'Brasilia é a capital do capital',
'score': 0.058453518897295,
'token': 2027,
'token_str': ' capital'}]
Характеристики
- Контекст
- 514 токенов
- Параметры
- 95,2 млн
- Архитектура
- roberta · dense
Ссылки
roberta-pt-br
Компактная RoBERTa для бразильского португальского, которая подбирает вероятные слова на месте пропуска в тексте.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
josu/roberta-pt-br — языковая модель на архитектуре RoBERTa, предназначенная для бразильского португальского языка. Она предсказывает пропущенный токен в тексте: например, предлагает варианты продолжения фразы «Brasilia é a capital do». Модель содержит 95,2 млн параметров, использует формат PyTorch и поддерживает контекст до 514 токенов. Подходит для восстановления пропусков и подбора вероятных слов в португалоязычном тексте. Лицензия в предоставленных данных не указана.
Сценарии применения
- подстановка пропущенного слова в тексте на португальском
- подбор вероятных продолжений фразы на бразильском португальском
- восстановление пропусков в португалоязычных корпусах
Ограничения
Модель предназначена для предсказания пропущенных токенов, а не для генерации длинных текстов или диалога. В предоставленных данных лицензия не указана.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- RobertaForMaskedLM
- Ревизия весов
- 87df2e2