Характеристики

Контекст: 514 токенов
Параметры: 152 млн
Лицензия: CC BY-NC-SA 4.0
Архитектура: roberta · dense
Опубликована: 2 мар 2022

Ссылки

FERNET-News

Заполнение пропусковТекст → текст3 профессии

Одноязычная чешская RoBERTa, предварительно обученная на новостях и предназначенная для предсказания замаскированных слов в тексте.

135скачиваний за 30 дней0лайковвеса обновлены22 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FERNET-News — одноязычная модель RoBERTa-base для чешского языка, разработанная и предварительно обученная на тщательно очищенном корпусе чешских новостей объёмом 20,5 ГБ. Она предназначена для заполнения пропусков в тексте: модель предсказывает замаскированные слова с учётом окружающего контекста и подходит для задач языкового анализа чешских новостных текстов. Модель насчитывает 151,6 млн параметров и поддерживает контекст длиной до 514 токенов.

Доступны веса в форматах PyTorch, safetensors и TensorFlow. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на той же лицензии и запрещает коммерческое использование.

Сценарии применения

восстановление пропущенных слов в чешских текстах
подбор вероятного слова в маскированном предложении
анализ контекста в чешских новостных текстах

Ограничения

Модель обучена на новостном корпусе, поэтому её поведение может хуже подходить для других жанров и сфер. Лицензия запрещает коммерческое использование.