Предобученная BERT-модель для кхмерского языка, восстанавливающая пропущенные токены в тексте.
69скачиваний за 30 дней1лайквеса обновлены31 июл 2021
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
GKLMIP/bert-khmer-base-uncased-tokenized — предобученная модель семейства BERT для кхмерского языка, связанная с работой «Pre-trained Models and Evaluation Data for the Khmer Language» авторов Shengyi Jiang, Sihui Fu, Nankai Lin и Yingwen Fu. Она предназначена для задачи fill-mask: предсказывает пропущенный токен в тексте, что подходит для языкового анализа и оценки контекстных представлений кхмерского языка. Модель имеет 137,9 млн параметров, архитектуру BertForMaskedLM и принимает последовательности длиной до 512 токенов.
Модель опубликована в формате PyTorch. В доступной карточке не описаны её сильные стороны и ограничения помимо задачи и размера контекста. Условия лицензии в предоставленных данных не приведены.
Сценарии применения
предсказание пропущенного слова в кхмерском тексте
оценка контекстных представлений кхмерских слов
языковой анализ кхмерских предложений
Ограничения
Модель рассчитана на последовательности длиной до 512 токенов и задачу восстановления пропусков; её пригодность для других задач не подтверждена. Лицензия в предоставленных данных не указана.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
If you use our model, please consider citing our paper:
@article{,
author="Jiang, Shengyi
and Fu, Sihui
and Lin, Nankai
and Fu, Yingwen",
title="Pre-trained Models and Evaluation Data for the Khmer Language",
year="2021",
publisher="Tsinghua Science and Technology",
}
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров