Производная модели hfl/chinese-lert-base. Китайская модель на архитектуре BERT для предсказания замаскированных токенов и использования в задачах обработки китайского языка.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Карточка модели hfl/chinese-lert-small на Hugging Face совпадает с карточкой hfl/chinese-lert-base, поэтому описание составлено по ней.
HFL Chinese LERT Base — предварительно обученная языковая модель для китайского языка, разработанная авторами Yiming Cui, Wanxiang Che, Shijin Wang и Ting Liu. LERT основана на архитектуре BERT и предназначена для восстановления замаскированных токенов в тексте, а также как языковая основа для задач обработки китайского языка.
Модель содержит 129,5 млн параметров, принимает текстовые последовательности длиной до 512 токенов и доступна в форматах PyTorch и TensorFlow. Карточка характеризует LERT как модель с лингвистически мотивированным предобучением. Лицензия — Apache 2.0.
Для прямого применения в других задачах может потребоваться дообучение. В доступной карточке не приведены результаты оценки качества и подробности состава обучающих данных.
Для применения в прикладных задачах, отличных от заполнения масок, может потребоваться дообучение. В карточке нет результатов оценки качества и подробного описания обучающих данных.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
LERT is a linguistically-motivated pre-trained language model.
Further information: https://github.com/ymcui/LERT/blob/main/README_EN.md
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…