Японская предобученная модель BERT для восстановления замаскированных слов в тексте, использующая посимвольную токенизацию без зависимости от fugashi и unidic_lite.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это предварительно обученная японская модель BERT от hiroshi-matsuda-rit, почти совпадающая с cl-tohoku/bert-base-japanese-char-v2. Она использует посимвольную токенизацию с маскированием целых слов и предназначена для заполнения пропусков в японском тексте. Вариант токенизатора basic не требует установки fugashi или unidic_lite; архитектура — BertForMaskedLM, размер — 118 млн параметров, контекст — до 512 токенов. Модель обучена на японской Википедии и распространяется по лицензии CC BY-SA 4.0.
Модель предназначена для японского текста и ограничена контекстом в 512 токенов; карточка не приводит оценок качества или результатов бенчмарков.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This pretrained model is almost the same as cl-tohoku/bert-base-japanese-char-v2 but do not need fugashi or unidic_lite.
The only difference is in word_tokenzer_type property (specify basic instead of mecab) in tokenizer_config.json.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…