Предобученная китайская RoBERTa для заполнения пропусков в тексте и дообучения на задачах анализа китайского языка.
70скачиваний за 30 дней0лайковвеса обновлены31 авг 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
KoichiYasuoka/roberta-base-chinese — предобученная модель RoBERTa для китайского языка, разработанная Koichi Yasuoka на текстах китайской Википедии, включая упрощённое и традиционное письмо. Это плотная трансформерная модель класса RobertaForMaskedLM с 133,7 млн параметров и контекстом до 512 токенов; веса доступны в формате PyTorch и могут использоваться через Transformers.
Модель предназначена для восстановления замаскированных токенов и дообучения под последующие задачи, например разметку частей речи и синтаксический анализ зависимостей. Она подходит для обработки китайских текстов в сценариях, где нужны предобученные языковые представления. Лицензия — CC BY-SA 4.0.
Сценарии применения
восстановление пропущенных слов в китайском тексте
дообучение для разметки частей речи на китайском
дообучение для синтаксического анализа зависимостей
получение контекстных представлений китайских текстов для downstream-задач
Ограничения
Контекст ограничен 512 токенами; для разметки частей речи и синтаксического анализа модель требуется дообучить. README не приводит результатов оценки качества.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This is a RoBERTa model pre-trained on Chinese Wikipedia texts (both simplified and traditional). NVIDIA A100-SXM4-40GB took 48 hours 56 minutes for training. You can fine-tune roberta-base-chinese for downstream tasks, such as POS-tagging, dependency-parsing, and so on.
How to Use
from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/roberta-base-chinese")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/roberta-base-chinese")
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров