Дообученная DeBERTa V2 размечает части речи и синтаксические зависимости в японском тексте.
134скачиваний за 30 дней0лайковвеса обновлены29 янв 2025
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Koichi Yasuoka разработал модель DeBERTa V2 для морфосинтаксического анализа японского текста. Она дообучена на корпусе UD_Japanese-GSDLUW на основе KoichiYasuoka/deberta-base-japanese-aozora, предварительно обученной на текстах японской цифровой библиотеки Aozora Bunko. Модель выполняет разметку частей речи и синтаксический анализ зависимостей; для обработки подслов используется отношение goeswith. В каталоге Hugging Face её основная задача обозначена как token-classification.
Модель содержит 137,8 млн параметров, работает с текстом и рассчитана на контекст до 512 токенов. Она предназначена для анализа японских предложений и возвращает структурированные синтаксические метки. Распространяется по лицензии CC BY-SA 4.0. Для использования в Transformers в README указан pipeline universal-dependencies с trust_remote_code=True.
Сценарии применения
разметка частей речи в японских предложениях
синтаксический разбор зависимостей японского текста
анализ японских текстов для лингвистических исследований
Ограничения
Контекст ограничен 512 токенами; модель ориентирована на японский язык и обучена на конкретном корпусе Universal Dependencies, поэтому качество на иных жанрах и схемах разметки может отличаться.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This is a DeBERTa(V2) model pretrained on 青空文庫 texts for POS-tagging and dependency-parsing (using goeswith for subwords), derived from deberta-base-japanese-aozora and UD_Japanese-GSDLUW.
How to Use
from transformers import pipeline
nlp=pipeline("universal-dependencies","KoichiYasuoka/deberta-base-japanese-aozora-ud-goeswith",trust_remote_code=True,aggregation_strategy="simple")
print(nlp("全学年にわたって小学校の国語の教科書に挿し絵が用いられている"))
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров