Японская GPT-2 для автоматической разметки слов тегами частей речи UPOS и морфологическими признаками FEATS.
97скачиваний за 30 дней0лайковвеса обновлены29 янв 2025
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Koichi Yasuoka разработал модель на базе японской GPT-2 japanese-gpt2-medium-unidic, дообучив её для морфосинтаксической разметки. Модель присваивает японским коротким словоформам теги UPOS и признаки FEATS, следуя универсальной схеме Universal Dependencies.
Она предназначена для автоматической разметки частей речи и морфологических признаков в японском тексте, например при подготовке корпусов и анализе предложений. Архитектура — GPT-2 для классификации токенов; модель работает с текстом на японском языке, использует PyTorch и имеет контекст длиной 1024 токена. Для токенизации требуются fugashi и unidic-lite. Лицензия — CC BY-SA 4.0.
Сценарии применения
разметка японских слов частями речи
назначение тегов UPOS японскому тексту
извлечение морфологических признаков японских слов
подготовка японских текстовых корпусов для Universal Dependencies
Ограничения
Модель рассчитана на японский язык и имеет контекст длиной 1024 токена. Для токенизации требуются fugashi и unidic-lite.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This is a GPT-2 model for POS-tagging, derived from japanese-gpt2-medium-unidic. Every short-unit-word is tagged by UPOS (Universal Part-Of-Speech) and FEATS.
How to Use
from transformers import pipeline
nlp=pipeline("upos","KoichiYasuoka/gpt2-medium-japanese-unidic-upos",trust_remote_code=True,aggregation_strategy="simple")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))