Дообученная японская GPT-2 размечает слова частями речи UPOS и грамматическими признаками FEATS.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Koichi Yasuoka разработал эту модель на основе японской GPT-2 gpt2-small-japanese и дообучил её для морфосинтаксической разметки. Модель определяет для каждого слова часть речи по универсальной схеме UPOS и дополнительные грамматические признаки FEATS; для токенизации требуется библиотека fugashi.
Модель предназначена для анализа японских текстов, например для подготовки корпусов и извлечения грамматических характеристик слов. Это плотная архитектура GPT-2 для классификации токенов с контекстом до 1024 токенов. Репозиторий содержит веса PyTorch, карточка указывает японский язык и лицензию CC BY-SA 4.0.
Для токенизации требуется fugashi. Модель предназначена для японской разметки UPOS и FEATS; карточка не подтверждает поддержку других языков или задач.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a GPT-2 model for POS-tagging, derived from gpt2-small-japanese. Every word is tagged by UPOS (Universal Part-Of-Speech) and FEATS.
from transformers import pipeline
nlp=pipeline("upos","KoichiYasuoka/gpt2-small-japanese-juman-upos",trust_remote_code=True,aggregation_strategy="simple")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))
fugashi is required.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · token-classification
Подбираем GPU…