/ Модель

Характеристики

Контекст
1 024 токена
Лицензия
CC BY-SA 4.0
Архитектура
gpt2 · dense
Базовая модель
gpt2-small-japanese-char
Опубликована
22 июн 2024

gpt2-small-japanese-upos

Разметка токеновТекст → label3 профессии

Японская GPT-2 для разметки частей речи и морфологических признаков в тексте.

161скачиваний за 30 дней0лайковвеса обновлены22 янв 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал GPT-2 для морфологического анализа японского текста. Модель дообучена на основе ku-nlp/gpt2-small-japanese-char и размечает короткие словные единицы тегами UPOS и FEATS; карточка также указывает поддержку синтаксического разбора зависимостей. В каталоге задача модели обозначена как token-classification.

Модель принимает японский текст и возвращает разметку токенов. Она основана на плотной архитектуре GPT-2, использует веса PyTorch и имеет контекст длиной 1024 токена. Лицензия — CC BY-SA 4.0. Карточка демонстрирует использование через Transformers pipeline с параметром trust_remote_code=True.

Сценарии применения

  • разметка японских слов тегами частей речи UPOS
  • определение морфологических признаков FEATS в японском тексте
  • морфологический анализ японских предложений
  • подготовка разметки японского текста для лингвистического анализа

Ограничения

Контекст ограничен 1024 токенами; для использования через приведённый в карточке пример требуется включить trust_remote_code=True.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gpt2-small-japanese-upos

Model Description

This is a GPT-2 model for POS-tagging and dependency-parsing, derived from gpt2-small-japanese-char. Every short-unit-word is tagged by UPOS (Universal Part-Of-Speech) and FEATS.

How to Use

from transformers import pipeline
nlp=pipeline("upos","KoichiYasuoka/gpt2-small-japanese-upos",trust_remote_code=True,aggregation_strategy="simple")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))

or

import esupar
nlp=esupar.load("KoichiYasuoka/gpt2-small-japanese-upos")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))

Reference

安岡孝一: GPT系モデルの系列ラベリングによる品詞付与, 東洋学へのコンピュータ利用, 第38回研究セミナー (2024年7月26日), pp.3-10.

See Also

esupar: Tokenizer POS-tagger and Dependency-parser with BERT/RoBERTa/DeBERTa/GPT models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2ForTokenClassification
Ревизия весов
875efc8

0 моделей