/ Модель

Характеристики

Контекст
1 024 токена
Лицензия
CC BY-SA 4.0
Архитектура
gpt2 · dense
Базовая модель
gpt2-medium-japanese-char
Опубликована
22 июн 2024

gpt2-medium-japanese-upos

Разметка токеновТекст → label3 профессии

Дообученная японская GPT-2 для разметки частей речи, морфологических признаков и синтаксических зависимостей в тексте.

99скачиваний за 30 дней0лайковвеса обновлены22 янв 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал модель GPT-2 для морфологического анализа японского текста. Она дообучена на основе ku-nlp/gpt2-medium-japanese-char и присваивает каждому короткому слову универсальную часть речи UPOS и признаки FEATS; карточка также указывает поддержку синтаксического разбора зависимостей. Модель предназначена для разметки японских предложений и может использоваться в конвейерах анализа текста через Transformers.

Модель использует плотную архитектуру GPT-2 и принимает текст, выдавая токенную разметку. Контекст составляет 1024 токена. Репозиторий содержит веса PyTorch, лицензия — CC BY-SA 4.0. README предлагает запуск через pipeline с пользовательским кодом.

Сценарии применения

  • разметка частей речи в японских предложениях
  • определение морфологических признаков японских слов
  • подготовка японского текста для лингвистического анализа
  • синтаксический разбор зависимостей в японском тексте

Ограничения

Контекст ограничен 1024 токенами. Для запуска через пример в README требуется trust_remote_code=True.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gpt2-medium-japanese-upos

Model Description

This is a GPT-2 model for POS-tagging and dependency-parsing, derived from gpt2-medium-japanese-char. Every short-unit-word is tagged by UPOS (Universal Part-Of-Speech) and FEATS.

How to Use

from transformers import pipeline
nlp=pipeline("upos","KoichiYasuoka/gpt2-medium-japanese-upos",trust_remote_code=True,aggregation_strategy="simple")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))

or

import esupar
nlp=esupar.load("KoichiYasuoka/gpt2-medium-japanese-upos")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))

Reference

安岡孝一: GPT系モデルの系列ラベリングによる品詞付与, 東洋学へのコンピュータ利用, 第38回研究セミナー (2024年7月26日), pp.3-10.

See Also

esupar: Tokenizer POS-tagger and Dependency-parser with BERT/RoBERTa/DeBERTa/GPT models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2ForTokenClassification
Ревизия весов
685fa58

0 моделей