/ Модель

Характеристики

Контекст
1 024 токена
Лицензия
CC BY-SA 4.0
Архитектура
gpt2 · dense
Базовая модель
gpt2-large-japanese-char
Опубликована
22 июн 2024

gpt2-large-japanese-upos

Разметка токеновТекст → label3 профессии

Дообученная японская GPT-2 Large размечает слова частями речи UPOS и морфологическими признаками FEATS.

135скачиваний за 30 дней0лайковвеса обновлены22 янв 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал японскую GPT-2 Large для разметки частей речи и морфологических признаков. Модель дообучена на основе ku-nlp/gpt2-large-japanese-char и присваивает каждому короткому слову метки UPOS (Universal Part-Of-Speech) и FEATS; в метаданных также указан датасет Universal Dependencies.

Модель предназначена для автоматической разметки японского текста по токенам, например для лингвистического анализа и подготовки корпусов. Это плотная GPT-2-модель с контекстом до 1024 токенов, доступная в формате PyTorch. Лицензия — CC BY-SA 4.0.

Карточка также упоминает синтаксический анализ зависимостей, однако описанный пример использования показывает POS-разметку; подтверждённая задача в метаданных — классификация токенов. Ограничение контекста составляет 1024 токена, а назначение модели — японский язык.

Сценарии применения

  • разметка частей речи в японских текстах
  • присвоение морфологических признаков японским словам
  • подготовка японских корпусов для лингвистического анализа

Ограничения

Контекст модели ограничен 1024 токенами. Карточка заявляет также синтаксический анализ зависимостей, но метаданные и пример использования подтверждают классификацию токенов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gpt2-large-japanese-upos

Model Description

This is a GPT-2 model for POS-tagging and dependency-parsing, derived from gpt2-large-japanese-char. Every short-unit-word is tagged by UPOS (Universal Part-Of-Speech) and FEATS.

How to Use

from transformers import pipeline
nlp=pipeline("upos","KoichiYasuoka/gpt2-large-japanese-upos",trust_remote_code=True,aggregation_strategy="simple")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))

or

import esupar
nlp=esupar.load("KoichiYasuoka/gpt2-large-japanese-upos")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))

Reference

安岡孝一: GPT系モデルの系列ラベリングによる品詞付与, 東洋学へのコンピュータ利用, 第38回研究セミナー (2024年7月26日), pp.3-10.

See Also

esupar: Tokenizer POS-tagger and Dependency-parser with BERT/RoBERTa/DeBERTa/GPT models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2ForTokenClassification
Ревизия весов
d44f164

0 моделей