Характеристики

Контекст: 1 024 токена
Лицензия: CC BY-SA 4.0
Архитектура: gpt2 · dense
Базовая модель: gpt2-small-japanese-wikipedia-juman-upos
Опубликована: 8 окт 2024

Ссылки

Hugging Face

gpt2-small-japanese-wikipedia-juman-ud-causal

KoichiYasuoka

Разметка токеновТекст → label3 профессии

Модель на базе GPT-2 размечает японский текст по частям речи и синтаксическим зависимостям.

129скачиваний за 30 дней1лайквеса обновлены21 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал эту модель на базе GPT-2 для разметки японского текста: она определяет части речи и синтаксические зависимости между словами. Модель дообучена от KoichiYasuoka/gpt2-small-japanese-wikipedia-juman-upos на данных UD_Japanese-GSDLUW и использует архитектуру GPT-2 с классификационной головой для токенов.

Модель принимает японский текст и выдаёт токенную разметку для анализа синтаксиса. Её можно применять для подготовки корпусов, лингвистического анализа и обработки текста на японском языке. Контекст ограничен 1024 токенами; для работы через Transformers требуется библиотека fugashi. Лицензия — CC BY-SA 4.0.

Сценарии применения

определение частей речи в японских предложениях
разбор синтаксических зависимостей японского текста
подготовка японских текстовых корпусов к лингвистическому анализу

Ограничения

Контекст ограничен 1024 токенами. Для использования через Transformers требуется fugashi.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gpt2-small-japanese-wikipedia-juman-ud-causal

Model Description

This is a GPT-2 model pretrained for POS-tagging and dependency-parsing, derived from gpt2-small-japanese-wikipedia-juman-upos and UD_Japanese-GSDLUW.

How to Use

from transformers import pipeline
nlp=pipeline("universal-dependencies","KoichiYasuoka/gpt2-small-japanese-wikipedia-juman-ud-causal",trust_remote_code=True)
print(nlp("全学年にわたって小学校の国語の教科書に挿し絵が用いられている"))

fugashi is required.

Reference

安岡孝一: GPT系言語モデルによる国語研長単位係り受け解析, 人文科学とコンピュータシンポジウム「じんもんこん2024」論文集 (2024年12月), pp.83-90.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: GPT2ForTokenClassification
Ревизия весов: e984891