/ Модель

Характеристики

Контекст
1 024 токена
Лицензия
CC BY-SA 4.0
Архитектура
gpt2 · dense
Базовая модель
japanese-gpt2-medium-unidic
Опубликована
30 авг 2024

gpt2-medium-japanese-unidic-upos

Разметка токеновТекст → label3 профессии

Японская GPT-2 для автоматической разметки слов тегами частей речи UPOS и морфологическими признаками FEATS.

97скачиваний за 30 дней0лайковвеса обновлены29 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал модель на базе японской GPT-2 japanese-gpt2-medium-unidic, дообучив её для морфосинтаксической разметки. Модель присваивает японским коротким словоформам теги UPOS и признаки FEATS, следуя универсальной схеме Universal Dependencies.

Она предназначена для автоматической разметки частей речи и морфологических признаков в японском тексте, например при подготовке корпусов и анализе предложений. Архитектура — GPT-2 для классификации токенов; модель работает с текстом на японском языке, использует PyTorch и имеет контекст длиной 1024 токена. Для токенизации требуются fugashi и unidic-lite. Лицензия — CC BY-SA 4.0.

Сценарии применения

  • разметка японских слов частями речи
  • назначение тегов UPOS японскому тексту
  • извлечение морфологических признаков японских слов
  • подготовка японских текстовых корпусов для Universal Dependencies

Ограничения

Модель рассчитана на японский язык и имеет контекст длиной 1024 токена. Для токенизации требуются fugashi и unidic-lite.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gpt2-medium-japanese-unidic-upos

Model Description

This is a GPT-2 model for POS-tagging, derived from japanese-gpt2-medium-unidic. Every short-unit-word is tagged by UPOS (Universal Part-Of-Speech) and FEATS.

How to Use

from transformers import pipeline
nlp=pipeline("upos","KoichiYasuoka/gpt2-medium-japanese-unidic-upos",trust_remote_code=True,aggregation_strategy="simple")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))

fugashi and unidic-lite are required.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
GPT2ForTokenClassification
Ревизия весов
8ec092d

0 моделей