/ Модель

Характеристики

Контекст
8 192 токена
Параметры
160 млн
Лицензия
Apache 2.0
Архитектура
modernbert · dense
Базовая модель
modernbert-base-japanese-wikipedia
Опубликована
12 янв 2025

modernbert-base-japanese-wikipedia-luw-upos

Разметка токеновТекст → label3 профессии

Модель ModernBERT для разметки частей речи и синтаксического анализа японского текста.

69скачиваний за 30 дней0лайковвеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал ModernBERT-модель для разметки японского текста. Она дообучена на основе KoichiYasuoka/modernbert-base-japanese-wikipedia и предварительно обучалась на японской Википедии и текстах 青空文庫. Модель присваивает каждому длинному слову части речи по схеме UPOS и признаки FEATS; карточка также указывает назначение для синтаксического анализа зависимостей.

Модель имеет плотную архитектуру ModernBERT с 160,2 млн параметров и контекстом до 8192 токенов. Её можно применять для морфологического и синтаксического анализа японских текстов, например в NLP-конвейерах на базе Transformers. Для запуска в примере README используется trust_remote_code=True. Лицензия — Apache-2.0.

Сценарии применения

  • определение частей речи в японском тексте
  • разметка японских слов признаками UPOS и FEATS
  • подготовка японского текста для синтаксического анализа
  • анализ японских предложений в NLP-конвейере

Ограничения

Модель рассчитана на японский язык и размечает длинные единицы слов; в примере Transformers требуется trust_remote_code=True.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

modernbert-base-japanese-wikipedia-luw-upos

Model Description

This is a ModernBERT model pre-trained on Japanese Wikipedia and 青空文庫 texts for POS-tagging and dependency-parsing, derived from modernbert-base-japanese-wikipedia. Every long-unit-word is tagged by UPOS (Universal Part-Of-Speech) and FEATS.

How to Use

from transformers import pipeline
nlp=pipeline("upos","KoichiYasuoka/modernbert-base-japanese-wikipedia-luw-upos",trust_remote_code=True,aggregation_strategy="simple")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))

or

import esupar
nlp=esupar.load("KoichiYasuoka/modernbert-base-japanese-wikipedia-luw-upos")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))

See Also

esupar: Tokenizer POS-tagger and Dependency-parser with BERT/RoBERTa/DeBERTa/GPT models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
ModernBertForTokenClassification
Ревизия весов
668db73

0 моделей