Дообученная японская ModernBERT Large размечает слова тегами частей речи и признаками для морфологического и синтаксического анализа.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Koichi Yasuoka разработал эту модель для морфологической разметки японского текста. Это дообученная ModernBERT Large, предварительно обученная на текстах 青空文庫; модель присваивает каждому короткому слову тег части речи UPOS и признаки FEATS, а также предназначена для синтаксического анализа зависимостей. Она поддерживает контекст до 8192 токенов и содержит 409,7 млн параметров.
Модель подходит для автоматического анализа японских предложений и подготовки лингвистической разметки для корпусов и исследований. В README показан запуск через Transformers с пользовательским pipeline `upos` и `trust_remote_code=True`; метаданные указывают задачу `token-classification`. Распространяется по лицензии Apache-2.0.
Предназначена для японского языка и разметки коротких слов; качество на других языках и типах текста не заявлено. Для примера использования требуется `trust_remote_code=True`.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a ModernBERT model pre-trained on 青空文庫 texts for POS-tagging and dependency-parsing, derived from modernbert-large-japanese-aozora. Every short-unit-word is tagged by UPOS (Universal Part-Of-Speech) and FEATS.
from transformers import pipeline
nlp=pipeline("upos","KoichiYasuoka/modernbert-large-japanese-aozora-upos",trust_remote_code=True,aggregation_strategy="simple")
print(nlp("国境の長いトンネルを抜けると雪国であった。"))
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · token-classification
Подбираем GPU…