Характеристики

Контекст: 8 192 токена
Параметры: 410 млн
Лицензия: Apache 2.0
Архитектура: modernbert · dense
Опубликована: 21 янв 2025

Ссылки

Hugging Face

modernbert-large-japanese-wikipedia

KoichiYasuoka

Заполнение пропусковТекст → текст3 профессии

Японская ModernBERT Large для заполнения пропусков и дообучения на задачах анализа японского текста.

128скачиваний за 30 дней0лайковвеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал ModernBERT Large — модель семейства ModernBERT, предварительно обученную на японской Википедии и текстах Aozora Bunko. Это языковая модель с архитектурой masked language model, предназначенная для заполнения пропусков в японском тексте и дообучения для задач обработки японского языка, например разметки частей речи и синтаксического анализа зависимостей. Модель содержит 409,7 млн параметров, принимает текст и поддерживает контекст до 8192 токенов.

Модель распространяется в формате PyTorch по лицензии Apache-2.0. Для загрузки в Transformers в README используется trust_remote_code=True. Карточка описывает предварительное обучение и возможные сценарии дообучения, но не приводит результатов оценивания качества; для прикладных задач потребуется проверка и, вероятно, дополнительная настройка.

Сценарии применения

заполнение пропущенных слов в японском тексте
дообучение для разметки частей речи на японском
дообучение для синтаксического анализа зависимостей
адаптация к задачам обработки японской Википедии и литературы

Ограничения

Для разметки частей речи, синтаксического анализа и других downstream-задач модель нужно дообучить. В README не приведены результаты оценки качества.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

modernbert-large-japanese-wikipedia

Model Description

This is a ModernBERT model pre-trained on Japanese Wikipedia and 青空文庫 texts. NVIDIA A100-SXM4-40GB×8 took 107 hours 28 minutes for training. You can fine-tune modernbert-large-japanese-wikipedia for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/modernbert-large-japanese-wikipedia")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/modernbert-large-japanese-wikipedia",trust_remote_code=True)

Reference

安岡孝一: 青空文庫ModernBERTモデルによる国語研長単位係り受け解析, 情報処理学会研究報告, Vol.2025-CH-137『人文科学とコンピュータ』, No.10 (2025年2月8日), pp.1-7.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: ModernBertForMaskedLM
Ревизия весов: 3a04d1f