Характеристики

Контекст: 8 192 токена
Параметры: 30,3 млн
Лицензия: Apache 2.0
Архитектура: modernbert · dense
Опубликована: 6 фев 2025

Ссылки

Hugging Face

modernbert-small-japanese-wikipedia

KoichiYasuoka

Заполнение пропусковТекст → текст

Компактная японская модель ModernBERT для заполнения пропусков в тексте и дообучения для задач анализа языка.

120скачиваний за 30 дней0лайковвеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал компактную японскую модель ModernBERT, предварительно обученную на текстах японской Википедии и библиотеки Аозора Бунко. Модель с архитектурой ModernBERT для masked language modeling содержит 30,3 млн параметров, принимает текст и поддерживает контекст до 8192 токенов.

Основная задача модели — заполнение пропусков в японском тексте. Её также можно дообучать для прикладных задач обработки японского языка, включая разметку частей речи и синтаксический анализ зависимостей. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

Сценарии применения

восстановление пропущенных слов в японском тексте
подготовка японской модели для разметки частей речи
дообучение для синтаксического анализа японских предложений

Ограничения

Для разметки частей речи и синтаксического анализа модель требуется дообучить. README сообщает об использовании trust_remote_code=True при загрузке через Transformers.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

modernbert-small-japanese-wikipedia

Model Description

This is a ModernBERT model pre-trained on Japanese Wikipedia and 青空文庫 texts. NVIDIA A100-SXM4-40GB×8 took 28 hours 33 minutes for training. You can fine-tune modernbert-small-japanese-wikipedia for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/modernbert-small-japanese-wikipedia")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/modernbert-small-japanese-wikipedia",trust_remote_code=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: ModernBertForMaskedLM
Ревизия весов: 3546d19