Характеристики

Контекст: 512 токенов
Параметры: 659 млн
Лицензия: CC BY-SA 4.0
Архитектура: roberta · dense
Опубликована: 2 мар 2022

Ссылки

roberta-large-japanese-aozora

Заполнение пропусковТекст → текст3 профессии

Японская RoBERTa, предварительно обученная на текстах 青空文庫 для заполнения пропусков и дообучения на задачах обработки японского языка.

182скачиваний за 30 дней2лайкавеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал roberta-large-japanese-aozora — японскую языковую модель RoBERTa, предварительно обученную на текстах библиотеки 青空文庫 с токенизатором Japanese-LUW-Tokenizer. Модель содержит 659 млн параметров, использует архитектуру RoBERTa для masked language modeling и принимает последовательности длиной до 512 токенов.

Модель предназначена для заполнения пропусков в японском тексте и дообучения для последующих задач, включая разметку частей речи и синтаксический анализ зависимостей. Для загрузки README предлагает Transformers AutoTokenizer и AutoModelForMaskedLM.

Модель обучена на литературных текстах 青空文庫, поэтому её пригодность для современных разговорных, специализированных или иных жанров может отличаться. Репозиторий распространяется по лицензии CC BY-SA 4.0.

Сценарии применения

восстановление пропущенных слов в японском тексте
дообучение для разметки частей речи на японском языке
дообучение для синтаксического анализа зависимостей японских предложений

Ограничения

Предварительное обучение выполнено на литературных текстах 青空文庫, поэтому результаты на современных разговорных и специализированных текстах могут отличаться. Для задач разметки частей речи и синтаксического анализа модель требуется дообучить.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

roberta-large-japanese-aozora

Model Description

This is a RoBERTa model pre-trained on 青空文庫 texts with Japanese-LUW-Tokenizer. You can fine-tune roberta-large-japanese-aozora for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/roberta-large-japanese-aozora")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/roberta-large-japanese-aozora")

Reference

安岡孝一: Transformersと国語研長単位による日本語係り受け解析モデルの製作, 情報処理学会研究報告, Vol.2022-CH-128, No.7 (2022年2月), pp.1-8.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: RobertaForMaskedLM
Ревизия весов: aa64ef8