/ Модель

Характеристики

Контекст
512 токенов
Параметры
120 млн
Лицензия
CC BY-SA 4.0
Архитектура
roberta · dense
Опубликована
2 мар 2022

roberta-base-japanese-aozora-char

Заполнение пропусковТекст → текст3 профессии

Японская RoBERTa-модель для заполнения пропусков и дообучения под задачи анализа текста.

190скачиваний за 30 дней1лайквеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал RoBERTa-модель, предварительно обученную на текстах 青空文庫 с токенизацией по символам. Это японская языковая модель для заполнения пропусков в тексте и дообучения под задачи обработки японского языка, включая разметку частей речи и синтаксический анализ зависимостей. Модель использует архитектуру RoBERTa с головой masked language modeling, содержит 120,5 млн параметров и обрабатывает последовательности длиной до 512 токенов.

Она подходит как основа для специализированных моделей и анализа японских текстов; качество зависит от последующего дообучения и конкретной задачи. Лицензия — CC BY-SA 4.0.

Сценарии применения

  • заполнение пропущенных символов в японском тексте
  • дообучение модели для разметки частей речи на японском языке
  • дообучение модели для синтаксического анализа японских предложений

Ограничения

Для задач разметки частей речи и синтаксического анализа требуется дообучение. Контекст ограничен 512 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

roberta-base-japanese-aozora-char

Model Description

This is a RoBERTa model pre-trained on 青空文庫 texts with character tokenizer. You can fine-tune roberta-base-japanese-aozora-char for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/roberta-base-japanese-aozora-char")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/roberta-base-japanese-aozora-char")

Reference

安岡孝一: Transformersと国語研長単位による日本語係り受け解析モデルの製作, 情報処理学会研究報告, Vol.2022-CH-128, No.7 (2022年2月), pp.1-8.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForMaskedLM
Ревизия весов
4a6f7ee

0 моделей