Характеристики

Контекст: 512 токенов
Параметры: 409 млн
Лицензия: CC BY-SA 4.0
Архитектура: bert · dense
Базовая модель: bert-large-japanese-char
Опубликована: 2 мар 2022

Ссылки

Hugging Face

bert-large-japanese-char-extended

KoichiYasuoka

Заполнение пропусковТекст → текст3 профессии

Японская BERT-модель с расширенным набором кандзи для заполнения пропусков и дообучения на задачах анализа текста.

194скачиваний за 30 дней0лайковвеса обновлены20 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал эту японскую BERT-модель на основе bert-large-japanese-char, дообучив её на текстах японской Википедии. В эмбеддинги символов добавлены все 常用漢字 и 人名用漢字, что расширяет охват кандзи, включая иероглифы, используемые в именах.

Модель содержит 409,1 млн параметров, использует архитектуру BERT для masked language modeling и принимает текстовые последовательности длиной до 512 токенов. Её можно применять для заполнения пропусков в японском тексте, а также дообучать для разметки частей речи, синтаксического анализа зависимостей и других задач понимания текста.

Для работы доступны веса PyTorch и токенизатор Transformers. Модель распространяется по лицензии CC BY-SA 4.0. Она ориентирована на японский язык и не предназначена для генерации произвольного текста без маски или для обработки изображений и аудио.

Сценарии применения

заполнение пропусков в японских предложениях
дообучение для разметки частей речи на японском языке
дообучение для синтаксического анализа японских текстов
анализ японских текстов с кандзи из имён собственных

Ограничения

Модель предназначена для японского языка и ограничена контекстом до 512 токенов. Для задач разметки частей речи и синтаксического анализа её необходимо дополнительно дообучить.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bert-large-japanese-char-extended

Model Description

This is a BERT model pre-trained on Japanese Wikipedia texts, derived from bert-large-japanese-char. Character-embeddings are enhanced to include all 常用漢字/人名用漢字 characters using BertTokenizerFast. You can fine-tune bert-large-japanese-char-extended for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/bert-large-japanese-char-extended")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/bert-large-japanese-char-extended")

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForMaskedLM
Ревизия весов: 2fe996b