Характеристики

Контекст: 512 токенов
Параметры: 138 млн
Лицензия: CC BY-SA 4.0
Архитектура: deberta-v2 · dense
Опубликована: 24 мая 2022

Ссылки

deberta-base-japanese-aozora

Заполнение пропусковТекст → текст3 профессии

DeBERTa V2, предварительно обученная на японской литературе, предсказывает пропущенные токены и служит основой для дообучения под задачи анализа японского текста.

183скачиваний за 30 дней0лайковвеса обновлены7 янв 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал эту модель DeBERTa V2, предварительно обученную на японских текстах из «Аозора Бунко» — цифровой библиотеки японской литературы. Это языковая модель с 137,8 млн параметров для заполнения пропусков в тексте; она рассчитана на входной контекст до 512 токенов и распространяется в формате PyTorch.

Модель можно дообучать для задач разметки частей речи, синтаксического анализа зависимостей и других прикладных задач обработки японского языка. Для запуска в Transformers используются AutoTokenizer и AutoModelForMaskedLM. Лицензия — CC BY-SA 4.0.

Предварительное обучение на литературном корпусе может влиять на работу с современными текстами и специализированной лексикой. Карточка не приводит оценок качества на бенчмарках.

Сценарии применения

восстановление пропущенных слов в японском тексте
дообучение модели для разметки частей речи на японском языке
дообучение модели для синтаксического анализа зависимостей
адаптация языковой модели к прикладным задачам обработки японского текста

Ограничения

Модель предварительно обучена на литературных текстах, поэтому её поведение на современных и специализированных текстах может отличаться. В карточке не приведены результаты оценки качества на бенчмарках.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

deberta-base-japanese-aozora

Model Description

This is a DeBERTa(V2) model pre-trained on 青空文庫 texts. NVIDIA A100-SXM4-40GB took 36 hours 44 minutes for training. You can fine-tune deberta-base-japanese-aozora for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/deberta-base-japanese-aozora")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/deberta-base-japanese-aozora")

Reference

安岡孝一: 青空文庫DeBERTaモデルによる国語研長単位係り受け解析, 東洋学へのコンピュータ利用, 第35回研究セミナー (2022年7月), pp.29-43.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: DebertaV2ForMaskedLM
Ревизия весов: 35763ae