Характеристики

Контекст: 512 токенов
Параметры: 119 млн
Лицензия: CC BY-SA 4.0
Архитектура: deberta-v2 · dense
Опубликована: 3 янв 2023

Ссылки

Hugging Face

deberta-base-ainu

KoichiYasuoka

Заполнение пропусковТекст → текст3 профессии

Предобученная DeBERTaV2 для восстановления пропущенных токенов и дообучения на задачах обработки айнского языка.

56скачиваний за 30 дней0лайковвеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал предобученную модель DeBERTaV2 для текстов на айнском языке. Модель обучена на айнских текстах, записанных катаканой, латиницей и кириллицей; её можно дообучать для разметки частей речи, синтаксического анализа зависимостей и других задач обработки языка. Основная задача модели — предсказание скрытых токенов в тексте.

Модель имеет плотную архитектуру DeBERTaV2ForMaskedLM, содержит 118,5 млн параметров и принимает последовательности длиной до 512 токенов. Доступны веса PyTorch; лицензия — CC BY-SA 4.0. Карточка не приводит сведений о конкретных ограничениях качества.

Сценарии применения

восстановление пропущенных слов в айнском тексте
дообучение для разметки частей речи на айнском языке
дообучение для синтаксического анализа зависимостей айнских предложений

Ограничения

Модель предобучена на айнских текстах и рассчитана на контекст до 512 токенов; качество на других языках и прикладных задачах в карточке не описано.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

deberta-base-ainu

Model Description

This is a DeBERTa(V2) model pre-trained on Ainu texts written in カタカナ, Roman, and Кириллица. You can fine-tune deberta-base-ainu for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/deberta-base-ainu")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/deberta-base-ainu")

Reference

安岡孝一: ローマ字・カタカナ・キリル文字併用アイヌ語RoBERTa・DeBERTaモデルの開発, 情報処理学会研究報告, Vol.2023-CH-131『人文科学とコンピュータ』, No.7 (2023年2月18日), pp.1-7.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: DebertaV2ForMaskedLM
Ревизия весов: a897af2