Характеристики

Контекст: 512 токенов
Параметры: 435 млн
Лицензия: CC BY-SA 4.0
Архитектура: deberta-v2 · dense
Базовая модель: deberta-large-japanese-wikipedia-luw-upos
Опубликована: 18 сен 2022

Ссылки

Hugging Face

deberta-large-japanese-wikipedia-ud-goeswith

KoichiYasuoka

Разметка токеновТекст → label3 профессии

Японская модель DeBERTaV2 для разметки частей речи и синтаксических зависимостей в тексте по Universal Dependencies.

126скачиваний за 30 дней0лайковвеса обновлены29 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал японскую DeBERTaV2-модель на базе deberta-large-japanese-wikipedia-luw-upos для разметки частей речи и синтаксического разбора по схеме Universal Dependencies. Модель дообучена на японской Википедии, текстах 青空文庫 и наборе UD_Japanese-GSDLUW; для обработки субслов использует отношение goeswith.

Модель принимает японский текст и присваивает метки токенам, включая части речи и синтаксические зависимости. Это специализированный чекпойнт для лингвистического анализа японских предложений; размер составляет 435,4 млн параметров, контекст — до 512 токенов. Для использования предусмотрена библиотека Transformers и pipeline с aggregation_strategy="simple".

Модель распространяется по лицензии CC BY-SA 4.0. Ее применение ограничено разметкой японского текста в рамках поддерживаемой схемы; сведений о поддержке других языков или задач в карточке нет.

Сценарии применения

разметка частей речи в японских предложениях
анализ синтаксических зависимостей японского текста
лингвистическая обработка текстов Википедии на японском языке
анализ японских текстов с разбиением слов на субслова

Ограничения

Модель рассчитана на японский язык и лингвистическую разметку; максимальная длина контекста составляет 512 токенов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

deberta-large-japanese-wikipedia-ud-goeswith

Model Description

This is a DeBERTa(V2) model pretrained on Japanese Wikipedia and 青空文庫 texts for POS-tagging and dependency-parsing (using goeswith for subwords), derived from deberta-large-japanese-wikipedia-luw-upos and UD_Japanese-GSDLUW.

How to Use

from transformers import pipeline
nlp=pipeline("universal-dependencies","KoichiYasuoka/deberta-large-japanese-wikipedia-ud-goeswith",trust_remote_code=True,aggregation_strategy="simple")
print(nlp("全学年にわたって小学校の国語の教科書に挿し絵が用いられている"))

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DebertaV2ForTokenClassification
Ревизия весов: 6343a22