Характеристики

Контекст: 512 токенов
Параметры: 134 млн
Лицензия: CC BY-SA 4.0
Архитектура: deberta-v2 · dense
Опубликована: 28 дек 2022

Ссылки

Hugging Face

deberta-base-chinese

KoichiYasuoka

Заполнение пропусковТекст → текст3 профессии

Китайская предобученная DeBERTa(V2) для восстановления замаскированных слов и дообучения на языковые задачи.

63скачиваний за 30 дней0лайковвеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал DeBERTa(V2) base для китайского языка и предварительно обучил её на статьях китайской Википедии, включая упрощённое и традиционное письмо. Модель содержит 133,7 млн параметров, принимает текст и поддерживает контекст длиной до 512 токенов.

Основная задача модели — восстановление замаскированных фрагментов текста. Её можно дообучать для последующих задач обработки китайского языка, например разметки частей речи и синтаксического анализа зависимостей. Репозиторий содержит веса PyTorch; модель распространяется по лицензии CC BY-SA 4.0.

Сценарии применения

Восстановление пропущенных слов в китайском тексте
Разметка частей речи в китайском языке после дообучения
Синтаксический анализ зависимостей в китайском языке после дообучения

Ограничения

Для задач разметки частей речи и синтаксического анализа модель требуется дообучить. Контекст ограничен 512 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

deberta-base-chinese

Model Description

This is a DeBERTa(V2) model pre-trained on Chinese Wikipedia texts (both simplified and traditional). NVIDIA A100-SXM4-40GB took 102 hours 34 minutes for training. You can fine-tune deberta-base-chinese for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/deberta-base-chinese")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/deberta-base-chinese")

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: DebertaV2ForMaskedLM
Ревизия весов: 4e4c0a3