/ Модель

Характеристики

Контекст
514 токенов
Параметры
430 млн
Лицензия
Apache 2.0
Архитектура
roberta · dense
Базовая модель
guwenbert-large
Опубликована
2 мар 2022

roberta-classical-chinese-large-char

Заполнение пропусковТекст → текст3 профессии

Крупная RoBERTa-модель для восстановления пропусков в классических китайских текстах и дообучения для их лингвистического анализа.

947скачиваний за 30 дней3лайкавеса обновлены20 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал RoBERTa-модель для классического китайского языка на основе ethanyt/guwenbert-large. Она содержит 429,6 млн параметров, использует архитектуру RoBERTa с языковой моделью для восстановления замаскированных токенов и принимает контекст длиной до 514 токенов. Представление символов расширено для поддержки традиционных и упрощённых китайских иероглифов.

Модель предназначена для восстановления пропусков в классических китайских текстах и как основа для дообучения под задачи сегментации предложений, разметки частей речи и синтаксического анализа зависимостей. Для применения доступна через Transformers в формате PyTorch. Лицензия Apache-2.0.

Сценарии применения

  • восстановление пропущенных символов в классическом китайском тексте
  • сегментация предложений в древнекитайских текстах после дообучения
  • разметка частей речи в классическом китайском после дообучения
  • синтаксический анализ зависимостей для классического китайского после дообучения

Ограничения

Для сегментации, разметки частей речи и синтаксического анализа модель требуется дообучить под соответствующую задачу. Контекст ограничен 514 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

roberta-classical-chinese-large-char

Model Description

This is a RoBERTa model pre-trained on Classical Chinese texts, derived from GuwenBERT-large. Character-embeddings are enhanced into traditional/simplified characters. You can fine-tune roberta-classical-chinese-large-char for downstream tasks, such as sentence-segmentation, POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/roberta-classical-chinese-large-char")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/roberta-classical-chinese-large-char")

See Also

SuPar-Kanbun: Tokenizer POS-tagger and Dependency-parser for Classical Chinese

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForMaskedLM
Ревизия весов
5475ebe

0 моделей