Характеристики

Контекст: 514 токенов
Параметры: 143 млн
Лицензия: CC BY-SA 4.0
Архитектура: roberta · dense
Базовая модель: roberta-base
Опубликована: 1 дек 2022

Ссылки

Hugging Face

roberta-base-korean-hanja

KoichiYasuoka

Заполнение пропусковТекст → текст3 профессии

Корейская модель RoBERTa с расширенным набором ханча для заполнения пропусков и дообучения на задачи анализа текста.

26скачиваний за 30 дней1лайквеса обновлены20 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Koichi Yasuoka разработал эту модель как корейскую RoBERTa для восстановления замаскированных токенов и дальнейшего дообучения под задачи анализа текста. Она основана на klue/roberta-base и расширяет набор токенов, добавляя базовые и используемые в именах собственных ханча. Модель содержит 143,4 млн параметров, построена на архитектуре RoBERTa и рассчитана на контекст до 514 токенов.

Модель подходит для заполнения пропусков в корейском тексте и может служить основой для дообучения на разметку частей речи и синтаксический анализ зависимостей. Для загрузки используются Transformers и PyTorch. Лицензия — CC BY-SA 4.0.

Сценарии применения

восстановление пропущенных токенов в корейском тексте
дообучение на разметку частей речи на корейском языке
дообучение на синтаксический анализ зависимостей корейского текста

Ограничения

Для задач разметки частей речи и синтаксического анализа модель требуется дообучить. Контекст ограничен 514 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

roberta-base-korean-hanja

Model Description

This is a RoBERTa model pre-trained on Korean texts, derived from klue/roberta-base. Token-embeddings are enhanced to include all 한문 교육용 기초 한자 and 인명용 한자 characters. You can fine-tune roberta-base-korean-hanja for downstream tasks, such as POS-tagging, dependency-parsing, and so on.

How to Use

from transformers import AutoTokenizer,AutoModelForMaskedLM
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/roberta-base-korean-hanja")
model=AutoModelForMaskedLM.from_pretrained("KoichiYasuoka/roberta-base-korean-hanja")

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: RobertaForMaskedLM
Ревизия весов: b6d80ba