/ Модель

Характеристики

Контекст
1 026 токенов
Параметры
79,7 млн
Лицензия
MIT
Архитектура
bart · dense
Опубликована
2 мар 2022

kobart

Языковая модель3 профессии

Корейская модель KoBART для генерации и преобразования текста, дополнительно обученная на диалоговых данных.

93скачиваний за 30 дней9лайковвеса обновлены16 авг 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

hyunwoongko/kobart — корейская модель семейства KoBART-base-v2 на архитектуре BART, разработанная Hyunwoong Ko. Модель обучена с добавлением диалоговых данных, чтобы лучше обрабатывать смысл последовательностей длиннее тех, с которыми справлялась исходная KoBART. Репозиторий содержит веса PyTorch; размер модели — 79,7 млн параметров, контекст — до 1026 токенов.

Модель подходит для генерации и преобразования корейского текста, включая диалоговые сценарии и классификацию тональности отзывов: в карточке приведён результат 0,901 accuracy на NSMC. Для загрузки указаны Transformers и токенизатор PreTrainedTokenizerFast. Модель распространяется по лицензии MIT. Карточка не приводит подробных оценок качества для других задач, поэтому пригодность для них следует проверять отдельно.

Сценарии применения

  • генерация ответов в диалоге на корейском языке
  • преобразование и перефразирование корейского текста
  • классификация тональности корейских отзывов
  • эксперименты с генерацией корейского текста

Ограничения

В карточке приведена оценка только на NSMC; качество на других задачах и языках не описано. Указанный контекст составляет 1026 токенов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

KoBART-base-v2

With the addition of chatting data, the model is trained to handle the semantics of sequences longer than KoBART.

from transformers import PreTrainedTokenizerFast, BartModel

tokenizer = PreTrainedTokenizerFast.from_pretrained('hyunwoongko/kobart')
model = BartModel.from_pretrained('hyunwoongko/kobart')

Performance

NSMC

  • acc. : 0.901

hyunwoongko/kobart

  • Added bos/eos post processor
  • Removed token_type_ids

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры
BartForConditionalGeneration
Ревизия весов
055dfc3

0 моделей