/ Модель

Характеристики

Контекст
514 токенов
Параметры
435 млн
Архитектура
roberta · dense
Библиотека
transformers
Опубликована
19 июн 2023

klue-roberta-finetuned-korquad-v2

Ответы на вопросыТекст → текст3 профессии

Дообученная KLUE RoBERTa Large находит ответы на вопросы в корейских текстах.

21скачиваний за 30 дней5лайковвеса обновлены19 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

uomnf97 выпустил дообученную модель KLUE RoBERTa Large для поиска ответов в корейских текстах. Она решает задачу машинного чтения и понимания: получает вопрос и контекст, затем выделяет ответ в контексте. Модель построена на архитектуре RoBERTa, содержит 435,4 млн параметров и рассчитана на контекст длиной до 514 токенов.

Модель дообучена на 27 423 примерах KorQuAD 2.1 после удаления из исходных данных гиперссылок, тегов и BOM; примеры с контекстом длиннее 7500 символов исключались. Она предназначена для корейских сценариев вопросно-ответного поиска по тексту. Доступна в формате PyTorch через Transformers; лицензия — MIT.

Сценарии применения

  • поиск ответов в корейских документах
  • извлечение ответа из контекста по вопросу
  • создание системы вопросов и ответов на корейском языке

Ограничения

Модель рассчитана на корейский язык и обучалась на обработанной выборке KorQuAD 2.1. Её контекст ограничен 514 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🧑🏻‍💻 KLUE RoBERTa Large

  • 이 모델은 klue/roberta-large를 한국어 Machine Reading Comprehension를 위해 KorQuAD 데이터 2.1 version 27,423개의 데이터를 학습시켜 만든 모델입니다.

📝 What Should Know

  • KorQuAD v2.1의 원본 데이터가 아닌 하이퍼링크, 태그, 유니코드 BOM를 제거하여 전처리를 하였고, context 길이가 7500이 넘어간 데이터들은 제외하여 27,423개의 데이터셋을 이용하여 학습시켰습니다.
  • 원본 데이터 링크 : https://korquad.github.io/

📁 Getting Started

from transformers import AutoConfig, AutoModelForQuestionAnswering, AutoTokenizer

config = AutoConfig.from_pretrained('uomnf97/klue-roberta-finetuned-korquad-v2')
tokenizer = AutoTokenizer.from_pretrained('uomnf97/klue-roberta-finetuned-korquad-v2')
model = AutoModelForQuestionAnswering.from_pretrained('uomnf97/klue-roberta-finetuned-korquad-v2',config=config)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForQuestionAnswering
Ревизия весов
0e5dc5f

0 моделей