/ Модель

Характеристики

Контекст
512 токенов
Параметры
138 млн
Архитектура
bert · dense
Опубликована
6 июл 2022

huBert-fine-tuned-hungarian-squadv2

Ответы на вопросыТекст → текст4 профессии

Венгерская модель на базе HuBERT для извлечения ответов из текста и определения вопросов без ответа в контексте.

49скачиваний за 30 дней5лайковвеса обновлены26 июл 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модель mcsabai, представляющая собой HuBERT base в версии cased, дообученную для ответов на вопросы на венгерском языке. Она использует архитектуру BERT и принимает вопрос вместе с текстом-контекстом, чтобы извлечь из него ответ; при настройке handle_impossible_answer может воздерживаться от ответа, если контекст его не подтверждает. Модель содержит 137,8 млн параметров и рассчитана на контекст длиной до 512 токенов.

Модель предназначена для извлечения ответов из предоставленного текста, например для вопросно-ответных систем по документам на венгерском языке. Дообучение выполнено на венгерской версии SQuADv2, созданной машинным переводом датасета с помощью Google Translate API; это может ограничивать качество формулировок и ответов. Доступны веса в форматах PyTorch и TensorFlow. Лицензия в предоставленных данных не указана.

Сценарии применения

  • извлечение ответа на вопрос из венгерского текста
  • поиск фактов в венгерских документах
  • ответы на вопросы по предоставленному контексту
  • определение вопросов, на которые текст не даёт ответа

Ограничения

Модель предназначена для венгерского языка и ограничена контекстом до 512 токенов. Обучающий датасет получен машинным переводом SQuAD, поэтому ошибки и неестественные формулировки перевода могут влиять на качество.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MODEL DESCRIPTION

huBERT base model (cased) fine-tuned on SQuADv2 (NEW!)

Model in action

  • Fast usage with pipelines:
from transformers import pipeline
qa_pipeline = pipeline(
    "question-answering",
    model="mcsabai/huBert-fine-tuned-hungarian-squadv2",
    tokenizer="mcsabai/huBert-fine-tuned-hungarian-squadv2",
    topk = 1,
    handle_impossible_answer = True
)
predictions = qa_pipeline({
    'context': "Máté vagyok és Budapesten élek már több mint 4 éve.",
    'question': "Hol lakik Máté?"
})
print(predictions)
# output:
# {'score': 0.9892364144325256, 'start': 16, 'end': 26, 'answer': 'Budapesten'}

Two important parameter:

[1] https://rajpurkar.github.io/SQuAD-explorer/

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForQuestionAnswering
Ревизия весов
710fe20

0 моделей