/ Модель
Каталог

Характеристики

Контекст
512 токенов
Параметры
152 млн
Лицензия
MIT
Архитектура
deberta · dense
Опубликована
29 мая 2022

Ссылки

Hugging Face

deberta-base-newsqa

stevemobs
Ответы на вопросыТекст → текст4 профессии

Дообученная DeBERTa-base отвечает на вопросы по тексту, в том числе по новостным материалам.

49скачиваний за 30 дней0лайковвеса обновлены29 мая 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

stevemobs/deberta-base-newsqa — модель DeBERTa-base, дообученная на наборе данных NewsQA для ответа на вопросы. Она предназначена для извлечения ответа из текста по заданному вопросу и подходит для систем поиска по документам и чтения новостных материалов. Модель содержит 151,8 млн параметров, использует архитектуру DeBERTa и принимает контекст длиной до 512 токенов. В оценке на тестовой выборке указано значение Loss 0,7628.

Модель распространяется в формате PyTorch по лицензии MIT. Карточка не приводит подробностей о составе обучающих данных и ограничениях; качество ответов за пределами оценки на NewsQA не установлено.

Сценарии применения

  • извлечение ответа из новостной статьи по вопросу
  • ответы на вопросы по текстовым документам
  • поиск конкретных фактов в предоставленном контексте

Ограничения

Контекст ограничен 512 токенами. В карточке приведена только метрика Loss 0,7628; подробные результаты, состав данных и известные ограничения не описаны.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделейIV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейI.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модельI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

deberta-base-newsqa

This model is a fine-tuned version of microsoft/deberta-base on the None dataset. It achieves the following results on the evaluation set:

  • Loss: 0.7628

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 12
  • eval_batch_size: 12
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 2

Training results

Training LossEpochStepValidation Loss
0.68471.0173070.7396
0.49162.0346140.7628

Framework versions

  • Transformers 4.18.0
  • Pytorch 1.11.0
  • Datasets 2.1.0
  • Tokenizers 0.12.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры
DebertaForQuestionAnswering
Ревизия весов
6519907

0 моделей

    Создать бенчмарк