/ Модель
Каталог

Характеристики

Контекст
512 токенов
Параметры
152 млн
Лицензия
MIT
Архитектура
deberta · dense
Опубликована
30 мая 2022

Ссылки

Hugging Face

deberta-base-combined-squad1-aqa-1epoch

stevemobs
Ответы на вопросыТекст → текст7 профессий

Дообученная DeBERTa-base для поиска ответов на вопросы в текстовом контексте.

43скачиваний за 30 дней0лайковвеса обновлены30 мая 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модель DeBERTa-base, дообученная на базе microsoft/deberta-base для ответов на вопросы. Она предназначена для извлечения ответа из текста по заданному вопросу и может использоваться, например, в системах поиска ответов по документам. Модель содержит 151,8 млн параметров, использует архитектуру DeBERTa и принимает контекст длиной до 512 токенов.

В README указана метрика Loss 0,9431 на наборе оценки, однако сведения о наборе данных, методике оценки и практических ограничениях отсутствуют. Модель опубликована в формате PyTorch под лицензией MIT.

Сценарии применения

  • извлечение ответа из фрагмента текста по вопросу
  • поиск ответов в документах
  • создание системы вопросов и ответов по базе текстов

Ограничения

Контекст ограничен 512 токенами. В README не раскрыты обучающие данные и подробности оценки, поэтому качество на других наборах и задачах не установлено.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделейI.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модельII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

deberta-base-combined-squad1-aqa-1epoch

This model is a fine-tuned version of microsoft/deberta-base on the None dataset. It achieves the following results on the evaluation set:

  • Loss: 0.9431

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 12
  • eval_batch_size: 12
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 1

Training results

Training LossEpochStepValidation Loss
1.09711.099060.9431

Framework versions

  • Transformers 4.18.0
  • Pytorch 1.11.0
  • Datasets 2.1.0
  • Tokenizers 0.12.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры
DebertaForQuestionAnswering
Ревизия весов
0304a48

0 моделей

    Создать бенчмарк