/ Модель

Характеристики

Контекст
512 токенов
Размер весов
261 МБ
Лицензия
Apache 2.0
Архитектура
distilbert · dense

distilbert-onnx

Ответы на вопросыТекст → текст6 профессий

Англоязычная модель DistilBERT в формате ONNX извлекает ответы на вопросы из текста.

8 298скачиваний за 30 дней3лайкавеса обновлены16 фев 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

philschmid/distilbert-onnx — англоязычная модель для ответов на вопросы, разработанная на основе DistilBERT-base-cased. Это чекпойнт DistilBERT, дополнительно дистиллированный и дообученный на SQuAD v1.1; репозиторий содержит веса в формате ONNX. Модель извлекает ответ из предоставленного текста в ответ на вопрос, а не предназначена для свободного диалога.

Модель использует архитектуру DistilBertForQuestionAnswering и рассчитана на контекст до 512 токенов. В README указана оценка F1 87,1 на dev-наборе SQuAD v1.1; для сравнения приведён результат 88,7 у bert-base-cased. Лицензия — Apache-2.0. Результаты зависят от качества и релевантности входного контекста; модель не предназначена для ответов на вопросы, требующие сведений вне него.

Сценарии применения

  • извлечение ответа из англоязычного документа
  • ответы на вопросы по тексту из базы знаний
  • поиск фактического ответа в статье или справочном материале

Ограничения

Ограничена контекстом до 512 токенов и не предназначена для ответов на вопросы, требующие внешних знаний. Показатель F1 87,1 приведён для dev-набора SQuAD v1.1 и не гарантирует такую же точность на других данных.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ONNX Conversion of distilbert-base-cased-distilled-squad

DistilBERT base cased distilled SQuAD

This model is a fine-tune checkpoint of DistilBERT-base-cased, fine-tuned using (a second step of) knowledge distillation on SQuAD v1.1. This model reaches a F1 score of 87.1 on the dev set (for comparison, BERT bert-base-cased version reaches a F1 score of 88.7).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры
DistilBertForQuestionAnswering
Ревизия весов
9cd9a5a

0 моделей