/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Лицензия
MIT
Архитектура
roberta · dense
Опубликована
14 ноя 2022

xdoc-base-squad2.0

Ответы на вопросыТекст → текст6 профессий

Модель Microsoft на базе RoBERTa для поиска ответов на вопросы в заданном контексте, в том числе в текстах документов.

123скачиваний за 30 дней3лайкавеса обновлены16 ноя 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

XDoc-base-SQuAD2.0 — модель Microsoft для ответов на вопросы по тексту, связанная с проектом XDoc, представленным в работе о едином предварительном обучении для понимания документов разных форматов. В карточке указана архитектура RoBERTa с головой для question answering и 151,8 млн параметров; модель доступна в формате PyTorch, контекст — до 514 токенов.

Модель предназначена для поиска ответа на вопрос в предоставленном контексте и может применяться для извлечения сведений из документов и ответов на вопросы по их тексту. README описывает XDoc как единую предварительно обученную модель для разных форматов документов, но не уточняет модальности и конкретные возможности данного чекпойнта. Лицензия — MIT.

Сценарии применения

  • ответы на вопросы по тексту документа
  • извлечение фактов из предоставленного контекста
  • поиск ответа в тексте для справочной системы

Ограничения

Контекст ограничен 514 токенами. Данных о поддерживаемых языках и модальностях этой версии в карточке нет.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

XDoc

Introduction

XDoc is a unified pre-trained model that deals with different document formats in a single model. With only 36.7% parameters, XDoc achieves comparable or better performance on downstream tasks, which is cost-effective for real-world deployment.

XDoc: Unified Pre-training for Cross-Format Document Understanding Jingye Chen, Tengchao Lv, Lei Cui, Cha Zhang, Furu Wei, EMNLP 2022

Citation

If you find XDoc helpful, please cite us:

@article{chen2022xdoc,
  title={XDoc: Unified Pre-training for Cross-Format Document Understanding},
  author={Chen, Jingye and Lv, Tengchao and Cui, Lei and Zhang, Cha and Wei, Furu},
  journal={arXiv preprint arXiv:2210.02849},
  year={2022}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForQuestionAnswering
Ревизия весов
a0964fd

0 моделей