/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Архитектура
markuplm · dense
Опубликована
2 мар 2022

markuplm-base

Языковая модель8 профессий

MarkupLM-base — модель Microsoft для понимания структуры веб-страниц и извлечения сведений по тексту и HTML-разметке.

33 168скачиваний за 30 дней32лайкавеса обновлены15 дек 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MarkupLM-base — мультимодальная модель Microsoft для понимания веб-страниц и документов с визуально насыщенной структурой. Она обучена совместно на тексте и разметке страниц, чтобы учитывать содержание и структуру HTML при ответах на вопросы и извлечении информации. Работа модели описана в статье ACL 2022 о предварительном обучении текста и разметки для понимания документов.

Модель содержит около 151,9 млн параметров, использует архитектуру MarkupLM и распространяется в формате PyTorch. В карточке указана поддержка английского языка и контекст длиной 514 токенов. Репозиторий описывает задачи веб-вопросов и ответов и извлечения информации со страниц; конкретный pipeline-тег в метаданных не указан, поэтому задачам Hugging Face сопоставить её достоверно нельзя.

Модель подходит для исследовательских и прикладных систем анализа веб-страниц, которым важно учитывать HTML-разметку вместе с текстом. README ссылается на документацию и демонстрационные блокноты. Лицензия в предоставленных данных не указана.

Сценарии применения

  • ответы на вопросы по содержимому веб-страниц
  • извлечение полей и сведений из HTML-страниц
  • анализ структуры визуально насыщенных документов
  • создание систем понимания веб-страниц с учётом разметки

Ограничения

Контекст ограничен 514 токенами. В предоставленной карточке не приведены условия лицензии и конкретные инструкции по запуску.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MarkupLM

Multimodal (text +markup language) pre-training for Document AI

Introduction

MarkupLM is a simple but effective multi-modal pre-training method of text and markup language for visually-rich document understanding and information extraction tasks, such as webpage QA and webpage information extraction. MarkupLM archives the SOTA results on multiple datasets. For more details, please refer to our paper:

MarkupLM: Pre-training of Text and Markup Language for Visually-rich Document Understanding Junlong Li, Yiheng Xu, Lei Cui, Furu Wei, ACL 2022

Usage

We refer to the docs and demo notebooks.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры
MarkupLMForPretraining
Ревизия весов
7b1ef35

0 моделей