/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Лицензия
CC BY-NC-SA 4.0
Архитектура
layoutlmv3 · dense
Опубликована
18 апр 2022

layoutlmv3-base

Языковая модель9 профессий

Мультимодальный предобученный Transformer Microsoft для понимания текста, изображений и структуры документов с возможностью дообучения под задачи Document AI.

935 тыс.скачиваний за 30 дней517лайковвеса обновлены10 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LayoutLMv3-base — мультимодальный предобученный Transformer для анализа документов, разработанный Microsoft. Модель объединяет текст и изображение документа в общей архитектуре и использует маскирование текста и изображения при предобучении. Вариант base содержит 151,8 млн параметров и рассчитан на контекст до 514 токенов.

Модель предназначена для дообучения под задачи понимания форм и чеков, визуальных вопросов и ответов по документам, классификации изображений документов и анализа их структуры. Она принимает текстовые данные с изображением документа и может выдавать текстовые ответы, категории или структурированную разметку в зависимости от выбранной задачи и дообучения. В карточке указана поддержка английского языка.

Доступны веса PyTorch, TensorFlow и ONNX, в том числе в формате Safetensors. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных работ на тех же условиях и ограничивает коммерческое использование.

Сценарии применения

  • извлечение полей из форм
  • понимание чеков и извлечение их содержимого
  • ответы на вопросы по изображению документа
  • классификация сканов документов
  • анализ структуры и разметки страницы документа

Ограничения

Это предобученная базовая модель, которую обычно нужно дообучить для конкретной задачи; качество зависит от используемого датасета и настройки. Лицензия CC BY-NC-SA 4.0 не допускает коммерческое использование.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LayoutLMv3

Microsoft Document AI | GitHub

Model description

LayoutLMv3 is a pre-trained multimodal Transformer for Document AI with unified text and image masking. The simple unified architecture and training objectives make LayoutLMv3 a general-purpose pre-trained model. For example, LayoutLMv3 can be fine-tuned for both text-centric tasks, including form understanding, receipt understanding, and document visual question answering, and image-centric tasks such as document image classification and document layout analysis.

LayoutLMv3: Pre-training for Document AI with Unified Text and Image Masking Yupan Huang, Tengchao Lv, Lei Cui, Yutong Lu, Furu Wei, ACM Multimedia 2022.

Citation

If you find LayoutLM useful in your research, please cite the following paper:

@inproceedings{huang2022layoutlmv3,
  author={Yupan Huang and Tengchao Lv and Lei Cui and Yutong Lu and Furu Wei},
  title={LayoutLMv3: Pre-training for Document AI with Unified Text and Image Masking},
  booktitle={Proceedings of the 30th ACM International Conference on Multimedia},
  year={2022}
}

License

The content of this project itself is licensed under the Attribution-NonCommercial-ShareAlike 4.0 International (CC BY-NC-SA 4.0). Portions of the source code are based on the transformers project. Microsoft Open Source Code of Conduct

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Ревизия весов
cfbbbff

0 моделей