Описание модели
Модель Donut (end-to-end transformer) для распознавания текстов на русском языке.
https://github.com/clovaai/donut
Для обучения сгенерирован датасет SynthDoG из 100тыс изображений, с текстами, взятыми из произведений русской литературы.
https://huggingface.co/datasets/Akajackson/donut_synthdog_rus
Модель обучена на ноутбуке от уважаемого NielsRogge с заменой оригинального токенайзера на DeepPavlov/xlm-roberta-large-en-ru на площадке Kaggle.
https://github.com/NielsRogge/Transformers-Tutorials/blob/master/Donut/CORD/Fine_tune_Donut_on_a_custom_dataset_(CORD)_with_PyTorch_Lightning.ipynb
Метрика на валидации Normed ED: 0.02239.
Возможности модели
Данная модель является базовой для следующих задач:
- распознавание различных типов документов;
- ответы на вопросы по документу;
- классификация документов.
Для решения Вашей задачи возможно использовать выше упомянутые ноутбуки.
Датасет необходимо разметить в формате, который указан в репозитории Donut.