/ Модель

Характеристики

Лицензия
Apache 2.0
Архитектура
mineru · dense
Библиотека
transformers
Опубликована
7 ноя 2024

MinerU

ЭмбеддингиТекст → embedding7 профессий

MinerU предназначена для преобразования PDF в Markdown с распознаванием структуры документа, формул и таблиц.

27скачиваний за 30 дней17лайковвеса обновлены8 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MinerU — модель для автоматического преобразования PDF-документов в Markdown. Она предназначена для извлечения текста с учётом структуры страницы, распознавания математических формул и восстановления таблиц, например при обработке академических статей, учебников и технической документации. В README описана составная архитектура: Detectron2 для анализа макета, сверточная сеть для обнаружения формул, BERT для их распознавания и T5 для восстановления таблиц. Метаданные Hugging Face относят репозиторий к feature-extraction; заявленный в README сценарий преобразования PDF в Markdown с этим тегом не совпадает.

Заявлены поддержка китайского и английского языков и ограничения до 100 страниц и 50 МБ на PDF. README приводит точность распознавания текста 95%, формул 90% и восстановления таблиц 85%, но не описывает методику оценки. Использование рассчитано на среду с Python, PyTorch и Detectron2; указаны требования от 16 ГБ ОЗУ и 8 ГБ видеопамяти. Лицензия — Apache-2.0.

Сценарии применения

  • конвертация академических статей из PDF в Markdown
  • извлечение текста и структуры страниц PDF
  • распознавание математических формул в документах
  • восстановление таблиц из PDF
  • преобразование учебников и технической документации в Markdown

Ограничения

README указывает ограничения до 100 страниц и 50 МБ на PDF. Приведённые показатели точности не сопровождаются описанием методики оценки.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MinerU PDF to Markdown Model

这个模型可以将PDF文档转换为Markdown格式。

Model Description

MinerU使用多模型组合架构:

  • Layout: 文档布局分析 (Detectron2)
  • MFD: 数学公式检测 (PyTorch)
  • MFR: 数学公式识别 (BERT-based)
  • TabRec: 表格识别与重建 (T5-based)

Intended Uses

本模型用于将PDF文档自动转换为Markdown格式,支持:

  • 文本布局分析
  • 数学公式识别
  • 表格结构重建

Usage

from transformers import pipeline

converter = pipeline("document-conversion", model="kitjesen/MinerU")
markdown = converter("document.pdf")

Limitations and Bias

  • 最大支持页数:100页
  • PDF文件大小限制:50MB
  • 支持语言:中文、英文

Training Data

模型使用以下数据训练:

  • 学术论文数据集
  • 教材文档数据集
  • 技术文档数据集

Training Procedure

使用多阶段训练流程:

  1. 预训练各个子模型
  2. 联合训练优化
  3. 端到端微调

Evaluation Results

  • 文本识别准确率:95%
  • 公式识别准确率:90%
  • 表格重建准确率:85%

Environmental Impact

  • 硬件要求:GPU with 8GB+ VRAM
  • 推理时间:~2s/页

Technical Specifications

Model Architecture

  • Layout: Detectron2 (FasterRCNN)
  • MFD: Custom CNN
  • MFR: BERT-based
  • TabRec: T5-based

Hardware Requirements

  • RAM: 16GB+
  • GPU: 8GB+ VRAM
  • Storage: 5GB

Software Requirements

  • Python >= 3.7
  • PyTorch >= 1.9.0
  • transformers >= 4.28.0
  • detectron2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры
MinerUModel
Ревизия весов
c135d9e

0 моделей