I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельKuiyen/bert-finetuned-ner — модель Kuiyen для распознавания именованных сущностей. Она дообучена на базе BERT base cased на наборе CoNLL-2003 и использует архитектуру BertForTokenClassification. Модель принимает текст и присваивает метки отдельным токенам, выделяя сущности в последовательности; максимальная длина контекста составляет 512 токенов. В репозитории указано 135,5 млн параметров. На оценочном наборе CoNLL-2003 модель показала F1 0,94, точность 0,9313, полноту 0,9488 и accuracy 0,9862. Эти результаты относятся к указанному набору данных и не гарантируют такого же качества на других текстах и предметных областях. Лицензия — Apache-2.0.
Модель sakib078/bert-finetuned-ner — версия BERT base cased, дообученная для классификации токенов, в частности для распознавания именованных сущностей. Она может размечать последовательность текста по классам токенов. В README приведены результаты на оценочной выборке: F1 0,9434, точность 0,9353, полнота 0,9515 и accuracy 0,9865. Модель построена на архитектуре BERT, содержит 135,5 млн параметров и принимает контекст до 512 токенов. Данные обучения и наборы меток не описаны, поэтому применимость к конкретным типам сущностей и языкам следует проверять на целевых данных. Распространяется по лицензии Apache-2.0.
Модель nickprock/bert-finetuned-ner-ontonotes — англоязычная модель распознавания именованных сущностей, разработанная на основе google-bert/bert-base-cased и дообученная на наборе OntoNotes 5. Она выполняет токенную классификацию и подходит для выделения сущностей в тексте, в том числе в текстах деловой тематики. Модель содержит 135,5 млн параметров, использует архитектуру BERT и принимает контекст длиной до 512 токенов. На оценочной выборке указаны F1 0,8702, точность 0,8567 и полнота 0,8842. Модель распространяется по лицензии Apache-2.0. Показатели получены на OntoNotes 5; качество на других доменах и типах текста может отличаться.
dslim/bert-large-NER — дообученная модель BERT Large Cased для распознавания именованных сущностей в английском тексте. Она размечает токены как сущности типа «человек», «организация», «место» и «прочее» либо как текст вне сущностей. Модель имеет 432,3 млн параметров и поддерживает контекст до 512 токенов; доступна в форматах PyTorch, TensorFlow, Flax, ONNX и safetensors. Модель подходит для извлечения имен и организаций из новостных статей и других англоязычных текстов, а также для предварительной разметки документов. Она обучена на английской версии CoNLL-2003, основанной на новостях Reuters; на тестовой выборке в README приведены F1 91,7, точность 91,2 и полнота 92,3. Результаты на других предметных областях могут быть хуже, а отдельные части токенов иногда получают метки сущностей и требуют постобработки. Модель разработал dslim. Лицензия — MIT.
marcosgg/bert-large-pt-ner-enamex — модель распознавания именованных сущностей на португальском языке, разработанная на основе BERTimbau Large и дообученная на объединении доступных корпусов. Она присваивает метки токенам текста по стандартной схеме enamex: LOC для географических объектов, PER для людей, ORG для организаций и MISC для прочих сущностей. Модель предназначена для извлечения и разметки сущностей в португальских текстах. Архитектура — BERT для классификации токенов; размер — 433,2 млн параметров, максимальный контекст — 512 токенов. На тестовом наборе авторы сообщают precision 0,919, recall 0,925 и F1 0,922. Лицензия AGPL-3.0.
Модель gagan3012/bert-tiny-finetuned-ner — компактная модель разметки последовательностей на основе prajjwal1/bert-tiny, дообученная на наборе данных CoNLL-2003. Она использует архитектуру BERT и содержит около 4,4 млн параметров; максимальная длина контекста — 512 токенов. Модель предназначена для распознавания именованных сущностей в тексте, например имён людей, организаций и географических названий. На оценочной выборке CoNLL-2003 указаны F1 0,8177, точность 0,8083, полнота 0,8274 и accuracy 0,9598. Карточка не описывает ограничения или условия лицензии, поэтому их нельзя уточнить по доступным данным.
jinho8345/bros-base-uncased — конвертированная версия предобученной модели BROS, разработанной командой Naver CLOVA для извлечения ключевой информации из документов. BROS сочетает текст с пространственными признаками макета страницы и обрабатывает результаты OCR в виде пар «текст и ограничивающая рамка». В метаданных указана архитектура BrosModel, 136,7 млн параметров и контекст до 512 токенов. Модель предназначена для построения систем извлечения структурированных данных из документов, например упорядоченных позиций из чеков. Для работы нужны распознанные OCR текст и координаты рамок; README описывает предобученную модель, но не подтверждает наличие готовой OCR-компоненты. Репозиторий содержит веса PyTorch и заявлен как конвертированная копия naver-clova-ocr/bros-base-uncased. Лицензия в предоставленных данных не указана.
BROS (BERT Relying On Spatiality) — предобученная модель команды NAVER CLOVA, разработанная для извлечения ключевой информации из документов с учетом текста и его расположения. Она принимает результаты OCR в виде пар «текст и ограничивающая рамка» и формирует признаки для последующих задач анализа документов, например извлечения упорядоченного списка товаров из чека. Модель построена на архитектуре BROS и предназначена для документов, где важны одновременно содержание текста и пространственная структура страницы. Репозиторий содержит вариант bros-base-uncased с 136,7 млн параметров, контекстом до 512 токенов и весами PyTorch. В README также упоминается более крупный вариант BROS, но этот репозиторий содержит базовую модель. Модель рассчитана на извлечение информации из документов после OCR; она не принимает изображение документа напрямую. README не указывает конкретные языки или лицензию, поэтому их нельзя определить по имеющимся данным.
Caption-Pro — дообученная мультимодальная модель prithivMLmods для создания подробных описаний и структурированных аннотаций изображений. Она основана на Qwen/Qwen2-VL-2B-Instruct и использует архитектуру Qwen2-VL с примерно 1,5 млрд параметров; принимает изображения и текстовые запросы, а выдаёт текст, в том числе аннотации в формате JSON. Заявлены контекст до 32 768 токенов, поддержка диалогового режима и OCR для текста на нескольких языках, включая английский, китайский, японский, корейский и арабский. Модель предназначена для автоматического описания изображений, извлечения текста и подготовки структурированных данных для приложений, баз данных и конвейеров автоматизации. Карточка заявляет обучение на большом наборе аннотированных изображений, но не приводит подробностей датасетов или результатов оценивания. Модель распространяется по лицензии Apache-2.0.
unsloth/DeepSeek-OCR — адаптированная для запуска и дообучения через актуальные версии Transformers копия DeepSeek-OCR, опубликованная Unsloth. В README указано, что изменения обеспечивают совместимость с Transformers и не влияют на точность. Это плотная мультимодальная модель семейства DeepSeek-VL-v2 с архитектурой DeepseekOCRForCausalLM и примерно 559,7 млн параметров. Модель предназначена для распознавания текста и извлечения содержимого из изображений документов. Она принимает изображения и текстовые инструкции, а результат выдаёт в текстовой форме; среди поддерживаемых задач также указана генерация текста. Контекст модели составляет 8192 токена, а карточка помечает её как многоязычную. Модель можно запускать и дообучать через Transformers; README также упоминает поддержку vLLM для ускорения инференса и обработки PDF. Репозиторий содержит веса safetensors. Лицензия — MIT. README не приводит подробных оценок качества или перечня поддерживаемых языков.
Модель TahaDouaji/detr-doc-table-detection разработана Таха Дуаажи для обнаружения таблиц в документах. Она дообучена на основе facebook/detr-resnet-50 и предназначена для поиска таблиц с рамками и без рамок на изображениях документов. Модель решает задачу обнаружения объектов и обучена на наборе ICDAR2019 Table Dataset. В репозитории представлены форматы PyTorch, Safetensors и ONNX; число параметров — 6,3 млн. Лицензия Apache-2.0. Модель принимает изображения и выдаёт классы объектов с ограничивающими рамками. Качество зависит от сходства входных документов с обучающими данными. Карточка предупреждает о возможных предвзятых или вредных стереотипах в предсказаниях; прикладные ограничения для распознавания таблиц подробно не описаны.
jinhybr/distilroberta-ConLL2003 — модель на базе distilroberta-base, дообученная автором на наборе данных CoNLL-2003 для распознавания именованных сущностей и классификации токенов. Она принимает текст и присваивает метки его токенам, в частности для задач NER на английском языке. В карточке указаны результаты на тестовой выборке: F1 0,9536 и loss 0,0585. Модель содержит 95,2 млн параметров, использует архитектуру XLM-RoBERTa и поддерживает контекст до 514 токенов. Распространяется по лицензии Apache-2.0.
Donut base — предварительно обученная модель для понимания изображений документов, разработанная командой NAVER CLOVA. Архитектура vision encoder-decoder сочетает визуальный энкодер Swin Transformer и текстовый декодер BART: по изображению модель авторегрессионно генерирует текст. Модель предназначена для дообучения под конкретные задачи, например классификацию изображений документов и извлечение структурированных данных из документов. Это базовый чекпойнт, а не готовое решение для конкретного типа документа; для прикладного использования обычно требуется дообучение. Распространяется по лицензии MIT.
de-Rodrigo/donut-merit — модель понимания документов на архитектуре Donut, дообученная разработчиком на наборе Merit для задач разбора форм. Она принимает изображение документа и формирует текстовое представление его содержимого. Модель относится к семейству vision-encoder-decoder и предназначена для сценариев извлечения информации из форм. Карточка указывает английский и испанский языки. Модель распространяется в формате safetensors по лицензии MIT. Основана на naver-clova-ix/donut-base-finetuned-cord-v2. README помечен как WIP; дополнительных сведений о качестве и ограничениях модели нет.
shubh1608/donut_pdf_ocr — модель архитектуры VisionEncoderDecoder, предназначенная для преобразования изображений документов в текст. В карточке указано обучение с нуля на наборе данных imagefolder; при этом метаданные каталога связывают модель с дообучением bn22/Mistral-7B-Instruct-v0.1-sharded, поэтому её происхождение описывается как дообучение. Автор приводит значение loss 0,0443 на оценочном наборе, но не уточняет методику оценки. Модель подходит для извлечения текста из изображений страниц PDF и других документов. Для неё указан формат PyTorch и задача image-text-to-text. Сведения о поддерживаемых языках и длине контекста в доступных данных отсутствуют. Лицензия не указана.
mlx-community/dots.mocr-bf16 — версия модели dots.mocr, подготовленная сообществом mlx-community для запуска в MLX и преобразованная из rednote-hilab/dots.mocr с помощью mlx-vlm 0.4.1. Это плотная модель семейства dots_ocr с архитектурой DotsOCRForCausalLM и 1,5 млрд параметров. Модель предназначена для анализа изображений и документов: распознавания текста, разбора структуры и компоновки страниц, таблиц и формул. Она поддерживает ввод изображений и текста и выдаёт текст; метаданные указывают английский, китайский и многоязычный режимы. Родной контекст составляет 131 072 токена. Версия рассчитана на использование в MLX, а README рекомендует запуск через mlx-vlm. Это преобразованная версия базовой модели, а не отдельная разработка. Лицензия — MIT. Качество распознавания и поддержка конкретных языков или типов документов зависят от исходной модели; подробности следует сверять с её карточкой.
DREX-062225-exp — экспериментальная модель для анализа документов, разработанная prithivMLmods путём дообучения docscopeOCR-7B-050425-exp. Она построена на архитектуре Qwen2.5-VL и содержит 7,1 млрд параметров; модель принимает изображения документов и текстовые запросы, а в ответ формирует текст. Заявленная длина контекста — 128 000 токенов. Модель предназначена для поиска сведений в документах, извлечения структурированных данных из таблиц и форм, распознавания текста и анализа структуры и связей между частями документа. Среди целевых сценариев — обработка деловых и исследовательских материалов, договоров и документов для регуляторной отчётности. Карточка также заявляет распознавание математических выражений с форматированием LaTeX и поддержку нескольких языков, но метаданные указывают английский как язык карточки и не перечисляют другие языки. Точность может снижаться на типах документов, отличающихся от обучающих данных, и на узкоспециализированных форматах. Обработка длинных документов требует достаточного объёма памяти, а качество зависит от настройки визуальных токенов и предварительной обработки изображений. Модель распространяется по лицензии Apache-2.0.
Модель autoevaluate/entity-extraction — версия distilbert-base-uncased, дообученная для классификации токенов на наборе данных CoNLL-2003. Она предназначена для извлечения именованных сущностей из текста, например распознавания имён людей, организаций и географических названий. Модель построена на архитектуре DistilBERT, принимает текст с контекстом до 512 токенов и выдаёт метки для токенов. В README приведены результаты оценки на тестовой выборке: F1 0,8972, точность 0,9775, полнота 0,9085. Карточка не описывает ограничения и не уточняет применимость за пределами CoNLL-2003; качество на других жанрах и языках может отличаться. Базовая модель uncased и обучающие данные указывают на английский язык. Лицензия — Apache-2.0.
solvi-ai/extract-receipts — англоязычная модель Solvi на базе ModernBERT-large, дообученная на чеках для извлечения полей по текстовому описанию. Она принимает текст OCR и возвращает точный фрагмент текста с границами и оценкой уверенности либо сообщает, что поле отсутствует; извлечение выполняется через библиотеку solvi. Модель обучали два эпоха на 800 чеках CORD v2 и поддерживает поля вроде позиций товаров, цен, количества, налогов, скидок, итоговой суммы, наличных и сдачи. Размер — 394,7 млн параметров, контекст — до 8192 токенов; доступны веса Safetensors и ONNX, включая запуск на CPU и WebGPU. Модель особенно хорошо извлекает суммы, налоги, наличные, сдачу и даты: в описанной оценке на тесте CORD точность по указанным группам вопросов составила 97,3%. Для названий магазинов она уступает базовой модели, поскольку CORD не содержит таких меток. Модель рассчитана на английские и индонезийского типа чеки в виде OCR-текста; другие форматы чеков проверены ограниченно. Лицензия Apache-2.0.
Gliese-OCR-7B-Post1.0-GGUF — мультимодальная модель для анализа документов, распознавания текста и извлечения структурированной информации. Она разработана prithivMLmods как GGUF-версия модели Gliese-OCR-7B-Post1.0, дообученной на основе Camel-Doc-OCR-062825 и построенной на архитектуре Qwen2.5-VL. Обучение было сфокусировано на наборе данных Opendoc2-Analysis-Recognition. Модель предназначена для Document Retrieval, OCR, Content Extraction, анализа и распознавания содержимого документов, связывания извлечённых элементов, а также задач Intelligent Document Processing. Поддерживаются текстовые и визуальные входные данные; заявлены английский и китайский языки. Доступен набор GGUF-квантизаций от F16 размером 15,2 ГБ до вариантов объёмом около 1,9 ГБ, а также отдельные файлы мультимодального проектора. Это позволяет выбирать компромисс между качеством и требованиями к памяти, однако README не содержит сравнительных оценок качества, сведений о контекстном окне или подробностей об ограничениях модели. Модель распространяется по лицензии Apache-2.0 и ориентирована на использование с совместимыми инструментами, включая llama.cpp и Transformers.
urchade/gliner_medium-v2.1 — англоязычная модель распознавания именованных сущностей из семейства GLiNER, разработанного Уршаде Заратианой, Нади Томе, Пьером Ола и Тьерри Шарнуа. Она использует двунаправленный энкодер-трансформер типа BERT и содержит 209 млн параметров. Модель извлекает из текста сущности заданных пользователем типов, поэтому подходит для сценариев, где нужны гибкие категории разметки без отдельного классификатора для каждого типа. Она предназначена для распознавания сущностей в англоязычном тексте и может служить более компактной альтернативой крупным языковым моделям для извлечения сущностей. Для работы авторы рекомендуют библиотеку GLiNER: модель загружается через `GLiNER.from_pretrained`, а сущности извлекаются функцией `predict_entities`. Репозиторий предоставляет веса PyTorch в формате Safetensors. Лицензия — Apache-2.0. В карточке не приведены результаты бенчмарков или конкретные ограничения качества; поддержка других языков для этой версии не заявлена.
GoLLIE-7B — языковая модель для извлечения информации, разработанная исследователями HiTZ Basque Center for Language Technology при Университете Страны Басков. Модель дообучена на основе CODE-LLaMA2 и следует подробным инструкциям и правилам аннотирования, заданным для конкретной схемы. Она генерирует структурированные результаты извлечения по описанным пользователем классам и указаниям. Модель предназначена для распознавания именованных сущностей, извлечения событий и отношений, а также для zero-shot извлечения информации и задач с пользовательскими схемами аннотирования. Это плотная архитектура LLaMA с 6,6 млрд параметров и контекстом до 16 384 токенов; заявленный язык — английский. В карточке приведены средние F1 55,3 для zero-shot и 73,0 для supervised оценки. Для запуска нужны совместимые средства работы с моделями PyTorch и Transformers. Модель распространяется по лицензии LLaMA 2; ограничения лицензии следует учитывать при использовании.
supreethrao/instructNER_fewnerd_xl — модель SpanMarker для распознавания именованных сущностей, обученная на наборе DFKI-SLT/few-nerd. Она размечает сущности в тексте по детализированным категориям, включая фильмы, музыкальные произведения и телепередачи; модель можно применять для извлечения сущностей из предложений и дообучать на собственных данных. Максимальная длина входной последовательности составляет 256 токенов, а длина распознаваемой сущности ограничена восемью словами. В README приведены метрики на наборе Few-NERD: общий F1 равен 0,7031. Модель распространяется в формате safetensors; сведения о лицензии в доступных материалах отсутствуют.
ivila-row-layoutlm-finetuned-s2vl-v2 — модель Allen Institute for AI на архитектуре LayoutLM, предназначенная для классификации токенов в документах. Она принимает текстовые токены вместе с их расположением на странице и помогает извлекать структурированную информацию из форм, чеков и других документов. Модель содержит 136,7 млн параметров и имеет контекст длиной до 512 токенов; заявленный язык — английский. Модель подходит для понимания изображений документов и извлечения информации с учётом текста и макета страницы. Карточка не приводит результатов оценки, подробностей обучающего набора данных или явных условий лицензии, поэтому качество на конкретных типах документов и права использования следует проверять отдельно.
Jellyfish-13B — языковая модель семейства Llama с 12,9 млрд параметров, разработанная исследователями из NEC Corporation и Osaka University. Модель дообучена на базе Open-Orca/OpenOrca-Platypus2-13B для предварительной обработки данных: обнаружения ошибок, заполнения пропусков, сопоставления схем и сопоставления сущностей. Также описаны сценарии аннотирования типов столбцов и извлечения значений атрибутов. Модель принимает текстовые инструкции и данные и генерирует текстовые ответы, предназначенные для использования в системах управления данными и аналитических конвейерах. Основной язык — английский; максимальный контекст составляет 4096 токенов. Авторы рекомендуют запускать её локально для контроля над данными и ускорять инференс с помощью vLLM. В README приведены сравнительные результаты на ряде наборов данных, но они не гарантируют аналогичного качества на других данных. Модель дообучена с использованием LoRA и предназначена для конкретных задач подготовки данных; авторы отмечают, что меньшие версии Jellyfish лучше обобщают на незнакомые задачи. Лицензия CC BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Jellyfish-7B — языковая модель на 7,1 млрд параметров, разработанная Хаочэнем Чжаном, Юянем Дуном, Чуанем Сяо и Масафуми Оямадой при поддержке NEC Corporation и Университета Осаки. Модель основана на Mistral-7B-Instruct-v0.2 и дообучена с помощью LoRA на подмножестве Jellyfish-Instruct. Это плотная авторегрессионная модель Mistral с контекстом до 32 768 токенов, предназначенная для диалоговой генерации текста на английском языке. Модель ориентирована на подготовку табличных данных: обнаружение ошибок, заполнение пропусков, сопоставление схем и сущностей, определение типов столбцов и извлечение значений атрибутов. В README приведены результаты сравнений на наборах данных для этих задач; заявленная доля побед над GPT-3.5-turbo в оценке GPT-4 составляет 56,36%. Лицензия CC BY-NC 4.0 допускает использование на некоммерческих условиях.
Jellyfish-8B — языковая модель с 7,5 млрд параметров на архитектуре Llama, разработанная Хаочэнем Чжаном, Юяном Дуном, Чуанем Сяо и Масафуми Оямадой при поддержке NEC Corporation и Университета Осаки. Модель дообучена с помощью LoRA на базе Meta-Llama-3-8B-Instruct на части набора Jellyfish-Instruct и предназначена для работы с табличными данными на английском языке. Модель применяют для выявления ошибочных значений и заполнения пропусков в данных, сопоставления схем и сущностей, определения типов столбцов и извлечения атрибутов товаров. Она принимает текстовые запросы и генерирует текстовые ответы; контекст составляет 8192 токена. В карточке приведены результаты на наборах данных для этих задач, включая сравнение с другими моделями. Лицензия CC BY-NC-4.0 разрешает использование на некоммерческих условиях. Оценки в карточке относятся к конкретным наборам данных и настройкам промптов, поэтому сами по себе не гарантируют аналогичного качества на других данных.
Kiel-2-VQA — мультимодальная модель для понимания изображений и диалоговых запросов, разработанная KielTech на основе архитектуры Qwen2.5-VL и дообученная на базе unsloth/qwen2.5-vl-7b-instruct-unsloth-bnb-4bit. Модель принимает изображения вместе с текстовыми вопросами и формирует текстовые ответы; она предназначена для визуального поиска информации и анализа содержимого изображений. Модель ориентирована на ответы на вопросы по фотографиям, диаграммам, интерфейсам и иллюстрациям, разбор документов, таблиц и графиков, извлечение текста методом OCR и определение координат объектов и визуальных элементов. В карточке заявлены высокая точность распознавания текста и экономичный инференс благодаря 4-битной оптимизации BNB NF4. Архитектура — Qwen2_5_VLForConditionalGeneration; поддерживаемый язык — английский. Лицензия Apache 2.0.
KnowLM-13B-IE — модель семейства LLaMA, разработанная ZJUNLP для извлечения информации из текста. Она предназначена для распознавания именованных сущностей, извлечения отношений и событий, определения типов событий и извлечения аргументов событий. Модель принимает инструкции с описанием задачи, необязательной схемой меток и требуемым форматом структурированного ответа; результат выдаётся в текстовом виде. Модель содержит 12,9 млрд параметров, использует архитектуру LlamaForCausalLM и имеет контекст 2048 токенов. README описывает работу с китайскими и английскими наборами данных и шаблоны на китайском языке, а также перечисляет пять задач извлечения информации. Вариант IE обучен с отрицательной выборкой: он может возвращать NAN для отсутствующих отношений или типов, что полезно при извлечении по заданной схеме. По сравнению с KnowLM-13B-Zhixi практичность извлечения информации несколько выше, но общая применимость и способность к обобщению ниже. Для работы требуется форматировать входные данные в виде инструкции и входного текста, задавая схему и формат ответа. Лицензия в предоставленных данных не указана.
surdan/LaBSE_ner_nerel — модель для распознавания именованных сущностей в тексте. Она основана на cointegrated/LaBSE-en-ru и дообучена на наборе данных surdan/nerel_short. Архитектура — BERT с классификацией токенов, размер — 155,5 млн параметров; модель принимает текстовые последовательности длиной до 512 токенов и относит токены к меткам сущностей. Модель предназначена для извлечения именованных сущностей из текстов, прежде всего в сценариях разметки русскоязычных документов и текстов NEREL. В метаданных также указана поддержка английского языка, однако сведения о качестве на английских данных отсутствуют. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.