I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельJean-Baptiste разработал эту модель распознавания именованных сущностей на английском языке: она основана на RoBERTa-large и дообучена на датасете CoNLL-2003. Модель размечает токены текста категориями PER (имена людей), ORG (организации), LOC (места), MISC (прочие сущности) и O (токены вне сущностей); префиксы B- и I- в исходной схеме CoNLL-2003 объединены. Модель рассчитана на извлечение сущностей из английских текстов, в том числе писем, чатов и неформальных обсуждений. В README сообщается, что на данных такого типа она лучше распознавала сущности, начинающиеся со строчной буквы. На проверочной выборке CoNLL-2003 указана общая F1-оценка 0,9753; на частном наборе писем и чатов показатели ниже, особенно для организаций. Архитектура — RobertaForTokenClassification, размер — 454,1 млн параметров, длина контекста — 514 токенов. Доступны версии в форматах PyTorch, TensorFlow и ONNX, включая веса Safetensors. Лицензия — MIT.
RT-DETR-L_wireless_table_cell_det_safetensors — модуль обнаружения ячеек таблиц на изображениях из семейства RT-DETR, опубликованный PaddlePaddle для использования в PaddleOCR. Он находит области ячеек и возвращает их ограничивающие рамки, которые затем можно передать в конвейер распознавания таблиц для дальнейшей обработки. Карточка указывает, что заявленная точность получена при совместном тестировании с модулем RT-DETR-L_wired_table_cell_det. Модель распространяется в формате safetensors по лицензии Apache-2.0.
SchemaForge V2 — Distilled MiniCPM5-1B — это дообученная методом последовательной дистилляции компактная языковая модель проекта SchemaForge. Указанная в README базовая модель — openbmb/MiniCPM5-1B; метаданные описывают архитектуру как плотную LlamaForCausalLM с 837,6 млн параметров и контекстом до 131 072 токенов. Модель предназначена для извлечения полей из документов в JSON по 12 схемам: счетам, чекам, резюме, договорам, обращениям в поддержку, медицинским записям, страховым случаям, CRM-записям, письмам, диалогам, формам и триплетам графа знаний. Обучение проводилось на примерах, размеченных учителем google/gemma-4-31B. Лучший результат авторы получают при совместной работе модели с детерминированным предварительным извлечением: гибридная система показала F1 по полям 0,6827, частоту галлюцинаций 0,0092 и валидность схемы 0,8333 на тестовом наборе из 72 записей. Самостоятельный результат модели заметно слабее: F1 0,4841 и валидность схемы 0,8194; авторы рекомендуют запускать её в гибридном конвейере с соответствующим форматом запроса и списком неразобранных полей. Выявленная основная ошибка — пропуск полей; оценка уверенности без дополнительной калибровки ненадёжна. Модель выпущена под лицензией Apache-2.0.
EMBO/sd-ner-v2 — дообученная модель на архитектуре BERT для распознавания именованных сущностей в тексте. Она создана на основе microsoft/BiomedNLP-PubMedBERT-base-uncased-abstract и дообучена на наборе source_data_nlp. Модель содержит 136,7 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель предназначена для выделения и классификации сущностей по токенам. На оценочном наборе указаны accuracy 0,9513, precision 0,8030, recall 0,8378 и F1 0,8200. Язык и конкретные типы сущностей в карточке не описаны. Лицензия — MIT.
Карточка модели selvakumarcts/sk_invoice_receipts на Hugging Face совпадает с карточкой mychen76/invoice-and-receipts_donut_v1, поэтому описание составлено по ней. mychen76/invoice-and-receipts_donut_v1 — модель на основе Donut, дообученная для извлечения структурированных данных из изображений счетов и чеков. Она принимает изображение документа и формирует результат в виде JSON или XML, позволяя преобразовывать содержимое документа без отдельного OCR-движка. Модель предназначена для автоматизации обработки счетов и чеков, например для извлечения сведений о покупке и переноса их в структурированные системы. В метаданных указана архитектура vision-encoder-decoder и формат весов PyTorch/Safetensors. Модель опубликована под лицензией Apache-2.0. В README модель названа экспериментальной. Карточка не приводит сведения о размере модели, контекстном окне или поддерживаемых языках документов; качество извлечения на разных шаблонах и языках не описано.
SLIM-EXTRACT — специализированная языковая модель компании llmware для извлечения из текста элементов по заданному пользователем ключу. Она принимает текстовый фрагмент и ключ, например «universities» или «company», и генерирует словарь Python, где этому ключу соответствует список найденных в тексте значений. Модель предназначена для извлечения структурированных сведений из документов и использования в сценариях function calling. Модель дообучена на llmware/bling-stable-lm-3b-4e1t-v0, основанной на stabilityai/stablelm-3b-4elt. Это плотная авторегрессионная модель семейства StableLM Epoch с 2,7 млрд параметров и контекстом до 4096 токенов. Репозиторий содержит веса PyTorch; лицензия — CC BY-SA 4.0. README не сообщает перечень поддерживаемых естественных языков или количественные показатели качества.
SLIM-EXTRACT-PHI-3 — специализированная модель llmware для извлечения сведений из текста по заданному пользователем ключу. Она принимает контекстный фрагмент и название поля, а затем генерирует словарь Python, где этому ключу соответствует список найденных в тексте элементов. Модель построена на архитектуре Phi-3, имеет 3,7 млрд параметров и контекст длиной 4096 токенов; в метаданных указана поддержка чата и библиотека Transformers. Модель предназначена для извлечения сущностей и других значений из текстов по настраиваемому запросу, например названий компаний или университетов. Результат генерируется как текст, поэтому его можно преобразовать в словарь Python, проверив корректность разбора. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. В карточке не заявлены поддерживаемые языки или специализированная предметная область.
SLIM-EXTRACT-TINY — специализированная модель компании llmware для извлечения из текста элементов, соответствующих заданному пользователем ключу. Она принимает контекстный фрагмент и ключ, например «company», и генерирует словарь Python, где этому ключу соответствует список найденных значений. Модель предназначена для структурирования сведений из текстов и вызова функции extract через библиотеку llmware или Transformers. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, содержащая 1 млрд параметров. По README, она дообучена на базе TinyLlama 1B. Модель работает с текстом, использует контекст до 2048 токенов и распространяется в формате PyTorch под лицензией Apache-2.0. Модель подходит для извлечения заданных сущностей и фактов в структурированный вид. Она рассчитана на конкретный формат запроса и не заявлена как универсальный чат-бот; корректность вывода словаря и полноту извлечения следует проверять на целевых данных. README рекомендует для быстрого инференса отдельную квантованную версию.
Модель tomaarsen/span-marker-bert-base-fewnerd-fine-super — модель SpanMarker для распознавания именованных сущностей, разработанная на основе bert-base-cased и дообученная на наборе FewNERD. Она обрабатывает английский текст и определяет сущности из множества категорий, включая типы произведений искусства и развлечений. Модель принимает последовательности длиной до 256 токенов и распознаёт сущности длиной до 8 слов. Модель подходит для извлечения и классификации упоминаний сущностей в текстах, а также для дальнейшего дообучения на собственном наборе данных. Она использует библиотеку SpanMarker и распространяется в форматах PyTorch и safetensors. Лицензия — CC-BY-SA-4.0.
Модель lxyuan/span-marker-bert-base-multilingual-uncased-multinerd — дообученная версия bert-base-multilingual-uncased с архитектурой SpanMarker, созданная в рамках воспроизведения работы Tom. Она предназначена для распознавания именованных сущностей в тексте: людей, организаций и местоположений. Модель обучена на наборе Babelscape/multinerd и поддерживает немецкий, английский, испанский, французский, итальянский, нидерландский, польский, португальский, русский и китайский языки. В карточке приведён общий F1 91,88 на тестовой выборке; автор отмечает, что вариант без учёта регистра может уступать варианту с учётом регистра, поэтому рекомендует сравнивать их на целевых данных. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая ограничивает коммерческое использование. Результаты могут зависеть от языка и предметной области; README также отмечает чувствительность к точкам в контексте распознавания сущностей, связанных с едой.
SpanMarker — модель для распознавания именованных сущностей в английском тексте, разработанная и обученная на датасете FewNERD. Она использует дообученный энкодер roberta-large и библиотеку SpanMarker для разметки сущностей. Модель предназначена для извлечения и классификации названий людей, организаций, произведений и других сущностей в предложениях и документах. Максимальная длина последовательности составляет 256 токенов, а максимальная длина распознаваемой сущности — 8 слов. Модель можно применять для извлечения сущностей из текста и дообучать на собственных данных. Она принимает текст и выдаёт метки сущностей для его фрагментов. Лицензия — CC BY-SA 4.0.
tanaos-NER-v1 — модель распознавания и классификации именованных сущностей, созданная Tanaos с библиотекой Artifex. Это дообученная на синтетических данных модель FacebookAI/roberta-base с архитектурой RoBERTa и 151,8 млн параметров; она выполняет разметку токенов в тексте и распознаёт 14 категорий сущностей, включая людей, организации и географические объекты. Для обработки текста доступен контекст до 514 токенов. Модель предназначена для извлечения сущностей в чат-ботах, системах извлечения информации и инструментах анализа данных. В README заявлена поддержка английского языка и использование в многоязычных сценариях более чем с 16 языками, однако конкретный список языков не приведён. Модель распространяется по лицензии MIT.
TeleOCR — компактная мультимодальная модель StarDoc-AI для разбора документов по изображениям. В метаданных указаны архитектура Qwen2.5-VL, 507,9 млн параметров, контекст 128 000 токенов и библиотека Transformers; README описывает модель как примерно 1,2-миллиардную. Эти сведения о размере расходятся между источниками. Модель предназначена для извлечения текста и структуры из цифровых и снятых камерой документов, включая искажённые страницы, таблицы и формулы. В README заявлены геометрически ориентированное моделирование, автоматическая генерация и проверка обучающих данных и поэтапное обучение. Модель принимает изображения документов и формирует текстовый разбор; в метаданных также отмечена поддержка чата. Заявлены результаты на нескольких тестах разбора документов, но они приведены авторами и сами по себе не гарантируют качество на конкретных данных. Модель опубликована под лицензией Apache-2.0. Для запуска README предлагает Transformers, PyTorch и Pillow; для полного разбора документов авторы отсылают к отдельному репозиторию.
Text2Graph-R1-Qwen2.5-0.5b — компактная языковая модель Ihor для извлечения графов знаний из текста. Это воспроизведение подхода DeepSeek R1, дообученное на базе Qwen/Qwen2.5-0.5B-Instruct с помощью supervised learning и обучения с подкреплением GRPO. Модель предназначена для извлечения сущностей и отношений и выдачи результата в структурированном JSON, пригодном для машинной обработки. В обучении использовались награды за корректный формат JSON и F1 извлечённых сущностей и отношений. Модель имеет 494 млн параметров, архитектуру Qwen2ForCausalLM и контекст до 32 768 токенов; метаданные указывают поддержку русского, английского и других языков. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Модель унаследовала ограничения базовой компактной языковой модели, а качество извлечения может зависеть от языка, предметной области и соответствия входного текста ожидаемой схеме JSON.
jplu/tf-xlm-r-ner-40-lang — дообученная модель XLM-RoBERTa-base для распознавания именованных сущностей в 40 языках на датасете WikiAnn из набора XTREME. Она классифицирует токены текста как географические названия (LOC), организации (ORG), имена людей (PER) или прочие (O), чтобы извлекать сущности из многоязычных текстов. Модель использует архитектуру XLM-RoBERTa для классификации токенов, содержит 305,2 млн параметров и поддерживает контекст до 514 токенов. Репозиторий содержит веса TensorFlow. В карточке приведены результаты на корпусах для разных языков, включая русский; объём данных различается между языками. Подходит для извлечения персон, организаций и мест из текстов на разных языках. Карточка описывает работу как продолжающуюся, поэтому качество может различаться между языками, а модель распознаёт только три типа сущностей. Лицензия в предоставленных данных не указана.
asahi417 выпустил модель XLM-RoBERTa, дообученную для распознавания именованных сущностей (NER) на наборе OntoNotes 5. Она присваивает метки токенам текста, чтобы выделять в нём сущности, например имена людей, организаций и географические названия. Модель подходит для извлечения сущностей из текста в конвейерах обработки естественного языка. Модель имеет архитектуру XLM-RoBERTa для классификации токенов, содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Доступны веса в формате PyTorch. README отсылает к репозиторию TNER за дополнительными сведениями. Лицензия в предоставленных данных не указана.
UDOP-large-512 — модель семейства UDOP для обработки документов, представленная в работе Zineng Tang, Ziyi Yang и соавторов. Она использует архитектуру encoder-decoder Transformer на основе T5 и объединяет визуальную информацию, текст и структуру расположения элементов документа. Модель содержит 386,3 млн параметров и предназначена для классификации изображений документов, разбора документов и визуальных вопросов и ответов по документам (DocVQA). Модель принимает изображение документа и текстовый запрос или инструкцию и генерирует текстовый ответ либо результат разбора. Карточка описывает задачи обработки документов, но не сообщает поддерживаемые языки или длину контекста. Веса опубликованы в формате safetensors; лицензия — MIT.
UDOP-large-512-300k — модель для анализа документов, разработанная авторами работы «Unifying Vision, Text, and Layout for Universal Document Processing». Она использует архитектуру encoder-decoder Transformer на основе T5 и предназначена для задач, объединяющих изображение документа, текст и его пространственную структуру. Модель с 386,3 млн параметров принимает изображение документа и текстовый запрос, а затем генерирует текстовый ответ. Её можно применять для классификации изображений документов, разбора документов и визуальных вопросов и ответов по документам (DocVQA). Веса опубликованы в формате safetensors; лицензия — MIT.
ukr-models/uk-ner — модель для распознавания именованных сущностей в украинском тексте. Она создана дообучением XLM-RoBERTa-Uk на синтетическом наборе данных разметки сущностей и выдаёт метки для токенов: начало и продолжение имени человека, локации или организации. Модель основана на архитектуре XLM-RoBERTa, содержит 137,3 млн параметров и принимает контекст длиной до 514 токенов. Модель подходит для извлечения имён людей, географических названий и организаций из украинских текстов. Она распространяется в форматах PyTorch и safetensors по лицензии MIT. Поскольку обучение проводилось на синтетическом наборе данных, качество распознавания на реальных текстах может зависеть от жанра и распределения данных.
Модель Unified Multilingual NER разработана Ришабхом Кумаром и дообучена на базе microsoft/mdeberta-v3-base для многоязычного распознавания именованных сущностей. Она выполняет классификацию токенов и выделяет сущности 47 категорий, используя 95 BIO-меток. Веса LoRA объединены с базовой моделью; архитектура относится к DeBERTa V2, размер по метаданным — 306 млн параметров, контекст — до 512 токенов. Модель предназначена для извлечения персон, организаций, мест, событий, продуктов и других сущностей из новостей, веб-текстов, социальных сетей и материалов Википедии, а также для построения графов знаний и многоязычных NLP-конвейеров. Заявлена поддержка 15 языков: английского, испанского, французского, немецкого, итальянского, португальского, шведского, нидерландского, польского, русского, бенгальского, хинди, фарси, китайского и украинского. В README приведены оценки на тестовых наборах; результаты зависят от языка и источника данных. Модель распространяется по лицензии MIT. Она не предназначена для специализированного распознавания сущностей в юридических, финансовых или клинических текстах без дополнительной адаптации; для языков вне заявленного списка качество не подтверждено.
Карточка модели Vongxman/Unlimited-OCR на Hugging Face совпадает с карточкой baidu/Unlimited-OCR, поэтому описание составлено по ней. Unlimited-OCR — мультимодальная модель Baidu для распознавания текста и разбора документов по изображениям. Она предназначена для обработки длинных документов за один проход, включая сценарии с PDF, предварительно преобразованными в изображения. Модель построена на архитектуре UnlimitedOCRForCausalLM, содержит 559,7 млн параметров, принимает изображения и текстовые инструкции и выдаёт текст. Поддерживает многоязычные сценарии и контекст длиной до 32 768 токенов. Модель доступна для запуска через Transformers, vLLM и SGLang; карточка также описывает оценку на OmniDocBench. Лицензия — MIT. Карточка не приводит подробностей о точности по языкам и типам документов, поэтому качество для конкретного набора документов следует проверять отдельно.
Модель creemur/xlm-roberta-base-finetuned-panx-all — версия XLM-RoBERTa Base, дообученная для классификации токенов. Она предназначена для задач разметки последовательностей, в частности для распознавания именованных сущностей в тексте на разных языках с использованием набора PAN-X. Модель содержит 305,2 млн параметров, принимает текст и имеет контекст до 514 токенов. В карточке указаны результаты оценки: F1 0,8502 и loss 0,1701. Модель опубликована в формате safetensors и распространяется по лицензии MIT. README не уточняет состав обучающего набора и ограничения применения.
h1nadesu/xlm-roberta-base-finetuned-panx-all — модель XLM-RoBERTa, дообученная для классификации токенов. Она предназначена для разметки последовательностей, в частности для задач распознавания сущностей по токенам в разных языках. Модель содержит 305,2 млн параметров, принимает текст и имеет контекст до 514 токенов. В README приведён результат на оценочной выборке: F1 0,8683. Модель разработана на основе FacebookAI/xlm-roberta-base и распространяется в формате safetensors под лицензией MIT. Карточка не раскрывает состав обучающего набора и детальные ограничения; название указывает на дообучение на PAN-X для нескольких языков.
Davlan/xlm-roberta-large-ner-hrl — многоязычная модель распознавания именованных сущностей, разработанная Davlan на основе XLM-RoBERTa Large, дообученной для разметки токенов. Модель содержит 658,7 млн параметров и принимает текстовые последовательности с контекстом до 514 токенов. Модель предназначена для извлечения из текста имён людей (PER), организаций (ORG) и мест (LOC) на арабском, немецком, английском, испанском, французском, итальянском, латышском, нидерландском, португальском и китайском языках. Её можно применять для разметки новостных текстов и извлечения сущностей в многоязычных потоках документов. Обучение проводилось на размеченных новостных корпусах для этих десяти языков. Поэтому качество может снижаться на других предметных областях и текстах, отличающихся от обучающих данных. Модель распространяется по лицензии AFL-3.0.
raulgdp/xml-roberta-large-finetuned-ner — модель распознавания именованных сущностей, созданная дообучением FacebookAI/xlm-roberta-large-finetuned-conll03-english на наборе данных CoNLL-2002. Она использует архитектуру XLM-RoBERTa-large с классификацией токенов; размер составляет 658,7 млн параметров, контекст — до 514 токенов. В карточке приведены результаты на оценочной выборке: F1 0,8851, точность 0,8806, полнота 0,8897 и accuracy 0,9806. Модель предназначена для разметки токенов и извлечения именованных сущностей из текста. Лицензия и подробности о поддерживаемых языках в предоставленных данных не указаны.
Это модель для распознавания именованных сущностей в русском тексте, разработанная Сергеем Бирюковым. Она основана на XLM-RoBERTa Large и дообучена на русской части датасета WikiANN для задачи классификации токенов. Модель содержит около 658,7 млн параметров, принимает текст и присваивает метки его токенам, выделяя сущности. Для неё указаны контекст до 514 токенов, библиотека Transformers и лицензия MIT. Карточка не приводит перечень типов сущностей или оценку качества, поэтому точность для конкретных данных по имеющимся сведениям оценить нельзя.
keremberke/yolov8n-table-extraction — модель компьютерного зрения на базе YOLOv8, опубликованная Keremberke для обнаружения таблиц в документах. Она обучена распознавать таблицы с рамками и без рамок и предназначена для выделения их областей на изображении. Модель использует библиотеку Ultralytics и доступна в формате PyTorch. Модель подходит для автоматического поиска таблиц при обработке сканов и изображений документов, в том числе как этап предварительной обработки перед извлечением содержимого таблиц. Карточка указывает классы bordered и borderless. Сведения о лицензии и количественных показателях качества в предоставленных данных отсутствуют.
dbmdz/bert-base-cased-finetuned-conll03-english — англоязычная модель распознавания именованных сущностей, разработанная в сообществе dbmdz на основе bert-base-cased и дообученная на CoNLL-2003. Она присваивает метки токенам текста, чтобы выделять сущности, например людей, организации и географические названия. Архитектура — BERT для классификации токенов; модель содержит около 135,5 млн параметров и принимает последовательности длиной до 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Модель ориентирована на английский язык и задачу NER; перенос на другие языки или существенно отличающиеся типы текста может требовать дополнительной адаптации.
onnx-community/bert-base-multilingual-cased-ner-hrl-ONNX — ONNX-версия модели Davlan/bert-base-multilingual-cased-ner-hrl, автоматически сконвертированная и опубликованная сообществом ONNX на Hugging Face. Модель основана на многоязычной базовой версии BERT mBERT и предназначена для распознавания именованных сущностей в текстах. Модель решает задачу token classification и выделяет три типа сущностей: людей (PER), организации (ORG) и местоположения (LOC). Она обучена для арабского, немецкого, английского, испанского, французского, итальянского, латышского, нидерландского, португальского и китайского языков. Предусмотрено использование через Transformers.js и pipeline token-classification, что подходит для локального или браузерного инференса в ONNX-совместимой среде. Сильной стороной модели является единая многоязычная архитектура для десяти языков и поддержка определения границ соседних сущностей одного типа. Ограничение заключается в том, что обучение проводилось на размеченных новостных статьях определённого периода, поэтому качество может снижаться на текстах других доменов и в иных сценариях. Размер контекста и точные параметры ONNX-конфигурации в README не указаны. Модель распространяется по лицензии AFL-3.0.
Модель ai-forever/bert-base-NER-reptile-5-datasets разработана командой SberIDP для распознавания именованных сущностей. Это BERT base uncased с 136,7 млн параметров, обученный с использованием Reptile на пяти наборах данных для NER: CoNLL-2003, WNUT17, JNLPBA, CoNLL-2012 (OntoNotes) и BTC. Модель предназначена для разметки сущностей в тексте и последующей адаптации к новым типам сущностей на небольшом количестве примеров. В карточке описана проверка в Few-Shot сценарии на Few-NERD: модель использовалась как основа для StructShot. Архитектура — BertForTokenClassification; модель принимает текст, выдаёт метки токенов и поддерживает контекст до 512 токенов. В метаданных указан английский язык. Репозиторий содержит веса PyTorch, лицензия в предоставленных данных не указана.