I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельkeremberke/yolov8m-table-extraction — модель компьютерного зрения на базе YOLOv8m, опубликованная Keremberke. Она предназначена для обнаружения таблиц на изображениях и различает два класса: таблицы с границами и без границ. Модель использует библиотеку Ultralytics и представлена в формате PyTorch. Её можно применять для поиска областей таблиц на сканах и изображениях документов перед последующим извлечением содержимого. Лицензия AGPL-3.0.
hatmimoha/arabic-ner — модель распознавания именованных сущностей на основе BERT для арабского языка. Она выполняет токенную классификацию и выделяет в тексте людей, организации, места, даты, товары, соревнования, награды, события и заболевания. Модель содержит 137,8 млн параметров, поддерживает контекст до 512 токенов и доступна в форматах PyTorch, TensorFlow и Flax. Модель предназначена для разметки арабских текстов, например новостных и веб-публикаций, с целью извлечения упоминаний сущностей. В README указано, что обучающий корпус содержит около 378 тысяч токенов из 14 тысяч предложений, собранных в интернете и размеченных вручную; F-мера на проверочном корпусе из 30 тысяч токенов составляет примерно 87%. Лицензия в предоставленных данных не указана.
classla/bcms-bertic-ner — модель разметки последовательностей, разработанная Classla на основе BERTić и дообученная для распознавания именованных сущностей в боснийском, хорватском, черногорском и сербском языках. Она присваивает токенам метки PER, LOC, ORG и MISC, чтобы выделять в тексте людей, места, организации и другие именованные сущности. Модель использует архитектуру ELECTRA, содержит 137,8 млн параметров и обрабатывает контекст длиной до 512 токенов. При дообучении использовались данные на стандартном хорватском и сербском языках, а также публикации из Twitter; данные дополнялись вариантами без диакритических знаков. В README сообщается F1 91,38 на dev-данных, объединённых с обучающей выборкой. Модель предназначена для извлечения сущностей из текстов BCMS, включая стандартные и неформальные тексты. Она распространяется по лицензии Apache-2.0.
ctrlbuzz/bert-addresses — модель на базе BERT, дообученная разработчиком ctrlbuzz для распознавания имен людей, организаций и адресов в тексте. Она присваивает метки токенам: O, B-ORG, I-ORG, B-PER, I-PER, B-addr и I-addr; для обучения использовались объединенные данные CoNLL, OntoNotes 5 и созданный автором набор адресов. Модель предназначена для извлечения сущностей из текста, в частности адресов в США, а также имен и организаций. Модель имеет 135,5 млн параметров, архитектуру BertForTokenClassification и принимает текстовые последовательности длиной до 512 токенов. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
Davlan/bert-base-multilingual-cased-ner-hrl — модель распознавания именованных сущностей на основе mBERT, дообученная разработчиком Davlan на размеченных новостных текстах. Модель содержит около 205,1 млн параметров, использует архитектуру BERT и принимает текстовые последовательности длиной до 512 токенов. Модель размечает упоминания людей (PER), организаций (ORG) и мест (LOC) на арабском, немецком, английском, испанском, французском, итальянском, латышском, нидерландском, португальском и китайском языках. Её можно применять для извлечения сущностей из новостных статей и других текстов на этих языках. Качество может снижаться на текстах из других областей: обучение проводилось на датасетах новостной разметки, ограниченных конкретными периодами и источниками. Модель распространяется по лицензии AFL-3.0.
savasy/bert-base-turkish-ner-cased — модель на основе BERT, дообученная для распознавания именованных сущностей в турецком тексте. Автор описывает её как простую в использовании NER-модель на базе transfer learning; в README также приведены результаты оценки на двух наборах данных: F1 около 0,925 и 0,953 соответственно. Архитектура — BertForTokenClassification, размер — 137,8 млн параметров, максимальная длина контекста — 512 токенов. Модель принимает текст и возвращает метки для токенов. Она предназначена для извлечения сущностей из турецких текстов. В README указана базовая модель dbmdz/bert-base-turkish-cased. Репозиторий содержит веса в форматах PyTorch, Safetensors и Flax. Лицензия в предоставленных данных не указана.
ArBert/bert-base-uncased-finetuned-ner — модель BERT для распознавания именованных сущностей, созданная дообучением bert-base-uncased. Она классифицирует токены входного текста, например, чтобы выделять сущности в последовательности. Архитектура — BertForTokenClassification, размер — 136,7 млн параметров, контекст — до 512 токенов. В карточке приведены результаты оценки: F1 0,9133, точность 0,9068, полнота 0,9200 и accuracy 0,9787. Название и базовая модель указывают на uncased-вариант BERT; подробности о классах сущностей и языке обучающего набора не приведены. Лицензия — Apache-2.0.
HooshvareLab/bert-fa-zwnj-base-ner — модель BERT, дообученная для распознавания именованных сущностей на персидском языке. Она размечает текст по десяти типам сущностей: даты, события, объекты инфраструктуры, местоположения, суммы денег, организации, проценты, люди, продукты и время. Модель предназначена для извлечения таких сущностей из персидских текстов и запускается через Transformers pipeline для NER. Модель содержит 145,5 млн параметров и обрабатывает последовательности длиной до 512 токенов. Для обучения использован смешанный набор данных ARMAN, PEYMA и WikiANN. В README приведена общая оценка F1 0,957 на тестовых данных; результаты зависят от типа сущности и распределения данных. Модель доступна в форматах PyTorch, TensorFlow и Flax. Лицензия в предоставленных данных не указана.
mrm8488/bert-spanish-cased-finetuned-ner — дообученная Manuel Romero (@mrm8488) испанская модель BETO на основе BERT с сохранением регистра для распознавания именованных сущностей. Она размечает токены текста категориями людей, организаций, мест, прочих именованных объектов или меткой O. Для обучения использовался испанский корпус CoNLL; карточка приводит F1 90,17, точность 89,86 и полноту 90,47 на оценочном наборе. Модель имеет архитектуру BERT для классификации токенов, около 137,1 млн параметров и контекст до 512 токенов. Поддерживает испанский язык; опубликованы версии PyTorch и Flax. Подходит для извлечения сущностей из испанских текстов, например для последующего поиска, индексации или анализа документов. Лицензия в предоставленных данных не указана.
Camel-Doc-OCR-080125-GGUF — мультимодальная модель для анализа документов, распознавания текста и извлечения структурированной информации. Она разработана на основе prithivMLmods/Camel-Doc-OCR-080125, который, в свою очередь, является дообученной версией Qwen2.5-VL-7B-Instruct. Модель ориентирована на Document Retrieval, Content Extraction, анализ документов и задачи Intelligent Document Processing. Модель использует архитектуру Qwen2.5-VL и доступна в формате GGUF для запуска с llama.cpp и совместимыми инструментами. Указан размер базовой модели 7B; поддерживаются изображения и текст, а заявленные языки — английский и китайский. Варианты файлов представлены в форматах F16 и различных квантований размером примерно от 1,9 до 15,2 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Также доступны отдельные мультимодальные проекторы mmproj. Сильная сторона модели — специализация на OCR, понимании содержимого документов, извлечении и связывании данных, а также генерации результатов в Markdown. Она дообучалась на наборе Opendoc2-Analysis-Recognition. README не содержит сведений о длине контекста, результатах бенчмарков, аппаратных требованиях, точности, поддерживаемых типах документов и ограничениях качества, поэтому эти характеристики нельзя оценить по имеющимся данным. Модель распространяется по лицензии Apache-2.0.
Это неофициальная конверсия Chandra OCR 2 от Datalab в формат GGUF с точностью BF16 для запуска через llama.cpp. Веса модели и проектор зрения сохранены в BF16; неиспользуемая черновая MTP-голова удалена. Конверсия проверена на одной AMD Radeon RX 9070 XT с 16 ГБ памяти, но формат GGUF не привязан к RDNA 4, и работа на другом оборудовании не подтверждена этой карточкой. Модель принимает изображения и предназначена для распознавания текста и структуры документов, включая PDF, с выдачей результата в текстовых форматах вроде Markdown, HTML или JSON. В README перечислены проверки на изображениях, PDF, финансовых таблицах и рукописных документах. Это перенос формата, а не дообучение или улучшение качества OCR; лицензия указана как other, поэтому условия использования следует сверить с лицензией исходной модели и файлами репозитория.
Chart-To-Table — модель для преобразования изображений диаграмм в структурированные таблицы. Она представлена в работе «Do LVLMs Understand Charts? Analyzing and Correcting Factual Errors in Chart Captioning» и использует архитектуру UniChart типа vision encoder-decoder. Модель принимает изображение диаграммы и выдаёт текстовую таблицу: строки разделяются маркером `&&&`, а столбцы — символом `|`. Она предназначена для извлечения данных из графиков и диаграмм, чтобы затем использовать их в анализе или обработке табличных данных. В метаданных указаны библиотека Transformers, формат PyTorch и лицензия Apache-2.0.
Модель tner/deberta-v3-large-conll2003 — версия DeBERTa-v3-large от Microsoft, дообученная авторами T-NER на наборе tner/conll2003 для распознавания именованных сущностей. Она присваивает метки токенам текста, в частности выделяет имена людей, организации и географические названия. В README указана оценка F1 micro 0,922 на тестовой выборке; для сущностей типа person F1 составляет 0,973, а для категории other — 0,792. Модель содержит около 533,8 млн параметров, имеет контекст до 512 токенов и доступна в формате PyTorch. Модель предназначена для извлечения сущностей из англоязычных текстов, например для разметки новостей и подготовки данных для поиска или аналитики. Для использования README рекомендует библиотеку T-NER; применение через Transformers не рекомендуется, поскольку CRF-слой там не поддерживается. Лицензия в предоставленных данных не указана.
Модель tner/deberta-v3-large-ontonotes5 — дообученная T-NER версия Microsoft DeBERTa-v3-large для распознавания именованных сущностей. Она обучена на наборе tner/ontonotes5 и предназначена для выделения в тексте сущностей и их типов, включая имена людей, организации, географические объекты, даты, числа, суммы, события и произведения искусства. Архитектура — DeBERTa-v2 для классификации токенов; модель содержит 533,8 млн параметров и обрабатывает контекст длиной до 512 токенов. На тестовой части OntoNotes5 модель показала micro-F1 около 0,907. Результаты различаются по классам: например, F1 для персон составляет около 0,961, а для права и времени — около 0,676. Карточка рекомендует запускать модель через библиотеку T-NER; использование через Transformers не рекомендуется, поскольку CRF-слой там не поддерживается. Язык обучения в карточке не указан, поэтому языковую поддержку нельзя надёжно определить. Лицензия в предоставленных данных не указана.
MasterControlAIML разработала эту модель как дообученную версию Qwen/Qwen2.5-1.5B-Instruct с использованием TRL и стратегии обучения, вдохновлённой DeepSeek R1. Она предназначена для преобразования неструктурированных текстовых абзацев в JSON по заданной пустой схеме: модель извлекает сведения из текста и заполняет поля согласно правилам схемы. Это плотная авторегрессионная языковая модель архитектуры Qwen2 с 1,5 млрд параметров, рассчитанная на генерацию текста и диалоговый интерфейс. Контекстное окно — 32 768 токенов. Веса опубликованы в формате PyTorch под лицензией Apache-2.0. Карточка описывает сценарий структурирования JSON, но не приводит оценок качества или подробностей устойчивости к ошибочным и неоднозначным входным данным.
Davlan разработал distilbert-base-multilingual-cased-ner-hrl — мультиязычную модель распознавания именованных сущностей на базе DistilBERT, дообученную на корпусах новостных текстов. Она размечает токены как части имён людей (PER), организаций (ORG) и мест (LOC), а также как текст вне сущностей. Подходит для извлечения этих сущностей из текстов на арабском, немецком, английском, испанском, французском, итальянском, латышском, нидерландском, португальском и китайском языках. Модель использует архитектуру DistilBertForTokenClassification и поддерживает контекст до 512 токенов. Её можно применять через pipeline NER в Transformers для извлечения имён, компаний и географических названий из новостных и похожих текстов. Доступны форматы PyTorch, safetensors и TensorFlow. Модель выпущена по лицензии AFL-3.0. Качество может снижаться на других жанрах и в предметных областях, поскольку обучающие данные состоят из аннотированных новостных статей определённого периода.
Модель elastic/distilbert-base-uncased-finetuned-conll03-english — англоязычная модель распознавания именованных сущностей, созданная Elastic на основе DistilBERT base uncased и дообученная на наборе CoNLL-2003. Она классифицирует токены текста, выделяя сущности согласно меткам этого набора данных. Модель принимает текст, не различает заглавные и строчные буквы и поддерживает контекст длиной до 512 токенов. Она подходит для извлечения сущностей из англоязычных текстов; регистр букв не помогает ей различать имена и обычные слова. Для обработки с учётом регистра в карточке рекомендована версия distilbert-base-cased-finetuned-conll03-english. Модель распространяется по лицензии Apache-2.0.
has-abi/distilBERT-finetuned-resumes-sections — дообученная модель DistilBERT для классификации фрагментов резюме по разделам. Она основана на Geotrend/distilbert-base-en-fr-cased и предназначена для автоматической разметки текста резюме, например для выделения разделов с навыками, опытом или образованием. Модель использует архитектуру DistilBertForSequenceClassification и принимает текст длиной до 512 токенов. В README приведены результаты на тестовом наборе: F1 0,9652, ROC AUC 0,9808 и точность 0,9621. Состав набора данных, перечень классов и подробные условия оценки не описаны, поэтому эти метрики не гарантируют аналогичного качества на других данных. Модель распространяется по лицензии Apache-2.0.
distilbert-NER — англоязычная модель распознавания именованных сущностей, созданная dslim путём дообучения DistilBERT. Она размечает токены в тексте тегами для людей (PER), организаций (ORG), мест (LOC) и прочих сущностей (MISC), включая начало и продолжение сущности. Модель основана на DistilBERT с архитектурой DistilBertForTokenClassification и содержит 66 млн параметров. Она обучена на английском наборе CoNLL-2003 и принимает контекст до 512 токенов. Компактность DistilBERT помогает снизить размер и ускорить обработку по сравнению с BERT, сохраняя пригодность для извлечения сущностей из новостных и сходных текстов. Качество может снижаться на текстах, заметно отличающихся от CoNLL-2003; возможны ошибки разметки в сложных предложениях и смещения, унаследованные от обучающих данных. Лицензия — Apache-2.0.
onnx-community/distilbert-NER-ONNX — это ONNX-версия модели dslim/distilbert-NER, автоматически конвертированная и опубликованная сообществом onnx-community. Модель предназначена для задачи распознавания именованных сущностей (NER), то есть для выделения в тексте фрагментов, относящихся к людям, местам и другим сущностям, поддерживаемым исходной моделью. Её можно использовать для токен-классификации, например в JavaScript-приложениях через библиотеку Transformers.js. Из README известно, что модель основана на DistilBERT и предоставляется в формате ONNX. Конкретные размер модели, архитектурные параметры, поддерживаемые языки, максимальная длина контекста и набор классов сущностей в карточке не указаны. Формат ONNX ориентирован на выполнение модели в совместимых средах, включая сценарии с Transformers.js. Лицензия в README не указана, поэтому условия использования требуют дополнительной проверки.
nielsr/donut-base-finetuned-cord-v2 — модель Donut, разработанная командой NAVER CLOVA и опубликованная в экосистеме Hugging Face. Это vision-encoder-decoder для понимания документов без отдельного OCR-модуля: Swin Transformer кодирует изображение, а текстовый декодер BART авторегрессионно генерирует структурированный текст. Модель дообучена на наборе данных CORD и предназначена прежде всего для разбора изображений чеков и извлечения из них текстовых полей и структуры. В метаданных указаны архитектура vision-encoder-decoder, задача image-text-to-text, библиотека Transformers и размер около 0,2 млрд параметров; конфигурация Donut задаёт входной размер 1280×960 и максимальную длину генерации 768 токенов. Поддержка естественных языков в метаданных не указана. Для официальной карточки соответствующей модели Donut указана лицензия MIT.
philschmid/donut-base-finetuned-cord-v2 — форк модели Donut, подготовленный для демонстрации работы моделей Donut с Hugging Face Inference Endpoints. Это модель архитектуры vision-encoder-decoder: визуальный энкодер Swin Transformer преобразует изображение документа в представление, а текстовый декодер BART генерирует текст по этому представлению. Модель дообучена на наборе CORD для распознавания и структурированного извлечения данных из изображений чеков без отдельного OCR-этапа. Модель подходит для извлечения текста и полей из чеков и для обработки изображений документов через endpoint. В репозитории указаны веса PyTorch и лицензия MIT. Карточка описывает базовый размер модели, но не приводит число параметров или длину контекста.
philschmid/donut-base-sroie — модель для извлечения текста и структурированных сведений из изображений документов. Она разработана как дообученная версия naver-clova-ix/donut-base на наборе данных imagefolder. Архитектура vision-encoder-decoder принимает изображение и формирует текстовый результат; модель предназначена для сценариев распознавания и разбора документов, включая обработку чеков SROIE. Модель опубликована в формате PyTorch под лицензией MIT. Карточка не описывает конкретные метрики качества и ограничения, поэтому пригодность для конкретного типа документов следует оценивать на собственных данных.
mlx-community/Falcon-OCR-bf16 — конвертированная в формат MLX модель Falcon-OCR от Falcon Perception Team института TII, подготовленная для запуска через mlx-vlm на компьютерах Apple Silicon. Это компактная раннеобъединённая vision-language-модель с 300 млн параметров, которая принимает изображение документа и формирует текстовый ответ; её применяют для распознавания текста, формул и таблиц на страницах документов. Модель предназначена для инференса с mlx-vlm и может использоваться, в частности, через MlxVlmEngine в Docling. Репозиторий содержит веса в bf16; для загрузки применяется пользовательский процессор FalconOCRProcessor и класс FalconOCRForCausalLM с trust_remote_code=True. Модель распространяется по лицензии Apache 2.0, как и исходная Falcon-OCR. В README отмечена ошибка AttributeError в конце шага конвертации, однако веса и токенизатор к этому моменту записываются и, согласно карточке, доступны для загрузки. Для использования требуется совместимое окружение MLX на Apple Silicon.
megantosh/flair-arabic-multi-ner — модель распознавания именованных сущностей на арабском языке, созданная M. Megahed с использованием Flair. Это последовательный теггер на основе GloVe- и двунаправленных Flair-эмбеддингов, обученный на наборах AQMAR и ANERcorp. Модель размечает упоминания мест, организаций, персон и сущностей категории MISC; в карточке приведены micro F1 0,8666 и macro F1 0,8488. Модель подходит для извлечения сущностей из арабских текстов, например для последующего поиска, анализа документов и построения структурированных данных. Карточка также указывает английский среди языков и Apache-2.0 как лицензию. Результаты зависят от жанра и стиля текста: качество для организаций ниже, чем для мест и персон, а отдельные показатели на новых данных могут отличаться от опубликованных.
Gemma-4-26B-A4B-it-F32-GGUF — мультимодальная instruction-tuned модель, основанная на Gemma-4-26B-A4B-it от Google и представленная пользователем prithivMLmods в формате GGUF. Она предназначена для генерации и понимания текста и изображений, включая рассуждение, программирование, OCR и распознавание рукописного текста, разбор документов, анализ пользовательских интерфейсов и диаграмм, обнаружение объектов с указанием их расположения, агентские сценарии, function calling и работу со структурированными данными. Модель использует архитектуру Mixture-of-Experts с 26 млрд общих параметров и примерно 3,8–4 млрд активных параметров на один проход: задействуются 8 экспертов и 1 общий эксперт из 128. Указаны 30 слоёв, словарь размером 262 тысячи токенов, поддержка более 140 языков и контекст до 256 тысяч токенов со sliding window 1024 токена. Поддерживаются текстовые и графические входы с переменным соотношением сторон и разрешением; доступны настраиваемые режимы рассуждения. Модель ориентирована на запуск через llama.cpp и vLLM на GPU NVIDIA или AMD, а репозиторий содержит варианты BF16, F16, F32, Q8_0 и мультимодальные проекционные файлы. Сильными сторонами являются мультимодальность, большой контекст, широкий набор задач и сниженная вычислительная нагрузка по сравнению с плотными моделями сопоставимого качества благодаря MoE. Ограничения включают значительные требования к памяти: размер файла F32 составляет около 101 ГБ, BF16 и F16 — около 50,5 ГБ, а качество и потребление ресурсов зависят от выбранного варианта квантования. Модель распространяется по лицензии Apache 2.0.
GLiNER2-multi-v1-wikiann — модель извлечения сущностей, созданная дообучением fastino/gliner2-multi-v1 на WikiANN (PAN-X). Она предназначена прежде всего для распознавания именованных сущностей в тексте: людей, организаций и мест. Модель использует библиотеку gliner2 и сохраняется в формате safetensors. Модель рассчитана на многоязычные сценарии; в карточке перечислены английский, немецкий, испанский, французский, русский, арабский, китайский и хинди. В README приведена оценка на отложенных тестовых данных: F1 для извлечения сущностей составляет 0,904 при строгом и 0,932 при расслабленном сопоставлении. Обучение на WikiANN ориентировано на сущности PER/ORG/LOC; результаты не подтверждают качество для извлечения отношений, событий или классификации, хотя базовая GLiNER2 поддерживает такие задачи. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.
GLiNER-base — англоязычная модель распознавания именованных сущностей, разработанная Уршадом Заратианой, Нади Томе, Пьером Ола и Тьерри Шарнуа. Она использует двунаправленный трансформерный энкодер архитектуры BERT и позволяет находить сущности типов, заданных пользователем, вместо работы только с фиксированным набором классов. Модель предназначена для извлечения сущностей из текста, например имён людей, организаций, мест и других категорий, которые задаёт приложение. GLiNER позиционируется как более компактная и практичная альтернатива большим языковым моделям для сценариев с ограниченными вычислительными ресурсами. В карточке указано 209 млн параметров и поддержка английского языка. Для работы используется библиотека GLiNER; формат весов — PyTorch. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование. Описание не приводит оценки качества или подробностей о длине контекста, поэтому их нельзя оценить по имеющимся данным.
GLiNER-small-v1 — модель распознавания именованных сущностей, разработанная Urchade Zaratiana, Nadi Tomeh, Pierre Holat и Thierry Charnois. Она использует двунаправленный трансформерный энкодер класса BERT и позволяет извлекать сущности заданных пользователем типов, в отличие от классических NER-моделей с фиксированным набором категорий. Модель предназначена для извлечения имен и других сущностей из текста, в том числе в сценариях, где важны компактность и практичность по сравнению с крупными языковыми моделями. В этой версии 166 млн параметров; она обучена на Pile-NER и рассчитана на английский язык. Для работы используется библиотека GLiNER. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование с соблюдением её условий.
Карточка модели HiTZ/GoLLIE-13B на Hugging Face совпадает с карточкой KaraKaraWitch/HiTZ-GoLLIE-13B-AsSafeTensors, поэтому описание составлено по ней. GoLLIE 13B — языковая модель для извлечения информации, разработанная Оскаром Саинсом, Икером Гарсия-Ферреро, Родриго Агерри, Ойером Лопесом де ла Калье, Германом Ригау и Энеки Агирре из центра HiTZ Университета Страны Басков. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров и контекстом до 16 384 токенов, представленная в формате Safetensors и дообученная на основе CODE-LLaMA2. Модель предназначена для извлечения именованных сущностей, событий и отношений по заданным схемам. Она следует подробным инструкциям и определениям разметки, поэтому подходит для zero-shot задач и позволяет задавать схему извлечения во время работы, в том числе для ранее не встречавшихся задач. В карточке приведены результаты на английском языке: средний F1 56,0 для zero-shot и 73,9 для supervised оценки GoLLIE-13B. Основной язык модели — английский. Модель генерирует текст, поэтому извлечённые результаты выдаются в текстовом формате по схеме пользователя. Для базовой модели и объединённой модели указана лицензия LLaMA 2; LoRA-адаптеры проекта распространяются по Apache 2.0. Результаты и поддерживаемые схемы зависят от формулировки инструкций и качества заданных определений.