I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельeshangj/TrOCR-Sinhala-finetuned — модель распознавания текста на изображениях на сингальском языке, разработанная Эшаном Гаянга. Это дообученная архитектура TrOCR VisionEncoderDecoderModel, основанная на контрольной точке Ransaka/TrOCR-Sinhala и обученная на наборе синтетических данных Ransaka/sinhala_synthetic_ocr-large. Модель предназначена для извлечения сингальского текста из печатных материалов, сканов документов и рукописных записей, а также для оцифровки архивов и распознавания рукописных работ. Модель принимает изображения и выдаёт текст. Карточка указывает лицензию MIT. Качество может снижаться на размытых, наклонённых, сильно повреждённых изображениях и при нестандартном почерке; модель не предназначена для других письменностей и смешанного текста. Для улучшения результата рекомендуется предварительная обработка изображения и последующая коррекция распознанного текста.
Vintern-1B-v2 (Viet-InternVL2-1B-v2) — мультимодальная модель 5CD-AI для ответов на вопросы по изображениям на вьетнамском языке. Она дообучена на базе OpenGVLab/InternVL2-1B и сочетает визуальный энкодер InternViT-300M-448px, MLP-проектор и языковую часть Qwen2-0.5B-Instruct. Модель имеет около 1 млрд параметров и контекст 4096 токенов. Модель предназначена для OCR-VQA, вопросов и ответов по документам и графикам, распознавания текста и общего визуального вопросно-ответного взаимодействия. В карточке описано дообучение на более чем 3 млн специализированных пар «изображение — вопрос — ответ»; авторы также указывают сценарии использования на устройствах с ограниченными ресурсами. Для дообучения приводится вариант с GPU T4 в Google Colab. Вьетнамский язык — основной; метаданные также указывают английский. README сообщает о сравнительной оценке на вьетнамских визуальных задачах, но отмечает, что использованные метрики являются предварительными. Модель распространяется по лицензии MIT.
VisualHeist-base — модель компьютерного зрения для извлечения таблиц и иллюстраций из страниц PDF-статей. Её разработали на основе контрольных точек Microsoft Florence-2; модель дообучена на 3 435 иллюстрациях и 1 716 таблицах из 110 научных статей с вручную размеченными рамками объектов. Версия base содержит 0,23 млрд параметров и рекомендована для систем с ограниченной оперативной памятью. Модель принимает изображение одной страницы статьи и выдаёт текстовое описание с разметкой обнаруженных объектов, позволяющее выделить таблицы и фигуры для последующего сохранения в виде отдельных изображений. Она предназначена для автоматизации разбора научных PDF, в том числе публикаций по химии, материаловедению, биологии и смежным областям. В метаданных указана архитектура Florence-2 и задача image-text-to-text; репозиторий содержит веса PyTorch в формате safetensors. Лицензия — MIT. Оценки F1 в README приведены для версии visualheist-large, поэтому их нельзя напрямую считать результатами base. Модель обучена на статьях и страницах документов; её применимость к другим типам изображений не установлена.
wissamantoun/WebOrganizer-FormatClassifier-ModernBERT — дообученная модель ModernBERT-base, разработанная для классификации веб-страниц. Она относит страницу к одной из 17 категорий, используя URL и текст её содержимого. Модель обучалась на корпусах WebOrganizer/TopicAnnotations-Llama-3.1-8B и WebOrganizer/TopicAnnotations-Llama-3.1-405B-FP8, размеченных моделями Llama. Модель основана на encoder-only архитектуре ModernBERT и содержит около 149 млн параметров. По метаданным она поддерживает контекст до 8192 токенов и предназначена для текстовой классификации. README описывает подачу URL и текстового содержимого страницы; лицензия в предоставленных данных не приводится.
aiola/whisper-ner-tag-and-mask-v1 — модель на архитектуре Whisper для совместной транскрипции речи и распознавания именованных сущностей. Она предназначена для автоматического распознавания речи с разметкой сущностей открытого типа, включая категории, заданные при использовании модели. Модель также может маскировать распознанные сущности прямо в транскрипте. Модель содержит около 905,2 млн параметров и принимает аудио, выдавая текст. Карточка указывает английский язык. Модель опубликована под лицензией MIT и подходит как основа для последующего дообучения под конкретные наборы данных и сценарии ASR с распознаванием сущностей.
Модель ismatsamadov/xlm-roberta-az-ner разработана на основе XLM-RoBERTa и дообучена для распознавания именованных сущностей в текстах на азербайджанском языке. Она принимает текст и размечает его токены категориями сущностей, включая имена людей, географические названия, организации, даты, суммы денег, время, объекты и события; всего заявлено 25 типов меток. Модель основана на архитектуре XLM-RoBERTa и содержит 305,2 млн параметров. Для обработки использует Transformers, веса представлены в формате safetensors; длина контекста — 514 токенов. В отчёте на валидационном наборе указаны micro F1 0,75 и macro F1 0,64. Модель предназначена для извлечения сущностей из азербайджанских текстов, например для поиска людей, организаций и мест в документах. По README, она может хуже работать с другими языками и редкими категориями сущностей. Лицензия — MIT.
tyqiangz/xlm-roberta-base-finetuned-chaii — модель на архитектуре XLM-RoBERTa Base, дообученная для ответов на вопросы. Она предназначена для извлечения ответа из предоставленного контекста по заданному вопросу. В метаданных указан размер 305,2 млн параметров и длина контекста 514 токенов; доступны веса PyTorch и safetensors. Карточка сообщает о дообучении на наборе данных chaii и приводит значение функции потерь 0,4651 на оценочной выборке, но не описывает состав данных, языки и конкретные ограничения качества. Модель опубликована под лицензией MIT.
badokorach/xlm-roberta-base-finetuned-mlqa — модель XLM-RoBERTa-Base, дообученная для ответов на вопросы. Она предназначена для извлечения ответа из предоставленного контекста по вопросу. Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa и доступна в формате TensorFlow; нативный контекст составляет 514 токенов. Базовая модель — FacebookAI/xlm-roberta-base. По карточке модель дообучена на наборе данных, который не назван; приведены результаты обучения и валидации, но подробности назначения и оценки качества отсутствуют. Лицензия — MIT.
Palak/xlm-roberta-large_squad — модель Palak, дообученная на XLM-RoBERTa Large для ответов на вопросы по переданному текстовому контексту. Она использует архитектуру XLM-RoBERTa с плотными слоями и содержит около 658,7 млн параметров; репозиторий предоставляет веса в формате PyTorch. Модель подходит для извлечения ответа из контекста, например при поиске сведений в документах или создании системы вопросно-ответного поиска. В карточке приведены результаты оценки на 10 918 примерах SQuAD: exact match 85,96 и F1 92,25. Контекст ограничен примерно 514 токенами, поэтому длинные документы потребуется разбивать на фрагменты. Модель дообучена на SQuAD; подтверждений её качества для других языков и предметных областей в карточке нет. Лицензия в предоставленных данных не указана.
intanm/xlmr-quoref — модель XLM-RoBERTa, дообученная на наборе данных Quoref для ответов на вопросы по тексту. Она принимает вопрос и контекст и предназначена для извлечения ответа из предоставленного текста. Модель имеет архитектуру XLM-RoBERTa с 305,2 млн параметров и поддерживает контекст длиной до 514 токенов. В карточке приведено значение loss 2,7996 на оценочном наборе, но подробности методики оценки и качества не раскрыты. Модель распространяется по лицензии MIT.
srikanthkb/xlnet-base-cased-finetuned-squad — модель XLNet, дообученная на наборе SQuAD для ответов на вопросы по предоставленному текстовому фрагменту. Она содержит 137,8 млн параметров и опубликована в формате PyTorch. В карточке указана оценка loss 0,2533 на наборе оценки. Модель предназначена для извлечения ответа из контекста в системах вопросно-ответного поиска и для автоматизации ответов по текстовым материалам. Базовая модель — xlnet-base-cased; модель распространяется по лицензии MIT. README не приводит подробностей о языковом охвате и ограничениях качества.
Argus-Colqwen3.5-2b-v0 — модель для поиска по визуальным документам, разработанная группой Data Science Университета Инсбрука. Это дообученная версия Qwen/Qwen3.5-VL-2B-Instruct с 2,32 млрд параметров и мультимодальной архитектурой: она формирует многовекторные представления визуальных токенов размерностью 1024 и сопоставляет запросы со страницами документов с помощью late interaction MaxSim. Query-conditioned mixture of experts направляет регионы страницы в специализированные эксперты с учётом запроса, поэтому представление одной страницы может меняться в зависимости от того, какую информацию ищут. Модель предназначена для извлечения релевантных страниц и документов по текстовому запросу, в том числе в задачах визуального поиска по страницам документов. В README приведены результаты на ViDoRe v1 и v2; выпуск fp32 получен объединением LoRA-адаптера с базовой моделью, также существует вариант bf16. Модель принимает текстовый запрос и изображение документа и выдаёт векторы для ранжирования релевантности. Карточка описывает её как англоязычно-ориентированную; обучение также использовало мультиязычный набор, но его доля мала. Репозиторий распространяется по лицензии Apache 2.0. Ограничения: качество на языках помимо английского не оценено в этой версии, а более сложные текстовые запросы могут обрабатываться хуже, чем более крупной 4B-моделью. Маршрутизация через экспертов добавляет около 5% к задержке инференса относительно плотной базовой модели.
Auto-Fill Qwen3-8B Reasoning — языковая модель, разработанная для восстановления одного пропущенного значения в таблице. Это специалист рассуждений в системе Auto-Fill: таблица передаётся в виде Markdown pipe table с ячейкой [MISSING], а модель анализирует связи между строками и столбцами и возвращает предполагаемое значение и оценку уверенности в JSON. Модель основана на плотной архитектуре Qwen3ForCausalLM с 7,6 млрд параметров и контекстом до 40 960 токенов. Она дообучена полнопараметрическим SFT на 59 367 примерах с трассами рассуждений, дистиллированными из DeepSeek-R1; обучение описано для bf16 и ms-swift с DeepSpeed ZeRO-3. Модель рассчитана на англоязычные таблицы, в которых пропущена одна ячейка, и особенно подходит для случаев, где значение выводится из закономерностей внутри таблицы. В бенчмарке Auto-Fill специалист рассуждений отдельно показал средний Recall@Precision=0,9 в 0,418; ансамбль трёх специалистов с калибровкой уверенности достиг 0,628. Модель может уверенно ошибаться, особенно когда ответ требует знаний за пределами таблицы, поэтому для снижения риска следует применять порог уверенности и воздерживаться от заполнения при низкой оценке. Лицензия — Apache-2.0.
A.X 4.0 VL Light — компактная мультимодальная модель SK Telecom для понимания изображений и текста, созданная на основе A.X 4.0 Light и дополнительно обученная на мультимодальных данных, в том числе крупных корейских наборах. Она предназначена для диалога и анализа изображений, а также для корпоративных сценариев, связанных с корейскими документами, таблицами, графиками, рукописным текстом и надписями в сценах. В карточке приведены результаты на корейских визуальных и текстовых бенчмарках; модель также использует примерно на 41% меньше текстовых токенов, чем Qwen2.5-VL, для одинакового корейского ввода. Модель поддерживает обработку изображений и текста и генерацию текстовых ответов; метаданные указывают семейство a.x-4-vl, плотную архитектуру и интерфейс вызова инструментов. Для работы через Transformers требуется версия 4.49.0 или новее. Лицензия — Apache-2.0. Описанные сильные стороны сосредоточены на корейском языке и корейских материалах; README не приводит размер модели и длину контекста.
Bee-150M-PT-SFT — португалоязычная модель BrCamp для генерации текста и диалогов, полученная полным дообучением Bee-150M-PT-Base на примерах инструкций и использования инструментов. Это плотная авторегрессионная модель семейства Llama примерно на 151 млн параметров; она работает через Transformers, использует шаблон чата ChatML и поддерживает контекст до 2048 токенов. Модель предназначена для выполнения инструкций на португальском языке, когда нужные сведения уже содержатся во входном контексте: суммаризации, извлечения и структурирования данных, переписывания, классификации и форматирования текста. Обучение включало 7 152 примера, в том числе примеры вызова инструментов; наличие такого обучения не гарантирует надёжной работы с инструментами в произвольной среде. Карточка отмечает, что дообучение улучшает формат ответов, но не обеспечивает устойчивых фактических знаний: модель может уверенно выдумывать сведения и давать разные ответы на один вопрос. Не следует полагаться на неё для открытых фактических вопросов или медицинских, юридических и финансовых советов. Лицензия — Apache-2.0.
SreyanG-NVIDIA/bert-base-cased-finetuned-squad — модель BERT, дообученная на наборе SQuAD для ответов на вопросы по заданному тексту. Она принимает вопрос и контекст, после чего извлекает ответ из контекста. Модель содержит 135,5 млн параметров, использует архитектуру BertForQuestionAnswering и поддерживает контекст длиной до 512 токенов. Модель подходит для поиска ответов в документах и текстовых фрагментах на английском языке. В README приведено значение loss 1,0848 на оценочной выборке, но дополнительных сведений о качестве или ограничениях нет. Распространяется по лицензии Apache-2.0.
Модель Henryk — дообученная для ответов на вопросы на нидерландском языке версия многоязычной BERT-модели Google bert-base-multilingual-cased. Она принимает вопрос и текстовый фрагмент и извлекает из него ответ, включая возможность определить, что ответа в тексте нет. Модель предназначена для поиска ответов в документах и других текстах на нидерландском языке. Основа использует архитектуру BERT: 12 слоёв, скрытый размер 768 и 12 голов внимания. В карточке указано 205,1 млн параметров, контекст — до 512 токенов; доступны веса PyTorch и Flax. Для дообучения использован машинный перевод SQuAD 2.0 на нидерландский: в README отмечены возможная потеря примеров из-за несовпадений переводов и риск ошибок в разметке. Лицензия в предоставленных данных не указана.
vnktrmnb/bert-base-multilingual-cased-FT-TyDiQA-GoldP_Te — дообученная модель на архитектуре BERT для извлечения ответов на вопросы из предоставленного текста. Она основана на google-bert/bert-base-multilingual-cased и содержит 205,1 млн параметров. Модель принимает вопрос и контекст на вход и предсказывает фрагмент контекста в качестве ответа; максимальная длина контекста составляет 512 токенов. Модель предназначена для задач question answering. В README приведены результаты обучения и валидации после двух эпох, включая точность предсказания начальных и конечных позиций ответа; подробности набора данных и сценариев применения не раскрыты. Поддержка языков унаследована от многоязычной базовой модели BERT, однако целевые языки этой настройки явно не перечислены. Модель распространяется по лицензии Apache-2.0.
orai-nlp разработала эту модель на базе BERT для обработки текста на суахили в условиях ограниченных языковых ресурсов. Модель обучена на подмножестве корпуса CC-100 на суахили объёмом 125 млн токенов и предназначена для извлечения контекстных признаков, которые можно использовать в задачах классификации и распознавания именованных сущностей. Это BERT base cased с 12 слоями, словарём на 50 тысяч токенов и контекстом до 512 токенов. В README приведены результаты для распознавания именованных сущностей, тематической классификации и анализа тональности; в сравнении с несколькими моделями для суахили она показала лучшие результаты в указанных тестах. Модель доступна в форматах PyTorch и Safetensors по лицензии CC BY 4.0.
CamemBERT-L6 — разреженная версия предварительно обученной модели CamemBERT, созданная удалением верхних слоёв исходного чекпойнта. В репозитории указано 81,2 млн параметров; модель использует архитектуру CamemBERT и принимает текст с контекстом до 514 токенов. Доступны веса PyTorch и Safetensors, лицензия — MIT. Модель предназначена прежде всего для дообучения под задачи, где решение зависит от целого предложения или фрагмента текста: классификации, извлечения ответов на вопросы и семантического поиска. Исходную модель также можно применять для masked language modeling и извлечения признаков. Для генерации текста автор рекомендует авторегрессионные модели.
CASA-Helium1-VL-2B — модель «зрение и язык» (VLM) от Kyutai, дообученная на базе Helium1-2B с визуальным энкодером Qwen2.5-VL-3B. Она использует перекрёстное внимание: визуальные признаки поступают в текстовый поток через отдельные слои и не добавляют токены изображений в KV-кэш языковой модели. Веса содержат 1,9 млрд параметров, контекст — 4096 токенов; модель работает с изображениями и текстом, основной язык — английский. Модель предназначена для понимания изображений и ответов на вопросы по визуальному содержимому. Среди подходящих сценариев — чтение текста и документов на изображениях, анализ диаграмм и визуальные вопросы и ответы. Архитектура CASA также разработана с расчётом на потоковую обработку видео, однако README описывает применение на потоковом видео для другой модели коллекции, поэтому эту возможность нельзя считать подтверждённой для данного чекпойнта. Модель не выровнена по предпочтениям людей и может выдавать ошибочные, предвзятые, вредные или бесполезные ответы; перед использованием в прикладных системах нужны дополнительное выравнивание и оценка рисков. README рекомендует дообучение для большинства прикладных сценариев. Лицензия — CC-BY-NC-SA-4.0; поскольку в составе есть замороженные веса визуального энкодера Qwen2.5-VL-3B, также применимо соглашение Qwen Research License Agreement.
Sortformer Diarizer 4spk v1 — модель NVIDIA для офлайн-диаризации речи, которая определяет активность до четырёх говорящих и отмечает временные границы их реплик. Она предназначена для анализа аудиозаписей разговоров, встреч, интервью и других многоголосых записей; модель не распознаёт произнесённые слова и не формирует текстовую расшифровку. Архитектура включает 18-слойный энкодер NeMo NEST на основе Fast-Conformer, за которым следует 18-слойный Transformer с размером скрытого слоя 192 и четырьмя сигмоидальными выходами на кадр. На вход подаётся моноаудио с частотой 16 кГц. Выход — вероятности активности каждого из четырёх говорящих по кадрам длительностью 0,08 секунды, из которых можно получить сегменты с временными метками и индексами говорящих. Модель работает в офлайн-режиме; длительность записи ограничена доступной видеопамятью. Она обучалась преимущественно на англоязычных данных, поэтому качество может снижаться для других языков и шумных или иных вне-доменных записей, а для более чем четырёх участников оно ухудшается. Модель доступна как предварительно обученный чекпойнт для NVIDIA NeMo и может использоваться для инференса или дообучения. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и запрещающая коммерческое применение.
Модель dmargutierrez/distilbert-base-multilingual-cased-mapa_coarse-ner — дообученная на наборе данных LEXTREME версия distilbert-base-multilingual-cased для распознавания именованных сущностей в юридических текстах. Она размечает текст по токенам и подходит для извлечения упоминаний сущностей из документов на поддерживаемых языках. Архитектура — DistilBERT с головой классификации токенов; максимальная длина контекста составляет 512 токенов. Модель доступна в форматах PyTorch и Safetensors. В карточке приведены метрики на оценочной выборке: precision 0,7191, recall 0,6453, F1 0,6802 и accuracy 0,9879. Указана лицензия Apache-2.0. Результаты отражают оценку на конкретном наборе данных и не гарантируют такое же качество на других юридических корпусах.
Это англоязычная модель вопросно-ответного поиска, созданная EricPeter дообучением distilbert-base-uncased на датасете SQuAD. Она извлекает ответ из предоставленного текста по заданному вопросу и подходит для поиска ответов в отрывках документов. Модель основана на архитектуре DistilBERT, имеет контекстное окно до 512 токенов и распространяется в формате PyTorch. Модель может использоваться для извлечения фактов из англоязычных статей, справочных материалов и других текстов. В README приведено значение loss 1.3453 на оценочной выборке, но подробности методики и качества не раскрыты. Лицензия — Apache-2.0.
Карточка модели bnewmiller/distilbert-base-uncased-finetuned-squad-d5716d28 на Hugging Face совпадает с карточкой Asynk/distilbert-base-uncased-finetuned-squad-d5716d28, поэтому описание составлено по ней. Это англоязычная модель ответов на вопросы, созданная как воспроизведение варианта DistilBERT из статьи DistilBERT. Студент distilbert-base-uncased дообучен на SQuAD v1.1 с дополнительной дистилляцией от модели lewtun/bert-base-uncased-finetuned-squad-v1, также настроенной на SQuAD. Репозиторий содержит веса PyTorch; архитектура в метаданных указана как DistilBertForMaskedLM, хотя README описывает модель для ответов на вопросы. Модель предназначена для извлечения ответа на вопрос из предоставленного текста на английском языке, например для поиска факта в документе или ответа по статье. Контекст ограничен 512 токенами. В README приведены результаты на SQuAD: Exact Match 78,4 и F1 86,5. Модель распространяется по лицензии Apache-2.0.
Карточка модели jrosmit/distilbert-base-uncased-finetuned-squad-d5716d28 на Hugging Face совпадает с карточкой Asynk/distilbert-base-uncased-finetuned-squad-d5716d28, поэтому описание составлено по ней. Это англоязычная модель ответов на вопросы, созданная как воспроизведение варианта DistilBERT из статьи DistilBERT. Студент distilbert-base-uncased дообучен на SQuAD v1.1 с дополнительной дистилляцией от модели lewtun/bert-base-uncased-finetuned-squad-v1, также настроенной на SQuAD. Репозиторий содержит веса PyTorch; архитектура в метаданных указана как DistilBertForMaskedLM, хотя README описывает модель для ответов на вопросы. Модель предназначена для извлечения ответа на вопрос из предоставленного текста на английском языке, например для поиска факта в документе или ответа по статье. Контекст ограничен 512 токенами. В README приведены результаты на SQuAD: Exact Match 78,4 и F1 86,5. Модель распространяется по лицензии Apache-2.0.
WSHAPER разработала дообученный классификатор на основе DistilBERT для определения речевых актов в разговорных репликах. Модель относит текст к одному из четырёх классов: commissive (обещание или обязательство), directive (команда или просьба), inform (сообщение или факт) и четвёртый класс, название которого в карточке не приведено. Она рассчитана на английский, немецкий и русский языки, в том числе на транскрипты ASR с разговорными особенностями. Контекст модели — до 512 токенов. В тестах на английском и немецком языках точность составила 80,8–82,5%, макро-F1 — 0,725–0,750; на наборе с небрежными ASR-транскриптами результат составил 77,8% (35 из 45 примеров). Модель распространяется в формате safetensors, использует библиотеку Transformers и лицензию Apache-2.0. В приведённых результатах нет оценки на русском языке, поэтому качество для этого языка по карточке оценить нельзя.
donut-handball-pv3 — дообученная модель Bienvenu2004 на основе Bienvenu2004/donut-handball-pv2. Она использует архитектуру vision-encoder-decoder и преобразует изображения в текст; модель подходит для сценариев, где нужно извлечь текстовую информацию из изображений. В карточке указано обучение на датасете imagefolder, а веса доступны в формате safetensors. Модель распространяется по лицензии MIT. Карточка не описывает конкретные типы изображений, формат результата, поддерживаемые языки или оценку качества, поэтому эти свойства нельзя уточнить. По имеющимся данным нельзя определить, насколько модель надёжно справляется с изображениями вне обучающей выборки.
Bienvenu2004/donut-handball-pv6 — дообученная модель семейства Donut с архитектурой vision-encoder-decoder. Она создана на основе Bienvenu2004/donut-handball-pv5 и обучена на датасете imagefolder. Модель принимает изображения и выдаёт текст; в карточке указана задача image-text-to-text. Модель подходит для сценариев преобразования изображений в текст. Карточка не описывает конкретный предметный сценарий, языки, размер модели или длину контекста. Репозиторий содержит веса в формате safetensors и распространяется по лицензии MIT.
anakin87/electra-italian-xxl-cased-squad-it — модель извлекающего ответа на вопрос для итальянских текстов. Она разработана на базе dbmdz/electra-base-italian-xxl-cased-discriminator и дообучена на наборе данных SQuAD-IT. Модель построена на архитектуре ELECTRA, содержит 137,1 млн параметров и принимает контекст длиной до 512 токенов. Она находит ответный фрагмент в предоставленном тексте, поэтому подходит для вопросно-ответных систем по документам, в том числе реализованных с помощью Transformers или Haystack. В карточке указаны результаты на SQuAD-IT: EM 66,03 и F1 77,47. Модель предназначена для итальянского языка и распространяется по лицензии Apache-2.0. Поскольку ответы извлекаются из входного контекста, для ответа на вопрос необходимо предоставить текст, содержащий нужные сведения.