I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельschift-io/schift-ko-pii-v5 — модель для обнаружения персональных данных в корейском тексте. По карточке модели, разработчик schift.io; она предназначена для извлечения имён людей и адресов, а пакет schift-ko-pii дополняет её регулярными выражениями для распознавания структурированных данных, включая телефоны, идентификаторы и даты. Модель можно использовать для поиска и маскирования чувствительных фрагментов в тексте и файлах. Это компактный двунаправленный токен-классификатор семейства LFM2 с гибридной архитектурой свёрточных и attention-слоёв: 6 слоёв, скрытый размер 512, линейная голова на 33 метки и разметка BIES. В репозитории указаны 32,9 млн параметров в метаданных и 34 млн в README; веса safetensors занимают 136 МБ. Используется токенизатор klue/roberta-base. Метаданные указывают контекст 8192 токена, тогда как README задаёт предел обработки 512 токенов. Модель ориентирована на корейский язык; также в примерах карточки есть имена на ханча и иностранных языках. В бенчмарке README для модели приведены F1=0,578, точность 0,847 и полнота 0,439 без постобработки; показатели гибридного варианта с SDK включают regex-постобработку и не характеризуют одни только веса. Для использования непосредственно через Transformers README требует trust_remote_code=True. Лицензия в метаданных обозначена как other, без уточнения условий.
allenai/scibert_scivocab_uncased_field_of_study — модель классификации научных текстов по областям исследования, созданная дообучением SciBERT командой AllenAI. Она предназначена для определения области научной публикации или другого научного текста по его содержанию. Модель использует архитектуру BERT и веса SciBERT, адаптированные для научного словаря. Опубликована в формате PyTorch. README сообщает, что данные для дообучения были собраны с помощью моделей OpenAI, но не раскрывает полный состав набора данных или подробности обучения. Лицензия в предоставленных данных не указана.
mlx-community/SmolVLM-Instruct-4bit — конверсия модели HuggingFaceTB/SmolVLM-Instruct в формат MLX с 4-битным представлением, выполненная сообществом mlx-community. Это компактная мультимодальная модель семейства Idefics3 для диалога по изображениям и текстовым запросам: она принимает изображение и текст, чтобы отвечать на вопросы о визуальном содержимом и помогать разбирать документы. Модель подходит для сценариев визуальных вопросов и ответов, описания изображений и извлечения сведений из документов. Карточка рекомендует запуск через mlx-vlm; исходная модель обучалась на наборах The Cauldron и Docmatix. Поддерживаемый язык, указанный в метаданных, — английский. Лицензия Apache-2.0.
TabFix — модель для обнаружения и исправления ошибок в табличных данных, разработанная Antix5. Она объединяет проверки по заданной схеме с дообученным энкодером mmBERT: правила выявляют нарушения форматов, допустимых значений, обязательных полей и связей, а нейросетевой компонент ищет остаточные ошибки кодировки и орфографии и предлагает замену ячейки с учётом исходного значения, схемы столбца и соседних строк. Конвейер рассчитан на очистку CSV-таблиц с XML-правилами столбцов и поддерживает английский, французский, нидерландский, немецкий, польский, греческий и японский языки. В репозитории указана архитектура ModernBERT с 307,8 млн параметров и контекстом до 8192 токенов; доступны веса safetensors и ONNX. Модель дообучена на 27 948 записях преимущественно синтетического набора tabular-errors-v1. На небольшом сбалансированном тесте из 76 таблиц весь конвейер исправил 48 из 67 ошибочных ячеек; 48 из 49 применённых изменений оказались правильными, а среди 8 600 корректных ячеек ошибочных изменений не наблюдалось. Эти результаты относятся к комбинированному конвейеру, а не только к нейросетевой модели. Модель предназначена для локальной проверки и очистки CSV с аудитом и просмотром предложенных изменений. Она может пропускать неподдерживаемые правила и форматы; противоречивые связи могут показать затронутые строки, не определяя неверное значение. Предложенная замена может быть семантически ошибочной, а данные синтетического обучения и небольшой тест не гарантируют качество на произвольных реальных таблицах. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.
IsValorum/Thomson-1.0-Small-APEX-I-MiniPlus-V2-GGUF — это квантованная версия модели Thomson-1.0-Small, разработанной Thomson Reuters и преобразованной в формат GGUF пользователем IsValorum. Модель предназначена для запуска через совместимые инструменты, включая llama.cpp, и ориентирована на юридические, аудиторские и финансовые сценарии, а также на обработку документов, изображений, таблиц и OCR. Модель использует архитектуру mixture-of-experts (MoE) и поддерживает мультимодальный режим image-text-to-text с обработкой текста и изображений. В README указана поддержка английского, китайского, испанского, французского, немецкого, португальского, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Квантование APEX-I-MiniPlus выполнено с учётом чувствительности отдельных тензоров: маршрутизаторы сохранены в F32, выходная голова — в Q6_K, attention gates — в Q8_0, а основные эксперты — не ниже калиброванного уровня 3 бит. Это должно обеспечивать более высокую точность по сравнению с плоскими 3-битными квантованиями, однако конкретные характеристики размера, объёма контекста и производительности именно этой версии в представленном фрагменте README не указаны. Сильными сторонами являются сочетание компактного квантованного формата, мультимодальности, многоязычности и оптимизации для задач, требующих анализа юридических и финансовых материалов. Ограничения связаны с потерями точности, неизбежными для квантованной версии, зависимостью скорости от оборудования и отсутствием в доступных данных полного набора характеристик и результатов тестирования именно этой модели. Лицензия — Apache-2.0.
title_value — англоязычная модель классификации последовательностей, разработанная Loyola Data Mining и дообученная на базе microsoft/deberta-v3-base. Она преобразует названия вакансий в числовую оценку, отражающую структурный или иерархический уровень должности. Модель содержит 211,6 млн параметров, использует архитектуру DeBERTa V2 для классификации последовательностей и принимает текстовые входы длиной до 512 токенов. Модель предназначена для оценки уровня должности по её названию, например для упорядочивания вакансий по старшинству или извлечения числового признака для аналитики рынка труда. Для получения исходной оценки через Hugging Face pipeline необходимо установить function_to_apply="none", чтобы не применять softmax или sigmoid. Лицензия — MIT. Карточка не приводит метрик качества или описания обучающего набора, поэтому точность на разных рынках труда и форматах названий вакансий не подтверждены.
trocr-barbados-fold4 — модель MusaNyaks, дообученная на базе microsoft/trocr-base-handwritten. Она использует архитектуру vision-encoder-decoder и предназначена для распознавания рукописного текста на изображениях, в частности для обработки отдельных строк. Модель принимает изображение и выдаёт текст; формат весов — safetensors, библиотека — Transformers. В README указана оценка Loss 0.8874 на наборе оценки, но сведения о датасете и подробные результаты отсутствуют. Модель распространяется по лицензии MIT. Качество на других данных и ограничения распознавания не описаны.
TrOCR_german_handwritten — трансформерная модель OCR на архитектуре vision-encoder-decoder, дообученная на наборе fhswf/german_handwriting. Она распознаёт немецкий рукописный текст на изображениях отдельных строк и преобразует его в текст. Модель основана на TrOCR_large_handwritten; семейство TrOCR представлено в работе Li и соавторов о распознавании текста с помощью предварительно обученных моделей. В README приведены метрики оценки: WER 17,5% и CER 4,1%. Модель предназначена для распознавания немецкого почерка; эти показатели относятся к описанной оценке и не гарантируют точность на других данных. Лицензия — AFL-3.0.
Trurl 2 13B — диалоговая языковая модель, дообученная Voicelab.AI на основе Llama 2. Это авторегрессионный трансформер с 12,9 млрд параметров и контекстом до 4096 токенов; модель принимает текст и генерирует текст. Модель предназначена для диалогов в формате помощника и других задач генерации естественного языка на польском и английском языках. При обучении использовались более 1,7 млрд токенов из частных и открытых данных, включая диалоги, вопросы и ответы, а также примеры для извлечения и анализа JSON. Для чат-сценариев требуется форматирование запросов по шаблону диалога Llama 2. Модель может давать неточные, предвзятые или нежелательные ответы; её проверка охватывала не все сценарии. Перед внедрением рекомендуется оценить качество и безопасность для конкретного применения. README указывает, что модель предназначена для коммерческого и исследовательского использования, однако конкретная лицензия в предоставленных данных не приведена.
timm/vit_pe_lang_large_patch14_448.fb — вариант визуального энкодера Perception Encoder Language от Meta, преобразованный для библиотеки timm и содержащий только энкодер изображений. Это большая модель семейства ViT с патчами 14×14 и входным разрешением 448 пикселей; она обучена на контрастивных изображениях и текстах и дополнительно выровнена для языковых задач. В полном мультимодальном конвейере энкодер можно сочетать с языковым декодером, например Llama или Qwen. Модель предназначена для получения визуальных признаков для поиска и других задач понимания изображений; семейство PE Lang особенно хорошо показало себя на OCR и анализе документов, включая ответы на вопросы по документам. Эта карточка содержит только визуальный энкодер: сама модель не генерирует текст и не принимает видео. Веса доступны в форматах PyTorch и safetensors по лицензии Apache 2.0.
VultronRetrieverCore-Qwen3.5-4.5B — мультимодальная модель поиска по страницам документов, разработанная Vultr и обученная на базе Qwen/Qwen3.5-4B. Она предназначена для визуального поиска и мультимодальных RAG-систем по PDF, сканам, презентациям и отчётам, включая страницы с таблицами, графиками и сложной вёрсткой. Модель использует архитектуру ColQwen3_5 с поздним взаимодействием в стиле ColBERT: выдаёт многовекторные эмбеддинги размерностью 320 и сопоставляет запросы и страницы методом MaxSim. Размер модели — около 4,5 млрд параметров; генеративная голова удалена. Страницы кодируются с длиной до 1792 визуальных токенов. Модель рассчитана на английский, французский, немецкий, испанский, итальянский и португальский языки. По данным карточки, она заняла второе место в ViDoRe V3 среди указанных моделей и показала высокие результаты на ViDoRe V1 и V2. Многовекторное индексирование помогает учитывать текст, таблицы, иллюстрации и расположение элементов, но требует больше места, чем поиск по одиночным эмбеддингам. Модель не предназначена для генерации ответов и текстового поиска без изображений документов; для ответов по найденным материалам её следует использовать вместе с генеративной моделью. Другие языки находятся вне заявленного распределения. Лицензия — Apache-2.0.
YOLOS-small-signature-detection — модель обнаружения объектов, дообученная Марио Дефрансом на базе hustvl/yolos-small для поиска рукописных подписей на изображениях документов. Она использует архитектуру Vision Transformer (YOLOS) и выдаёт расположение найденных подписей на изображении. Модель насчитывает 28,3 млн параметров и предназначена для работы с документами, включая сканы договоров и форм. Лицензия — Apache 2.0. Модель подходит для автоматического выделения областей с подписями при обработке документов. По данным README, обучение проводилось на наборе из примерно 2,8 тыс. изображений, объединяющем Tobacco800 и signatures-xc8up; тестовые показатели приведены для изображений 640×640. Качество может снижаться на изображениях низкого качества и при разнообразии стилей, недостаточно представленном в обучающих данных. Возможны ложные срабатывания и пропуски, поэтому результаты для юридически или финансово значимых решений следует проверять человеком. Модель не предназначена для обнаружения других объектов или подделки подписей.
Карточка модели 360ZhiNao/360VL-70B на Hugging Face совпадает с карточкой qihoo360/360VL-70B, поэтому описание составлено по ней. 360VL-70B — мультимодальная чат-модель компании 360, дообученная на основе Meta Llama 3 70B Instruct для работы с изображениями и текстом. Она использует авторегрессионную трансформерную архитектуру и глобально ориентированный многоветвевой проектор для обработки изображений; число параметров — 69,5 млрд, контекст — 8192 токена. Модель принимает текст и изображения и генерирует текстовые ответы. Она поддерживает многоходовые диалоги с одним изображением, визуальные вопросы и ответы, распознавание текста на изображениях, извлечение, упорядочивание и краткое изложение визуальной информации. Заявлена поддержка китайского и английского языков; изображения обрабатываются с разрешением до 672×672. Модель распространяется под лицензией Apache 2.0. Качество ответов может зависеть от содержания и разрешения изображения; заявленный режим визуального диалога рассчитан на одно изображение.
LinYuting выпустил дообученную модель RoBERTa base для извлечения ответов на вопросы из предоставленного текста. Она основана на deepset/roberta-base-squad2 и предназначена для сценариев question answering, где ответ нужно найти в контексте; базовая модель также определяет вопросы, на которые в контексте нет ответа. Модель содержит 151,8 млн параметров, имеет контекстное окно 514 токенов и представлена в формате TensorFlow. В карточке указаны результаты обучения: эпоха 2, ошибка на обучении 0,2567 и на валидации 1,1199. Датасет дообучения не назван, поэтому качество на других данных по этим метрикам оценить нельзя. Лицензия — CC BY 4.0.
ilsilfverskiold/bart-keyword-extractor — англоязычная модель BART, дообученная на facebook/bart-large для извлечения ключевых слов из текста. Она генерирует основные ключевые слова по входному тексту и подходит для автоматической разметки новостных материалов и подготовки метаданных для поиска. Модель содержит 252,8 млн параметров, использует архитектуру encoder-decoder и принимает контекст длиной до 1024 токенов. В README приведено значение loss 0,6179 на оценочном наборе; иных сведений о качестве нет. Модель распространяется по лицензии Apache-2.0.
Z-Jafari/bert-base-multilingual-cased-finetuned-nestedRewrite_QA — модель на основе BERT, дообученная на google-bert/bert-base-multilingual-cased для ответа на вопросы по заданному тексту. Она принимает вопрос и контекст и извлекает из контекста ответ; архитектура — плотный энкодер BertForQuestionAnswering с 205,1 млн параметров и контекстом до 512 токенов. В карточке приведены результаты оценки: exact match 73,3 и F1 76,98. Базовая модель многоязычная, но конкретный набор языков и обучающие данные этой версии не описаны. Модель распространяется по лицензии Apache-2.0.
Это многоязычная модель BERT, дообученная для извлечения ответов на вопросы из текста. Карточка указывает дообучение на SQuAD v1.1; в метаданных также перечислены наборы ARCD и XQuAD. Модель содержит 205,1 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит для систем вопросов и ответов, где нужно найти фрагмент ответа в предоставленном контексте. В карточке приведены результаты на SQuAD, ARCD и XQuAD, включая оценки для английского, немецкого и арабского языков; метаданные характеризуют её как многоязычную. Веса доступны в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия в предоставленных данных не указана.
hadsag/bert-base-uncased-finetuned-squad-v2 — дообученная модель BERT для извлечения ответа на вопрос из предоставленного текста. Она основана на twmkn9/bert-base-uncased-squad2 и имеет 136,7 млн параметров. Модель принимает вопрос и контекст на английском языке и возвращает фрагмент контекста как ответ; благодаря обучению на SQuAD v2 она также может определять случаи, когда в контексте нет ответа. Максимальная длина контекста — 512 токенов. Модель подходит для систем вопросов и ответов по документам и текстам, где ответ нужно найти непосредственно в контексте. Доступна в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.
quangvu197/bert-finetuned-squad — модель BERT, дообученная на базе google-bert/bert-base-cased для ответа на вопросы. Она принимает вопрос вместе с текстовым контекстом и предназначена для извлечения ответа из этого контекста. Модель содержит 135,5 млн параметров, поддерживает контекст длиной до 512 токенов и использует библиотеку Transformers. Модель подходит для поиска ответов в коротких текстах и контекстах, например в справочных материалах. Данные обучения в README названы неизвестными, поэтому нельзя оценить охват тем и качество на конкретных наборах данных. Лицензия — Apache-2.0.
deepset/bert-medium-squad2-distilled — англоязычная модель для извлекающего ответа на вопросы, опубликованная deepset. Это компактная версия BERT с архитектурой BertForQuestionAnswering и 49,2 млн параметров; модель принимает вопрос и текстовый контекст и выделяет в нём фрагмент с ответом, обучена на SQuAD 2.0 и рассчитана на английский язык. Модель создана методом дистилляции в Haystack 1.x: в README указан deepset/bert-large-uncased-whole-word-masking-squad2 как модель-учитель. Она подходит для извлечения ответов из документов, в том числе в конвейерах Haystack. Максимальный размер контекста — 512 токенов; веса доступны в форматах PyTorch и safetensors. Лицензия — MIT. Модель предназначена для ответов по предоставленному контексту и не является генеративным чат-ассистентом; её качество за пределами английского языка и обучающих данных SQuAD 2.0 не подтверждено.
mrm8488/bert-mini-finetuned-squadv2 — англоязычная компактная модель BERT-Mini, созданная Manuel Romero на основе модели Google Research и дообученная на SQuAD 2.0 для ответов на вопросы по заданному фрагменту текста. Она предсказывает ответ из контекста и может воздержаться от ответа, если контекст не содержит подтверждения. Модель насчитывает 12 млн параметров, имеет контекстное окно 512 токенов и доступна в форматах PyTorch и Flax. Размер обученной модели в README указан как 42,63 МБ. BERT-Mini разработана для сценариев с ограниченными вычислительными ресурсами. В приведённой оценке на SQuAD 2.0 модель получила EM 56,31 и F1 59,65. Её можно применять для извлечения ответов из абзацев, например, в системах поиска по документам. Модель распространяется под лицензией Apache 2.0.
Breeze-7B-32k-Base-v1_0 — базовая языковая модель MediaTek Research из семейства Breeze-7B, построенная на архитектуре Mistral-7B. Это декодерный трансформер с 7,2 млрд параметров и контекстом до 32 768 токенов; словарь расширен до 62 тысяч токенов для лучшей работы с традиционным китайским языком. Модель рассчитана на английский и традиционный китайский (zh-TW) и предназначена для дальнейшего дообучения под конкретные задачи. Увеличенное контекстное окно позволяет обрабатывать длинные документы и извлекать сведения из текста, распределённого по большому контексту. В описанных тестах модель показала более 90% точности при поиске ключа в длинном контексте и улучшенные результаты на длинных вариантах DRCD по сравнению с Breeze-7B-Base. Это базовая модель, поэтому её обычно дообучают перед применением для диалога и других прикладных задач. Распространяется по лицензии Apache-2.0.
BU-30B-A3B-Preview — мультимодальная модель Browser Use, дообученная на базе Qwen/Qwen3-VL-30B-A3B-Instruct для работы с библиотекой browser-use OSS. Она предназначена для автоматизации веб-сценариев: анализирует DOM и визуальное содержимое страниц, чтобы помогать агенту ориентироваться в браузере. Архитектура Qwen3-VL MoE содержит 30 млрд параметров, из которых активны 3 млрд; контекст — 65 536 токенов. Модель принимает текст и изображения и выдаёт текст.
CamemBERTa — франкоязычная языковая модель с архитектурой DeBERTa V3 на базе DeBERTa V2, представленная авторами этого чекпойнта. Это плотная модель на 137,8 млн параметров, обученная на французской части корпуса CCNet с целью Replaced Token Detection (RTD); при предобучении использовались последовательности длиной до 512 токенов. Метаданные указывают поддержку извлечения признаков, а README приводит результаты дообучения для разметки частей речи, синтаксического анализа, распознавания именованных сущностей, классификации, определения семантического сходства, межъязыкового вывода и ответов на вопросы.
CogVLM2-Llama3-Chat-19B — чат-модель с визуальным вводом от ZhipuAI, построенная на Meta-Llama-3-8B-Instruct. По карточке семейства модель предназначена для диалога и ответов на вопросы по изображениям; особенно отмечены результаты в задачах TextVQA и DocVQA. Модель поддерживает контекст до 8 192 токенов и изображения разрешением до 1344 × 1344 пикселей. Карточка указывает для этой версии английский язык; двуязычная поддержка китайского и английского относится к отдельной версии семейства. Метаданные описывают архитектуру как CogVLMForCausalLM и указывают 8,3 млрд параметров, тогда как README приводит размер семейства 19 млрд. Доступны веса в формате safetensors и чат-возможность. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.
Это модель DeBERTa-base, дообученная на базе microsoft/deberta-base для ответов на вопросы. Она предназначена для извлечения ответа из текста по заданному вопросу и может использоваться, например, в системах поиска ответов по документам. Модель содержит 151,8 млн параметров, использует архитектуру DeBERTa и принимает контекст длиной до 512 токенов. В README указана метрика Loss 0,9431 на наборе оценки, однако сведения о наборе данных, методике оценки и практических ограничениях отсутствуют. Модель опубликована в формате PyTorch под лицензией MIT.
stevemobs/deberta-base-finetuned-squad1-aqa-newsqa — модель на базе DeBERTa, дообученная для извлечения ответов на вопросы. В README указано, что она является дообученной версией stevemobs/deberta-base-finetuned-squad1-aqa; число параметров — 151,8 млн, архитектура — DebertaForQuestionAnswering, формат весов — PyTorch. Модель предназначена для ответов на вопросы по предоставленному текстовому контексту. В названии указаны SQuAD 1 и NewsQA, однако README не подтверждает состав обучающих данных: поле датасета обозначено как None. Контекст ограничен 512 токенами. Лицензия — MIT.
Англоязычная модель sjrhuschlee/deberta-v3-base, дообученная на SQuAD 2.0 для извлечения ответов из текста. На вход она принимает вопрос и контекст, а на выходе выделяет фрагмент контекста, который отвечает на вопрос; обучение включало вопросы без ответа, поэтому модель может распознавать случаи, когда подходящего фрагмента нет. Архитектура — DeBERTa-v3-base, 211,6 млн параметров, библиотека Transformers; максимальная длина контекста — 512 токенов. Модель подходит для поиска ответов в заданном тексте и систем вопросно-ответного поиска по документам на английском языке. Она не предназначена для свободной генерации развернутых ответов и зависит от того, содержит ли предоставленный контекст нужную информацию. Лицензия — MIT.
sanaullah7964/decentralized-ner-parsing-2026 — модель на базе DistilBERT-base-uncased, дообученная для токенной классификации и извлечения названий навыков из неструктурированного текста резюме и описаний вакансий. Она предназначена для систем подбора персонала и извлечения компетенций, включая запуск в браузере на CPU через ONNX Runtime Web. Модель работает с английским текстом; в метаданных указано контекстное окно 512 токенов, а README описывает обучение на окнах по 128 токенов с перекрытием 32 токена. Модель размечает токены тегами B-SKILL, I-SKILL и O. Она дообучена на датасете Mehyaar/Annotated_NER_PDF_Resumes; файлы доступны в форматах ONNX и safetensors, а README сообщает о квантованной ONNX-версии INT8. Лицензия — Apache-2.0. Заявленные метрики показывают высокий охват навыков, но точность извлечения ограничена: общий macro F1 составляет 0,5033, а F1 для B-SKILL и I-SKILL — 0,4110 и 0,2705 соответственно. Описанная в README фильтрация персональных данных относится к подготовке входных данных; карточка не подтверждает, что модель сама удаляет PII или обеспечивает беспристрастность при найме.
badokorach разработал эту модель как дообученную версию distilbert-base-cased-distilled-squad для ответов на вопросы. Это компактная модель семейства DistilBERT с архитектурой DistilBertForQuestionAnswering; она принимает текст вопроса и контекст и извлекает из контекста ответ. Модель рассчитана на контекст длиной до 512 токенов и опубликована в формате TensorFlow. В карточке указаны результаты обучения: train loss 0,2372, validation loss 0,0 за 19 эпох. Датасет и подробные сведения о назначении, оценке и ограничениях не описаны. Модель распространяется по лицензии Apache-2.0.