I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельOsaurusAI/rampart-mlx — независимая конверсия модели Rampart в формат MLX, созданная для запуска на устройствах Apple Silicon. Это компактный энкодер BERT на базе MiniLM-L6 с 6 слоями, размером около 21,7 млн параметров по метаданным и контекстом до 512 токенов. Модель выполняет токенную классификацию: размечает текст по 35 BIO-классам, включая 17 типов персональных данных — имена, адреса, электронную почту, телефоны, идентификаторы и банковские реквизиты. Модель предназначена для локального обнаружения и редактирования персональных данных в пользовательском тексте, например на устройстве или на стороне клиента. В репозитории размещены веса fp16 в safetensors и автономная реализация на MLX. По README, результаты совпадают с исходной моделью ONNX на проверочных примерах: метки токенов совпали во всех случаях, а максимальное различие логитов составило около 1e-5. Это англоязычная модель; сведения о поддержке других языков не приведены. Она помечает фрагменты текста, но сама по себе не выполняет редактирование: для восстановления диапазонов символов и маскирования данных требуется декодирование BIO-разметки. Модель выпущена под лицензией CC BY 4.0; исходная Rampart указана как базовая дообученная модель.
phiyodr/roberta-large-finetuned-squad2 — англоязычная модель ответов на вопросы, созданная дообучением RoBERTa-large на наборе SQuAD 2.0. Она предназначена для поиска ответа в предоставленном текстовом фрагменте и умеет распознавать вопросы, на которые в контексте нет ответа. Модель содержит около 454,1 млн параметров, использует архитектуру RoBERTa для извлечения ответа и рассчитана на контекст до 514 токенов. Модель подходит для извлечения фактов из англоязычных документов, справочных текстов и статей, а также для прототипов систем вопросно-ответного поиска. Доступны веса в форматах PyTorch и Flax. Сведения о лицензии в предоставленных данных отсутствуют.
CHAI OCR — экспериментальная мультимодальная модель для распознавания текста и анализа документов, созданная на основе Qwen 3.5 4B VL. В ней применено слияние task arithmetic: адаптация визуального энкодера усилена коэффициентом 1,25, а языковая модель, MTP-голова и эмбеддинги сохранены от настроенного исходного чекпойнта. Изменены 297 тензоров визуального энкодера, около 333 млн параметров. Модель предназначена для OCR сканов, включая старые и повреждённые документы, а также для анализа структуры страниц, таблиц, форм и многоколоночных материалов. Она принимает изображения и текстовые запросы, выдаёт текстовые ответы. В README приведён экспериментальный результат бенчмарка, но модель обозначена как непроверенная; усиление визуальной адаптации может как улучшить OCR, так и ухудшить другие возможности. Лицензия в доступных данных не указана.
Community-1 — конвейер для диаризации речи от pyannote. Он принимает аудио и определяет, кто и когда говорит; результат включает временные интервалы с метками говорящих. Для входа используется монофоническое аудио с частотой 16 кГц: многоканальные записи автоматически сводятся к моно, а записи с другой частотой дискретизации пересчитываются до 16 кГц. По карточке модели, Community-1 улучшает назначение и подсчёт говорящих по сравнению с предыдущей версией pyannote speaker-diarization-3.1 и предоставляет эксклюзивную диаризацию, упрощающую сопоставление временных меток говорящих с временными метками транскрипции. Конвейер можно запускать локально, в том числе без подключения к интернету, или использовать через облачный сервис pyannoteAI. Для работы локально требуется pyannote.audio и токен Hugging Face с принятыми условиями доступа. Модель предназначена для анализа речи в записях с несколькими участниками, включая случаи перекрывающейся речи. В README приведены результаты на академических бенчмарках, но качество зависит от условий записи и домена. Метаданные указывают лицензию CC BY 4.0; при использовании следует соблюдать её условия.
hung200504/test-bert-3 — дообученная модель на архитектуре BERT для извлечения ответов на вопросы из текста. Она основана на hung200504/test-bert-2 и содержит 136,7 млн параметров; максимальная длина контекста составляет 512 токенов. Модель предназначена для сценариев, где нужно найти ответ на вопрос в предоставленном фрагменте текста. В README указан результат Loss 11,6031 на наборе оценки, но набор данных и подробности оценки не описаны. Базовая модель охарактеризована в каталоге как англоязычная, поэтому основным языком модели считается английский. Весы представлены в формате PyTorch; лицензия в предоставленных данных не указана.
eleldar/theme-classification — чекпойнт BART-large, дообученный на наборе MultiNLI для классификации текстов по заданным категориям без предварительного обучения на этих категориях. Модель сопоставляет текст с гипотезами, построенными на основе названий категорий, и оценивает вероятности следования и противоречия; пользователь может задавать собственный набор меток. Архитектура — BART для классификации последовательностей, размер — 252,8 млн параметров, максимальный контекст — 1024 токена. Доступны веса PyTorch и Flax. Модель подходит для тематической разметки и других задач классификации с пользовательскими категориями, особенно на английском языке, на котором обучен MultiNLI. Карточка также описывает применение метода для многометочной классификации, когда несколько категорий могут подходить одновременно. Репозиторий распространяется по лицензии MIT. Для других языков и узких предметных областей качество может отличаться; результаты зависят от формулировки меток и гипотез.
WebOrganizer/TopicClassifier — англоязычный классификатор веб-страниц по темам, разработанный WebOrganizer на основе Alibaba-NLP/gte-base-en-v1.5. Модель принимает URL страницы и её текстовое содержимое и распределяет страницу по 24 категориям. Это дообученная плотная энкодерная модель с архитектурой sequence classification, примерно 136,7 млн параметров, максимальным контекстом 8192 токена и весами в формате safetensors. Модель предназначена для тематической организации веб-контента и классификации страниц при построении каталогов или обработке больших коллекций URL и текстов. Обучение проходило в два этапа на наборах WebOrganizer с аннотациями, созданными Llama 3.1: сначала на 1 млн документов, затем на 100 тыс. документов. README рекомендует для ускоренного вывода реализацию gte-base-en-v1.5 с unpadding и memory-efficient attention; для этого требуется xformers. Сведения о лицензии в предоставленных данных отсутствуют.
cyttic/trocr-bigram5-BY — дообученная модель cyttic/exp2-frozen-benyehuda-cont для преобразования изображений с текстом в текст. Она использует архитектуру VisionEncoderDecoder и библиотеку Transformers; веса представлены в формате safetensors. По названию модели можно предположить связь с распознаванием биграмм и белорусским языком, однако README не подтверждает назначение суффикса BY или языковую поддержку. В карточке приведены результаты оценки: Loss 0.5955, CER 0.0292 и WER 0.0838. Датасет, сценарии применения, ограничения и условия лицензии не описаны, поэтому оценить качество за пределами указанного набора данных нельзя.
Xenova/trocr-small-handwritten — версия модели microsoft/trocr-small-handwritten с весами в формате ONNX, подготовленная для работы через библиотеку Transformers.js. Модель предназначена для оптического распознавания рукописного текста: на вход подаётся изображение, а на выходе генерируется распознанная текстовая строка. Модель относится к семейству TrOCR и использует задачу image-to-text. В README не указаны точные сведения об архитектуре, количестве параметров, поддерживаемых языках и размере контекста. Пример демонстрирует распознавание короткой английской рукописной фразы, однако полноценный перечень языков и ограничений качества не приведён. Основное преимущество модели — совместимость с Transformers.js и возможность использования ONNX-весов в веб-сценариях. Лицензия в предоставленных данных не указана.
mohammadalihumayun/trocr-ur-v2 — дообученная модель распознавания текста на изображениях на урду. Она использует архитектуру vision-encoder-decoder и предназначена для OCR: на вход принимает изображение с текстом, на выходе генерирует его текстовую расшифровку. В метаданных указаны библиотека Transformers и формат весов safetensors. На тестовом наборе в README приведены значения loss 2,2939 и CER 0,2622; набор данных не описан. Модель может применяться для распознавания урду в изображениях и сканах, однако карточка не раскрывает ограничения по качеству, условиям съёмки или способам использования. Сведения о лицензии отсутствуют в предоставленных данных.
robinhad/ukrainian-qa — модель для ответов на вопросы на основе XLM-RoBERTa, дообученная автором репозитория на украинском наборе UA-SQuAD от ukr-models/xlm-roberta-base-uk. Она предназначена для извлечения ответа на вопрос из предоставленного текста и может использоваться в системах поиска по документам и украинских справочных сервисах. Модель содержит 137,3 млн параметров, рассчитана на контекст до 514 токенов и использует архитектуру XLM-RoBERTa; указана поддержка украинского языка. В карточке приведено значение loss 1,4778 на оценочной выборке, но подробностей протокола оценки нет. Лицензия — MIT.
Werea-TR-QA — Werea tarafından yayımlanan, Türkçe bağlamlı çıkarımsal soru-cevap modeli. BERTurk tabanlı BERT-энкодер, дообученный для выбора ответа в виде фрагмента текста из предоставленного контекста; в карточке заявлено обучение в стиле SQuAD в течение двух эпох. Модель рассчитана на поиск ответов в текстах, в том числе в составе RAG-систем. Модель содержит 137,8 млн параметров, принимает текст вопроса и контекста, поддерживает контекст до 512 токенов и сохранена в формате safetensors. В README приведены результаты на турецких наборах TQuAD2 и XQuAD-tr: EM 53,8% и 46,1%, F1 72,7% и 64,5% соответственно. Базовая модель — dbmdz/bert-base-turkish-cased, лицензия MIT.
XLM-RoBERTa base — многоязычная трансформерная модель FacebookAI, впервые выпущенная в этом репозитории. Она предварительно обучена на 2,5 ТБ отфильтрованных данных CommonCrawl на 100 языках с целью masked language modeling: модель восстанавливает замаскированные слова, используя контекст с обеих сторон. Это базовая модель архитектуры XLM-RoBERTa с 305,2 млн параметров и контекстом до 514 токенов. Модель подходит для предсказания пропущенных слов и получения текстовых представлений для последующей настройки на классификацию последовательностей и токенов, а также ответы на вопросы. Она поддерживает множество языков; метаданные перечисляют коды языков, среди которых английский, арабский, китайский здесь не указан, французский, немецкий, японский, корейский, русский также не указан. Для генерации связного текста модель не предназначена. Лицензия — MIT.
Z-Jafari/xlm-roberta-base-finetuned-nestedRewrite_QA — модель для извлечения ответа на вопрос из предоставленного текста. Она создана дообучением многоязычной XLM-RoBERTa base от Facebook AI и содержит около 305,2 млн параметров. Модель принимает текст с контекстом и вопросом и предсказывает ответ в формате задачи question-answering; максимальная длина контекста составляет 514 токенов. В README приведены результаты оценки: exact match 76,9 и F1 79,7, однако набор данных и условия тестирования не описаны, поэтому эти показатели нельзя напрямую переносить на другие сценарии. Модель опубликована в формате safetensors и распространяется по лицензии MIT. Языки и область применения конкретного дообучения не уточнены.
XLM-RoBERTa-XL — крупная многоязычная модель на архитектуре RoBERTa, разработанная авторами статьи Naman Goyal, Jingfei Du, Myle Ott, Giri Anantharaman и Alexis Conneau. Она предварительно обучена на 2,5 ТБ отфильтрованных данных CommonCrawl на 100 языках с целью masked language modeling: модель восстанавливает замаскированные слова, используя контекст с обеих сторон. Число параметров — 4,4 млрд, максимальная длина контекста — 514 токенов. Модель подходит для заполнения пропусков в тексте и извлечения многоязычных представлений для дообучения под классификацию последовательностей и токенов, а также ответы на вопросы. Она предназначена прежде всего для задач, анализирующих предложение целиком; для генерации связного текста README рекомендует авторегрессионные модели. Модель распространяется под лицензией MIT.
ZDTaichu5.0-9B-GGUF — мультимодальная foundation-модель, разработанная командой Taichu AI. Она предназначена для общего визуального понимания, пространственного рассуждения, агентского использования инструментов и исследований в области embodied AI. Модель работает с текстом, отдельными и множественными изображениями, а также видео; заявлена поддержка английского и китайского языков. В основе используется языковой декодер Qwen3.5-9B и vision-энкодер C-RADIOv4-H. Модель поддерживает контекст до 128K токенов и визуальный ввод произвольного разрешения. Она рассчитана на понимание изображений, документов, таблиц, графиков, диаграмм и OCR, визуальную математику, ответы на вопросы с опорой на визуальные данные, анализ нескольких ракурсов и видео, локализацию объектов, координаты и bounding boxes, 2D- и 3D-пространственные отношения, перспективу, планирование действий и понимание affordances. К сильным сторонам относятся широкий профиль визуальных возможностей, пространственное и embodied-рассуждение, многошаговое и многотуровое использование инструментов, а также Entropy-Gated Adaptive Recurrent Reasoning, динамически выделяющий дополнительные итерации обработки для сложных токенов. GGUF-артефакты совместимы с llama.cpp, Ollama и другими GGUF-инструментами; доступны варианты квантования языковой модели и vision-энкодера для CPU и NVIDIA GPU с CUDA. Исполнение инструментов моделью самостоятельно не выполняется и должно быть реализовано и защищено окружающим приложением. Лицензия в представленном README не указана.
Zhimu-1.0 — диалоговая мультимодальная модель AIR-CAS-kx, дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Она принимает текст и изображения и формирует текстовые ответы; архитектура относится к семейству Qwen3-VL и реализована классом Qwen3VLForConditionalGeneration. Базовая модель предназначена для диалога, анализа изображений и видео, OCR и визуального рассуждения. Модель можно применять для вопросов по изображениям, извлечения текста с изображений и визуального диалога. В карточке Zhimu-1.0 подробности о целевых сценариях и результатах оценки не приведены. Указана лицензия other; конкретные условия использования следует сверять с лицензией репозитория и базовой модели.
Palak/albert-base-v2_squad — модель ALBERT дообученная разработчиком Palak на albert-base-v2 для ответов на вопросы по контексту. Она предназначена для сценариев извлечения ответа из текста, например для поиска ответа в документе или фрагменте статьи. Модель содержит 136,3 млн параметров, использует архитектуру AlbertForQuestionAnswering и принимает контекст длиной до 512 токенов. Веса представлены в формате PyTorch; лицензия — Apache-2.0. На наборе SQuAD v1 модель показала exact match 82,7 и F1 90,1 по оценке в карточке. Эти результаты относятся к тестированию на SQuAD и не гарантируют аналогичное качество на других языках, предметных областях или форматах контекста.
AZOCR — модель оптического распознавания символов для документов на азербайджанском языке, созданная на основе GLM-OCR. Модель дообучена методом LoRA на 6 699 примерах страниц в течение двух эпох. Она принимает изображения документов и преобразует их содержимое в текст. Модель предназначена для распознавания азербайджанского текста в документах; репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает метрики качества, поэтому точность распознавания для разных типов документов оценить по имеющимся сведениям нельзя.
Bee-8B-RL — мультимодальная языковая модель Open-Bee на 8 млрд параметров, созданная на базе Qwen/Qwen3-8B. Она дообучена для диалогов и работы с изображениями и текстом; поддерживает режимы с рассуждением и без него. Модель предназначена для анализа изображений, сложных рассуждений, математических задач, понимания документов и диаграмм, а также генерации ответов в чате. В метаданных указана архитектура BeeForConditionalGeneration и формат safetensors; README описывает обучение на корпусе Honey-Data-15M с примерами, обогащёнными рассуждениями CoT. По заявлению разработчиков, Bee-8B показывает сильные результаты среди полностью открытых мультимодальных моделей, в частности на задачах математики, логики, анализа диаграмм и документов. Эти оценки основаны на бенчмарках и не гарантируют точность в каждом пользовательском сценарии. Модель рассчитана на английский язык согласно языковым метаданным; карточка не сообщает размер контекста. Лицензия — Apache-2.0.
Это итальянская модель BERT для ответов на вопросы, созданная на основе dbmdz/bert-base-italian-uncased и дообученная на задаче question answering. Она предназначена для извлечения ответа из предоставленного текста по вопросу и может применяться в системах поиска по документам и справочных материалах на итальянском языке. Модель имеет архитектуру BertForQuestionAnswering, содержит 137,1 млн параметров и поддерживает контекст длиной до 512 токенов. Для обучения использован набор SQuAD-it — итальянская версия SQuAD, полученная полуавтоматическим переводом исходного датасета. В карточке приведены результаты EM 63,8 и F1 75,30. Модель принимает вопрос и контекст в виде текста и возвращает текстовый ответ, обычно извлечённый из контекста. Лицензия в предоставленных данных не указана.
MMG выпустил испаноязычную модель вопросно-ответной системы на базе BERT. Она дообучена на наборе SQAC поверх mrm8488/bert-base-spanish-wwm-cased-finetuned-spa-squad2-es и предназначена для извлечения ответа на вопрос из предоставленного текста. Модель содержит 137,1 млн параметров, использует архитектуру BertForQuestionAnswering и принимает контекст до 512 токенов; веса доступны в форматах PyTorch и Safetensors. На оценочном наборе SQAC указаны exact match 65,02 и F1 81,67. Модель подходит для испаноязычных систем поиска ответов по текстам. Лицензия в предоставленных данных не указана.
kaito2006/bert-finetuned-squad — дообученная модель BERT, разработанная автором репозитория kaito2006 на основе google-bert/bert-base-cased. Она предназначена для извлечения ответа на вопрос из предоставленного текста и классифицируется как модель question answering. Архитектура — плотная BertForQuestionAnswering, размер — 135,5 млн параметров, формат весов — safetensors; максимальная длина контекста составляет 512 токенов. Модель подходит для поиска фактических ответов в текстовых фрагментах и для прототипов систем вопросно-ответного поиска. Она дообучена на SQuAD согласно названию репозитория, однако README сообщает, что обучающий датасет неизвестен, поэтому это указание нельзя считать подтверждённым. Лицензия — Apache-2.0. В карточке не приведены сведения об оценке качества или подробные ограничения; базовая модель cased ориентирована на английский текст.
merthacioglu/bert-finetuned-squad — модель на архитектуре BERT, дообученная для ответа на вопросы. Она принимает текст вопроса и контекст и предсказывает ответный фрагмент из контекста. Модель содержит 135,5 млн параметров и рассчитана на контекст длиной до 512 токенов. Карточка связывает её с SQuAD, однако подробности о данных обучения, языках, оценках качества и рекомендованных сценариях не приведены. Модель опубликована в формате PyTorch; условия лицензии в доступных сведениях не указаны.
deepset разработала модель на архитектуре BERT Large и дообучила её на SQuAD 2.0 для извлекающего ответа на вопросы. Модель получает вопрос и текстовый фрагмент, а затем выделяет ответ непосредственно из этого текста; если ответа в контексте нет, обучение на SQuAD 2.0 позволяет модели воздерживаться от ответа. Модель подходит для поиска ответов в документах и для систем вопросно-ответного поиска, в том числе с использованием Haystack. Она содержит 433,9 млн параметров, рассчитана на английский язык и поддерживает контекст длиной до 512 токенов. Доступны реализации в PyTorch, TensorFlow и Flax, включая веса Safetensors. Лицензия — CC BY 4.0. Модель предназначена для извлечения ответа из предоставленного контекста, а не для свободной генерации развернутых ответов или поиска сведений во внешних источниках. Контекст ограничен 512 токенами; качество за пределами английского языка и обучающего домена SQuAD 2.0 не подтверждено.
BLING-cerebras-1.3b-0.1 — компактная инструкционная языковая модель, разработанная llmware на базе Cerebras-GPT-1.3B. Модель относится к семейству GPT-2 и рассчитана на запуск на процессоре ноутбука без специальных оптимизаций квантования; объём контекста — 2048 токенов. В карточке заявлена поддержка английского языка. Модель предназначена для локального прототипирования и автоматизации узкого круга задач, особенно в сценариях RAG с чувствительными данными. Она умеет отвечать на вопросы по переданному текстовому контексту, извлекать значения и составлять краткие сводки. Лицензия — Apache 2.0. Модель компактна и ориентирована на фактические ответы по предоставленному контексту, однако, как и другие языковые модели, может выдавать неточную или неполную информацию. Результаты следует проверять; качество за пределами целевых инструкционных задач не гарантируется.
sophiaqho/boolq_finetuned_v1 — дообученная модель на основе PrimeQA/tydiqa-boolean-answer-classifier для классификации текста. Базовая модель XLM-RoBERTa имеет около 658,7 млн параметров; репозиторий содержит веса в формате safetensors и рассчитан на контекст до 514 токенов. Модель подходит для классификации ответов на вопросы формата «да/нет» по текстовому контексту: базовый чекпойнт различает yes, no и no-answer. В карточке указана оценка loss 0,7342 на тестовом наборе, но название обучающего датасета приведено как None, а подробности данных и сценариев применения отсутствуют. Модель распространяется по лицензии Apache-2.0.
davanstrien/chat_topics — модель тематического моделирования на базе BERTopic, разработанная пользователем davanstrien. Она предназначена для автоматического выявления и интерпретации тематик в больших коллекциях текстов, в частности для анализа сообщений и диалогов. Модель обучена на 63 530 документах из датасета OpenAssistant/oasst1 и выделяет 75 тем. Модель работает с текстом на английском языке и может применяться для кластеризации сообщений, тематической классификации, анализа интересов пользователей и обзора содержания корпусов диалогов. Среди выявленных тематик — Generative AI, программирование, веб-разработка, Linux, физика, музыка, финансы, климат и другие; предусмотрена также категория -1 для документов, не отнесённых к основной теме. README не содержит сведений о конкретной embedding-модели, размере параметров, длине контекста или поддержке других модальностей и языков. Сильной стороной является интерпретируемость результатов: темы представлены ключевыми словами, частотами и метками, что удобно для исследовательского и аналитического использования. Ограничение модели состоит в зависимости от тем и языкового распределения обучающего корпуса: она ориентирована на английские тексты OpenAssistant и не является универсальной генеративной моделью. Для использования требуется библиотека BERTopic. Модель распространяется по лицензии MIT.
Portuguese Clinical NER - Disease — модель для распознавания заболеваний в клинических текстах на португальском языке. Она входит в проект BioBERTpt, создана пользователем pucpr и обучена на бразильском клиническом корпусе SemClinBr; базой послужила BioBERTpt(all). Модель размечает текст по токенам в формате IOB2, а её архитектура — BERT с головой классификации токенов; размер составляет 205,1 млн параметров, контекст — до 512 токенов. Модель предназначена для извлечения упоминаний заболеваний из клинических записей и других медицинских текстов на бразильском португальском. Она решает задачу клинического NER и может использоваться в пайплайнах структурирования медицинских документов. Данные не содержат сведений о лицензии, поэтому условия использования определить нельзя.
Portuguese Clinical NER - Pharmacologic — модель распознавания фармакологических сущностей в клиническом тексте на португальском языке. Она входит в проект BioBERTpt: модели семейства обучались на бразильском клиническом корпусе SemClinBr в течение 10 эпох с разметкой IOB2; базовой моделью указана BioBERTpt(all). Архитектура — BERT для классификации токенов, размер — 205,1 млн параметров, длина контекста — 512 токенов. Модель предназначена для извлечения упоминаний фармакологических сущностей из клинических документов на бразильском португальском языке. Она может использоваться в медицинском анализе текста и при структурировании клинической информации. Карточка не уточняет полный перечень распознаваемых типов фармакологических сущностей и оценку качества. Лицензия в предоставленных данных не указана.