I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельMethystorn выпустил дообученную версию OpenAI Whisper Large-v3 для автоматического распознавания речи на кхмерском языке. Модель принимает аудио и преобразует речь в текст; она рассчитана на сценарии, где важна нормализация числительных, денежных сумм и дат. Модель построена на архитектуре Whisper и содержит 905,2 млн параметров. В репозитории представлены веса safetensors, лицензия — MIT. Разработчик указывает кхмерский язык (km-KH); сведений о длине контекста нет.
Это модель XLM-RoBERTa Base, дообученная Shivam Mangale на наборе SQuAD для ответов на вопросы по заданному контексту. Она использует плотную архитектуру XLM-RoBERTa с головой XLMRobertaForQuestionAnswering и содержит около 305,2 млн параметров. Модель принимает текст вопроса и контекста и выделяет в контексте фрагмент с ответом; максимальная длина контекста составляет 514 токенов. Модель подходит для извлечения ответов из документов, поиска фактов в тексте и прототипирования систем вопросно-ответного поиска. XLM-RoBERTa — многоязычное семейство, однако карточка не уточняет, на каких языках оценивалась именно эта настройка. Модель распространяется по лицензии MIT. README не содержит дополнительных сведений о качестве, обучении или ограничениях.
XLNet base-cased — англоязычная предварительно обученная языковая модель, разработанная авторами XLNet и впервые выпущенная в этом репозитории. Она содержит 137,8 млн параметров, построена на архитектуре Transformer-XL и использует обобщённое авторегрессионное предобучение с перестановками токенов. Доступны веса PyTorch и TensorFlow; модель обучалась на BookCorpus и Wikipedia. Модель предназначена прежде всего для дообучения под задачи понимания текста, включая классификацию последовательностей и токенов, ответы на вопросы и ранжирование документов. В метаданных Hugging Face для неё указан тег text-generation, однако карточка советует для генерации рассматривать GPT-2, а XLNet использовать для задач, где решение опирается на целое предложение или его контекст. Модель распространяется по лицензии MIT.
ProdicusII/ZeroShotBioNER — модель распознавания биомедицинских именованных сущностей, созданная в рамках исследовательского сотрудничества Bayer Pharma и Сербского института исследований и разработок искусственного интеллекта. Это модель на базе BioBERT с архитектурой BERT для классификации токенов; она содержит 135,5 млн параметров и обрабатывает контекст длиной до 512 токенов. Модель принимает текстовую метку сущности и короткий текст, в котором нужно найти упоминания этой сущности. Она предсказывает токенные метки для биомедицинских категорий, включая заболевания, химические вещества, гены и белки, типы клеток и лекарственные препараты. Модель обучена на более чем 25 классах и поддерживает поиск сущностей в zero-shot режиме, а также дообучение для новых классов на небольшом числе примеров. Модель подходит для извлечения сущностей из биомедицинских текстов и аннотирования научных или клинических документов. Карточка описывает токенные предсказания как последовательность нулей и единиц. Доступна по лицензии MIT; в карточке также заявлена возможность дальнейшего few-shot дообучения.
Модель badokorach/afriqa_afroxlmr_squad_v2_060124 — дообученная версия masakhane/afriqa_afroxlmr_squad_v2 на базе XLM-RoBERTa для извлечения ответов на вопросы из текста. Она принимает вопрос и контекст и предназначена для задач question answering, в том числе на африканских языках, указанных в описании базовой модели. Архитектура — XLM-RoBERTa для извлечения ответа; модель содержит 305,2 млн параметров и поддерживает контекст до 514 токенов. README сообщает о дообучении на датасете, который не назван, и приводит значения train loss 0,7582 и validation loss 0,0 после 14 эпох; дополнительных сведений о качестве и ограничениях нет. Модель распространяется по лицензии MIT.
sutd-ai/albert-base-v2-finetuned-squad — модель ALBERT, дообученная на наборе SQuAD v2 для извлечения ответов на вопросы из предоставленного текста. Она принимает вопрос и контекст и определяет ответ в контексте, включая возможность распознать, что ответа там нет. Модель содержит 136,3 млн параметров, использует архитектуру AlbertForQuestionAnswering и поддерживает контекст до 512 токенов. Модель подходит для систем вопросов и ответов по документам и текстовым фрагментам на английском языке. В README приведено значение loss 0,9650 на оценочном наборе, но подробные метрики и ограничения не описаны. Лицензия — Apache 2.0.
badokorach/bert-base-cased-squad2-agic2-051223 — дообученная модель BERT для извлечения ответов на вопросы из текста. Она основана на deepset/bert-base-cased-squad2 и содержит 135,5 млн параметров. Модель принимает вопрос и контекст, после чего выделяет ответный фрагмент текста; поддерживаемая задача — question-answering. Модель рассчитана на англоязычные сценарии поиска ответа в предоставленном тексте. Максимальный контекст составляет 512 токенов. В README указаны результаты обучения: train loss 0,2158, validation loss 0,0 на 19-й эпохе; сведения о наборе данных, методике оценки и практическом качестве не приведены. Распространяется по лицензии CC BY 4.0.
TurkuNLP/bert-base-finnish-cased-v1 — финская версия BERT, разработанная TurkuNLP и обученная с нуля на финскоязычных текстах. Это модель с архитектурой BERT для заполнения пропусков в тексте; её также можно дообучать для задач обработки финского языка, включая классификацию документов, распознавание именованных сущностей и разметку частей речи. Модель содержит 151,7 млн параметров, использует словарь из 50 000 WordPiece-токенов с улучшенным покрытием финских слов и поддерживает контекст до 512 токенов. Предобучение включало 1 млн шагов на корпусе более чем из 3 млрд токенов: новостях, интернет-обсуждениях и данных веб-сборов. Доступны веса в форматах PyTorch, TensorFlow, JAX/Flax и Safetensors. Карточка сообщает о результатах выше multilingual BERT в ряде финских задач, включая классификацию документов, NER и разметку частей речи. Для этих задач требуется дообучение на соответствующих данных; модель ориентирована на финский язык и не предназначена для генерации свободного текста. Лицензия в предоставленных данных не указана.
MMG/bert-base-spanish-wwm-cased-finetuned-sqac — модель BERT, дообученная на наборе SQAC для ответов на вопросы по текстовому контексту. Она принимает вопрос и связанный с ним фрагмент текста на испанском языке и извлекает из контекста ответ. Модель содержит 137,1 млн параметров, использует архитектуру BertForQuestionAnswering и поддерживает контекст длиной до 512 токенов. На оценочной выборке SQAC модель показала exact match 62,02 и F1 79,45. Она подходит для поиска ответов в испанских текстах, если вопрос и нужная информация помещаются в контекст. Лицензия в предоставленных данных не указана.
Модель kaporter/bert-base-uncased-finetuned-squad — версия BERT base uncased, дообученная для ответов на вопросы на наборе SQuAD. Она принимает вопрос и текстовый контекст и извлекает из контекста фрагмент, который отвечает на вопрос. Модель содержит 136,7 млн параметров, использует архитектуру BERT для задачи question answering и обрабатывает контекст длиной до 512 токенов. Модель подходит для поиска ответов в коротких текстах на английском языке, например в справочных материалах и документации. В README приведено значение loss 1,0725 на оценочной выборке, но дополнительные результаты и сведения о конкретных ограничениях не описаны. Лицензия — Apache-2.0.
Модель badokorach/bert-finetuned-squad-5 — дообученная версия BERT для извлечения ответов на вопросы из текста. Она принимает вопрос и контекст и предназначена для задач question answering. Модель содержит 135,5 млн параметров, поддерживает контекст длиной до 512 токенов и опубликована в формате TensorFlow. В README указано, что модель дообучена на основе badokorach/bert-finetuned-squad-4, но датасет обучения не установлен; приведены значение Train Loss 0,0004 и 29 эпох обучения. Лицензия — Apache-2.0. Язык модели и качество на пользовательских данных в доступных сведениях не определены.
Luciano выпустил дообученную модель BERT-Large для бразильского португальского языка на датасете LeNER-Br. Это модель классификации токенов, предназначенная для распознавания именованных сущностей в юридических текстах на португальском языке. В оценке на тестовой выборке LeNER-Br указаны F1 0,908, точность 0,8965, полнота 0,9198 и accuracy 0,9801. Модель основана на neuralmind/bert-large-portuguese-cased, содержит 433,2 млн параметров и принимает последовательности длиной до 512 токенов. Распространяется под лицензией MIT. Карточка не описывает ограничения подробнее; качество на других доменах и языках по приведённым результатам оценить нельзя.
Модель Pierre Guillou — дообученная для извлечения ответов на вопросы версия BERTimbau Large cased, предварительно обученной модели BERT для бразильского португальского языка от Neuralmind.ai. Она обучена на португальской версии SQuAD 1.1 и предназначена для поиска ответа в предоставленном тексте по вопросу; это модель извлекающего, а не свободного генерирования ответов типа question answering. Модель использует архитектуру BERT Large с 433,2 млн параметров и поддерживает контекст длиной до 512 токенов. В карточке приведены результаты на тестировании: F1 84,43 и exact match 72,68; автор сравнивает их с результатами базовой модели. Репозиторий содержит веса PyTorch и TensorFlow. Модель рассчитана на бразильский португальский язык. Для обучения использовались SQuAD 1.1 на португальском языке; в метаданных также указан brWaC. Автор предупреждает о возможных смещениях и нефильтрованном содержании обучающих данных. Лицензия — MIT.
mghuibregtse/biolinkbert-large-simcse-rat — англоязычная Sentence Transformers модель, дообученная автором на базе michiyasunaga/BioLinkBERT-large для оценки семантической близости предложений и абзацев. Она кодирует текст в плотные векторы размерностью 1024; сходство векторов можно сравнивать косинусной мерой. Архитектура включает BERT-энкодер с усреднением токенных представлений, а длина последовательности по метаданным — до 512 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текстов, особенно в биомедицинских сценариях: обучающие и проверочные примеры содержат идентификаторы генов и названия биологических сущностей. В README для набора val-eval приведена корреляция Спирмена 0,7408 по косинусному сходству. README указывает максимальную длину 128 токенов, что расходится с метаданными о контексте в 512 токенов; при практическом использовании следует учитывать ограничение фактической конфигурации модели. Модель содержит 432,2 млн параметров и опубликована в формате safetensors. Сведения о лицензии в предоставленных источниках отсутствуют.
CamemBERTa-L6 — облегчённая версия предварительно обученной модели CamemBERTa, созданная удалением верхних слоёв исходного чекпойнта. Она содержит 81,2 млн параметров, построена на архитектуре DeBERTa-v2 и принимает текст с контекстом до 512 токенов. Модель предназначена прежде всего для дообучения под задачи, где решение зависит от предложения целиком: классификации текста, извлечения ответа на вопрос и семантического поиска. Её также можно использовать как основу для извлечения признаков и для masked language modeling; для генерации текста карточка рекомендует авторегрессионные модели. Модель рассчитана на французский язык. Удаление слоёв уменьшает размер модели относительно базовой CamemBERTa, но сама по себе она не является готовым специализированным классификатором или генератором. Распространяется по лицензии MIT.
CLI-0.5B — мультимодальная языковая модель компании CodeFuse AI и официальный чекпойнт метода Cross-Layer Injection (CLI), описанного в работе для ECCV 2026. Она объединяет языковую модель Qwen2-0.5B с визуальным энкодером SigLIP-so400m-patch14-384 и содержит около 494 млн параметров. Вместо стандартного соединения визуального энкодера с языковой моделью CLI использует динамическую схему many-to-many: слои декодера могут обращаться к представлениям разных слоёв визуального энкодера. Для этого применяются адаптивные проекции AMP и механизм слияния с адаптивным управлением AGF. Модель предназначена для диалога и рассуждений по изображениям, включая вопросы о диаграммах, документах, графиках и сценах. В README заявлена оценка на 28 бенчмарках по визуальному восприятию, рассуждениям и визуальному чату. Указанное максимальное контекстное окно — 32768 токенов; модель принимает текст и изображения и генерирует текст на английском языке. Для запуска требуется реализация AMP и AGF из репозитория codefuse-ai/CLI и соответствующая конфигурация слоёв; обычная загрузка через LlavaOneVision в Transformers не воспроизводит поведение CLI. Чекпойнт опубликован под лицензией Apache-2.0.
Azma-AI/deberta-base-multi-label-classifier — модель DeBERTa-v3-base, дообученная с многозадачным обучением на 600 задачах классификации и понимания языка. Она предназначена для классификации текста по заданным категориям без отдельного обучения на этих категориях, а также для задач определения языкового следования и дальнейшей адаптации под новые задачи. Модель содержит 211,6 млн параметров, использует архитектуру DeBERTa-v2 для классификации последовательностей и принимает текст длиной до 512 токенов. В README отмечена высокая точность zero-shot-проверки на ряде задач; также заявлена совместимость с tasksource-adapters. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.
Mariah64 разработала эту модель как дообученную версию DistilBERT base uncased для извлечения ответов на вопросы. Модель принимает вопрос вместе с текстовым контекстом и предназначена для поиска в нём фрагмента, отвечающего на вопрос; карточка указывает задачу question answering и архитектуру DistilBertForQuestionAnswering. Модель основана на distilbert/distilbert-base-uncased, имеет контекстное окно до 512 токенов и опубликована в формате TensorFlow. В карточке приведены результаты одного прохода обучения и оценки на валидационном наборе, но сам набор данных не назван; точность логитов начала и конца ответа на валидации составляет соответственно 0,6556 и 0,6892. Указана лицензия Apache-2.0. Языковая специализация и подробные сведения о назначении и обучающих данных в README отсутствуют; исходная модель uncased рассчитана на английский текст.
kienchan/distilbert-finetuned-squadv2 — модель DistilBERT, дообученная для ответа на вопросы. Она принимает вопрос и текстовый контекст и предназначена для извлечения ответа из контекста. Модель основана на distilbert/distilbert-base-uncased, использует архитектуру DistilBertForQuestionAnswering и формат весов safetensors; базовая модель — англоязычная. Максимальная длина контекста составляет 512 токенов. Модель подходит для поиска ответов в коротких текстах и простых систем вопросно-ответного поиска. Карточка указывает лицензию Apache-2.0. Данные об обучающем наборе и оценке качества не приведены, поэтому точность на конкретных данных не установлена.
davelotito/donut-base-sroie-bayesian-optimization — дообученная модель Donut от разработчика davelotito, построенная на naver-clova-ix/donut-base. Это vision-encoder-decoder для преобразования изображений документов в текст; название указывает на настройку для SROIE, набора данных по извлечению информации из чеков. В метаданных указан тип задачи image-text-to-text и поддержка обработки изображений. Модель может применяться для извлечения текста и структурированных сведений из изображений чеков. Указана лицензия MIT. В карточке приведены метрики оценки: loss 0.1396, BLEU 0.0196, CER 0.8584 и WER 1.0. Эти результаты указывают на существенные ошибки распознавания на приведённой оценке; сведений о наборе данных и протоколе оценки недостаточно, чтобы переносить метрики на другие сценарии.
German Electra Uncased — немецкоязычная модель семейства ELECTRA, созданная German NLP Group совместно Филипом Маем из Deutsche Telekom и Филиппом Райселем из ambeRoad. Это базовая модель для дообучения на прикладных задачах обработки немецкого языка, включая ответы на вопросы и анализ тональности; её можно использовать как замену BERT в большинстве задач такого типа. Модель содержит 138,4 млн параметров, принимает последовательности длиной до 512 токенов и доступна в форматах PyTorch и Safetensors. Она обучена без учёта регистра, но сохраняет диакритические знаки, в том числе немецкие умляуты. В версии 2 обучение продолжили до 1,5 млн шагов на корпусах немецкого Common Crawl, Википедии, субтитрах и новостях. Для решения прикладных задач модель нужно дообучить. В README приведены результаты оценки на немецких наборах данных, но они относятся к моменту выпуска модели в 2020 году. Лицензия — MIT.
hyt1912/electra-small-discriminator-finetuned-squad — компактная модель семейства ELECTRA, дообученная для извлечения ответов на вопросы из текста. Она принимает вопрос и контекст и предназначена для сценариев, где ответ можно найти непосредственно в предоставленном фрагменте текста. Модель содержит 20,4 млн параметров, поддерживает контекст длиной до 512 токенов и доступна в формате safetensors для библиотеки Transformers. В README указана оценка Loss 1,0458 на наборе оценки, но подробности о данных и методике оценки не приведены. Модель распространяется по лицензии Apache-2.0. Языки и специализированные области применения в доступных сведениях не определены.
Это англоязычная модель для извлекающего ответа на вопросы, разработанная на основе bert-base-uncased и дообученная целиком на подвыборке SQuAD v1.1. Архитектура — BERT-base с 12 слоями Transformer, размером 768 и 12 головами внимания; модель содержит около 136,7 млн параметров по метаданным. Контекст модели ограничен 512 токенами, а при обучении использовались окна длиной 384 токена с шагом 128. Модель принимает вопрос и текстовый фрагмент и выбирает ответ как непрерывный отрывок из этого текста. Она подходит для поиска фактического ответа в предоставленном англоязычном тексте, например в документах или статьях. В оценке на валидационной выборке SQuAD v1.1 указаны Exact Match 73,59% и F1 82,70%. Модель не формулирует ответы своими словами и не определяет надёжно, что ответа в тексте нет; длинные тексты следует обрабатывать скользящими окнами. Для языков, отличных от английского, и задач, чувствительных к регистру, она не предназначена. Лицензия — Apache-2.0.
Avnay/Food_not_food_classificer-distilbert-base-uncased — модель Avnay для классификации текста по категориям «еда» и «не еда». Она дообучена на базе distilbert/distilbert-base-uncased и использует архитектуру DistilBertForSequenceClassification. Модель принимает текст и выдаёт метку класса; максимальная длина контекста — 512 токенов. Модель подходит для автоматической фильтрации и сортировки текстовых записей, связанных с едой. Она опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В карточке нет сведений о составе обучающих данных и результатах оценки качества.
Hindi-BERT-SQuAD — модель команды L3Cube-Pune для ответов на вопросы по тексту на хинди. Она основана на HindBERT (l3cube-pune/hindi-bert-v2) и дообучена на переведённом на хинди наборе L3Cube-IndicSQuAD. Модель использует архитектуру XLM-RoBERTa с 305,2 млн параметров и рассчитана на контекст до 514 токенов. Модель предназначена для извлечения ответа из предоставленного текста по заданному вопросу, например, для поиска фактов в статьях и документах на хинди. Она принимает текст и выдаёт текстовый ответ. Распространяется по лицензии CC BY 4.0; практическое качество зависит от соответствия входных текстов и вопросов данным и языковому стилю обучения.
Карточка модели Atgenomix/icd_10_sentence_transformer_128_dim_model на Hugging Face совпадает с карточкой pritamdeka/BioBERT-mnli-snli-scinli-scitail-mednli-stsb, поэтому описание составлено по ней. pritamdeka/BioBERT-mnli-snli-scinli-scitail-mednli-stsb — модель эмбеддингов предложений на базе BERT, опубликованная пользователем pritamdeka. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, кластеризации и оценки сходства. Модель обучалась на SNLI, MNLI, SCINLI, SCITAIL, MEDNLI и STSB, включая наборы данных по биомедицинским текстам. Веса содержат 135,5 млн параметров, максимальная длина контекста составляет 512 токенов. Модель принимает текст и возвращает эмбеддинги; указанные наборы данных и название BioBERT указывают на специализацию для биомедицинского и научного текста. Для использования требуется корректная операция pooling поверх контекстных представлений либо Sentence-Transformers. Лицензия CC BY-NC 3.0 ограничивает коммерческое использование.
InternVL-Chat-V1-1 — мультимодальная модель OpenGVLab для диалога по изображениям и тексту. Её архитектура объединяет визуальный энкодер InternViT-6B с разрешением 448 × 448, MLP-проектор и внутреннюю чат-версию LLaMA2-13B; общий размер составляет 19 млрд параметров. Изображение кодируется в 256 визуальных токенов после операции pixel shuffle. Модель предназначена для ответов на вопросы об изображениях, визуального диалога и распознавания текста на изображениях. В этой версии улучшены OCR и поддержка китайских разговоров; карточка также показывает поддержку многоязычности. Можно вести текстовый диалог без изображения. Модель работает через Transformers и требует значительных вычислительных ресурсов; авторы предупреждают, что 4-битная BNB-квантизация может ухудшить понимание изображений, а результаты при работе с несколькими изображениями и видео слабы из-за недостатка обучающих данных. Лицензия — MIT.
KBevo-Qwen3-1.7B-SFT — контрольная точка модели Qwen3-1.7B, дообученная командой kilian-group методом supervised fine-tuning для подхода KBevo. Модель предназначена для многошаговых вопросов по текстовым фрагментам: сначала она извлекает из них компактную структурированную базу знаний в виде троек «сущность — отношение — значение», затем выполняет типизированные запросы к этой базе и формирует ответ на основе найденных фактов. Обе фазы используют общие веса. Модель построена на плотной архитектуре Qwen3ForCausalLM, содержит 1,7 млрд параметров и имеет контекстное окно 40 960 токенов. Для двухфазного выполнения предусмотрена эталонная реализация KBevo; этот SFT-чекпойнт также служит начальной точкой для варианта KBevo-Qwen3-1.7B-GRPO. В README приведены результаты на HotpotQA, MuSiQue, 2WikiMultiHopQA и PopQA; отдельная оценка качества для иных сценариев не заявлена. Модель принимает текст и генерирует текст. В карточке указан английский язык. Лицензия — Apache-2.0. Она рассчитана на запуск и оценку политики построения базы знаний и рассуждений KBevo, воспроизведение результатов и дальнейшее дообучение; для двухфазного сценария следует использовать код проекта KBevo.
Ba2han/lfm-cpt — дообученная модель Liquid AI на базе LiquidAI/LFM2.5-VL-1.6B. Она принимает изображения вместе с текстовыми запросами и предназначена для диалога по изображениям, распознавания текста и ответов на вопросы по изображениям и документам. Модель использует архитектуру Lfm2VlForConditionalGeneration семейства LFM2-VL и распространяется в формате safetensors для Transformers. Датасет дообучения и результаты оценки не описаны, поэтому качество и специализацию сверх возможностей базовой модели определить нельзя. Лицензия указана как other; конкретные условия использования в доступных сведениях не раскрыты.
mbert-quoref — модель на архитектуре BERT, дообученная intanm на базе google-bert/bert-base-multilingual-cased на наборе данных Quoref. Она предназначена для ответа на вопросы по предоставленному тексту: модель получает вопрос и контекст и предсказывает ответ в контексте. Число параметров составляет 205,1 млн, максимальная длина контекста — 512 токенов; веса представлены в формате PyTorch. Многоязычная базовая модель поддерживает несколько языков, однако карточка не уточняет, на каких языках проводилось дообучение Quoref. На оценочном наборе указано значение loss 3,7567. Модель распространяется по лицензии Apache-2.0.