I.3Извлечение и структурирование данных

Карточка модели microsoft/xdoc-base-squad1.1 на Hugging Face совпадает с карточкой microsoft/xdoc-base-squad2.0, поэтому описание составлено по ней. XDoc-base-SQuAD2.0 — модель Microsoft для ответов на вопросы по тексту, связанная с проектом XDoc, представленным в работе о едином предварительном обучении для понимания документов разных форматов. В карточке указана архитектура RoBERTa с головой для question answering и 151,8 млн параметров; модель доступна в формате PyTorch, контекст — до 514 токенов. Модель предназначена для поиска ответа на вопрос в предоставленном контексте и может применяться для извлечения сведений из документов и ответов на вопросы по их тексту. README описывает XDoc как единую предварительно обученную модель для разных форматов документов, но не уточняет модальности и конкретные возможности данного чекпойнта. Лицензия — MIT.

intanm/xlmrlarge-idkmrc-2 — дообученная модель XLM-RoBERTa Large объёмом 658,7 млн параметров для извлечения ответов на вопросы из текста. Она принимает вопрос и текстовый контекст и определяет в нём фрагмент, содержащий ответ. В метаданных указана длина контекста 514 токенов. Модель создана на основе intanm/xlmrlarge-idkmrc; README сообщает о дообучении, но не описывает набор данных и приводит только значение loss 1,5737 на оценочной выборке. Формат весов — PyTorch. Лицензия — MIT. README не уточняет языки и сценарии применения, поэтому языковые возможности базовой XLM-RoBERTa нельзя считать подтверждёнными для этого чекпойнта.

intanm/xlm-roberta-base-squad2-idkmrc — дообученная модель для извлечения ответа на вопрос из предоставленного текста. Она основана на deepset/xlm-roberta-base-squad2 и использует архитектуру XLM-RoBERTa с головой XLMRobertaForQuestionAnswering; размер — 305,2 млн параметров, контекст — до 514 токенов. Модель предназначена для сценариев, где вопрос и текст известны заранее, например для поиска ответа в документах. Карточка сообщает результат оценки Loss 0,8167, но не приводит датасет, языки обучения или подробные результаты, поэтому качество для конкретного языка и типа текста по этим данным оценить нельзя. Репозиторий распространяется по лицензии CC BY 4.0.

Sajjad Ayoubi создал модель ответов на вопросы на основе XLM-RoBERTa Large. Она принимает вопрос и текстовый контекст и извлекает из контекста фрагмент, отвечающий на вопрос. Модель предназначена для систем поиска ответов по текстовым материалам; README описывает использование через Transformers в PyTorch или TensorFlow. Модель содержит 658,7 млн параметров и поддерживает контекст длиной до 514 токенов. При ручном использовании можно получить результат «ответа нет», тогда как описанный в README pipeline не возвращает такой вариант. Репозиторий содержит форматы PyTorch и TensorFlow. Лицензия в предоставленных данных не указана.

Карточка модели 360ZhiNao/360VL-8B на Hugging Face совпадает с карточкой qihoo360/360VL-8B, поэтому описание составлено по ней. 360VL-8B — открытая мультимодальная модель компании Qihoo 360 для диалога по изображениям и тексту. Она дообучена на основе Meta Llama 3 8B Instruct и использует трансформерную авторегрессионную языковую модель с многоветвевым проектором, предназначенным для улучшения понимания изображений. Модель принимает изображения и текст и формирует текстовые ответы; поддерживает многоходовой диалог с одним изображением, визуальные вопросы и распознавание текста на изображениях. В README указано разрешение изображений до 672×672 пикселей, а контекст по метаданным составляет 8192 токена. Поддерживаются китайский и английский языки. Модель подходит для анализа содержимого изображений, извлечения и обобщения информации, а также ответов на вопросы по изображению. Вес модели содержит 7,5 млрд параметров и опубликован в формате safetensors. Лицензия — Apache 2.0.

Модель dice-research/amharic-property-retriever-afro-xlmr-base — Sentence Transformer, дообученный исследовательской группой DICE Research на базе Davlan/afro-xlmr-large-76L для сопоставления амхарских обозначений полей и свойств с соответствующими названиями на английском языке. Она преобразует предложения и короткие фрагменты текста в плотные векторы размерности 1024; близость векторов оценивается косинусным сходством. Модель построена на XLM-RoBERTa и предназначена для семантического поиска и ранжирования соответствий, в том числе для поиска названий свойств в схемах данных. Обучение проводилось на 1 224 парах примеров из набора amharic-property-mapping с функцией потерь MultipleNegativesRankingLoss. В README указана максимальная длина последовательности 64 токена; метаданные каталога приводят контекст 514 токенов. Для практического использования стоит ориентироваться на ограничение 64 токена, описанное в карточке Sentence Transformers. На тестовой выборке из 186 пар приведены метрики поиска, однако они не гарантируют качество на других данных. Модель распространяется по лицензии MIT.

Mohamed Rashad разработал arabic-base-nougat — модель OCR на архитектуре VisionEncoderDecoderModel, дообученную на наборе MohamedRashad/arabic-img2md от facebook/nougat-base. Она преобразует изображения страниц арабских книг в структурированный текст, в том числе с разметкой Markdown, и подходит для оцифровки арабской литературы и извлечения текста из печатных материалов. В карточке заявлена поддержка арабского и английского языков; модель опубликована в формате safetensors и распространяется по лицензии GPL-3.0. При распознавании модель может повторять или искажать текст, а также выдавать нерелевантные пути к изображениям. Контекст ограничен 2048 токенами, поэтому транскрипция длинной страницы может быть неполной. Результаты следует проверять, особенно если важна точность.

mrsinghania/asr-question-detection — классификатор текста на основе BERT, разработанный автором репозитория для различения вопросов и утверждений. Модель обучена на более чем 7 тысячах примеров устной речи из интервью и предназначена для обработки распознанных высказываний: например, чтобы определять, содержит ли реплика вопрос.

martineden/bert-base-cased-squadv1-finetuned — дообученная на датасете SQuAD версия BERT от автора репозитория. Модель предназначена для извлечения ответов на вопросы из предоставленного текста: на вход подаются вопрос и контекст, а на выходе — фрагмент текста с ответом. Архитектура — BertForQuestionAnswering, размер — 135,5 млн параметров, максимальная длина контекста — 512 токенов. Модель подходит для систем вопросов и ответов по документам и текстовым материалам на английском языке, связанным с форматом SQuAD. Лицензия — Apache-2.0. README не содержит подробностей об оценках качества или ограничениях применения.

Это дообученная модель BERT для ответов на вопросы, созданная на основе google-bert/bert-base-multilingual-cased. Она предназначена для извлечения ответа из предоставленного текста по заданному вопросу и поддерживает архитектуру BertForQuestionAnswering. Модель содержит 205,1 млн параметров, принимает текстовые входные данные и обучена работать с контекстом длиной до 512 токенов. В README приведены результаты оценки: exact match 72,4 и F1 75,50. Датасет обучения не раскрыт, поэтому эти показатели не позволяют судить о качестве на конкретных языках или предметных областях. Базовая модель многоязычная, но языки и сценарии специализации этого дообучения не уточнены. Модель распространяется по лицензии Apache-2.0.

intanm/bert-base-multilingual-cased-idkmrc — модель BERT для ответов на вопросы, дообученная на основе google-bert/bert-base-multilingual-cased. Она предназначена для извлечения ответа из предоставленного текста по заданному вопросу. Модель содержит 205,1 млн параметров, принимает текст и поддерживает контекст длиной до 512 токенов. Модель создана для многоязычных сценариев вопросно-ответного поиска. В карточке приведён результат оценки на наборе данных: loss 0,9374, однако название обучающего набора данных указано как None, а подробности о данных и ограничениях не приведены. Распространяется по лицензии Apache-2.0.

ByoungYoon/bge-m3-poi-retrieval-ko — Sentence Transformers-модель, дообученная на парах и триплетах текстов о точках интереса (POI). Она преобразует предложения и абзацы в плотные векторы размерности 1024, нормализованные для сравнения по косинусному сходству. В архитектуре используются XLM-RoBERTa, CLS-пулинг и нормализация; README указывает максимальную длину последовательности 256 токенов. Модель предназначена для семантического поиска и сопоставления названий POI с описаниями и адресами, а также для оценки сходства, поиска перефразирований, кластеризации и классификации текстов. Примеры обучающих данных на корейском языке связывают краткие названия мест с вариантами названий и адресными описаниями. В README приведены метрики на наборе poi-val: cosine_accuracy@1 — 0,734, @5 — 0,976, @10 — 0,994. Карточка называет базовую модель ByoungYoon/bge-m3-poi-retrieval-ko; метаданные указывают 658,7 млн параметров, контекст до 8194 токенов и форматы safetensors и ONNX. Указанная в README максимальная длина 256 токенов описывает конфигурацию Sentence Transformers и отличается от контекстного лимита из метаданных. Лицензия в предоставленных источниках не указана.

CamemBERTa-L8 — обрезанная версия предварительно обученной модели CamemBERTa, опубликованная Antoine Louis. Из исходного чекпойнта удалены верхние слои энкодера; модель содержит 100,1 млн параметров и использует архитектуру DeBERTa-v2. Она принимает текст и выдаёт контекстные признаки; максимальная длина контекста — 512 токенов. Модель предназначена прежде всего для дообучения под задачи, где решение зависит от всего предложения: классификации текста, извлечения ответа на вопрос и семантического поиска. Также её можно использовать для masked language modeling. Для генерации текста автор рекомендует авторегрессионные модели. Модель распространяется по лицензии MIT. Удаление верхних слоёв уменьшает модель, но может ограничивать её пригодность для задач, которым нужны полные представления исходной модели; качество на конкретных задачах зависит от дообучения.

CogAgent-VQA — открытая визуально-языковая модель от команды Zhipu AI, улучшенная на основе CogVLM. Эта версия контрольной точки предназначена прежде всего для диалога по изображению в один ход и оценки на тестах визуальных вопросов и ответов, включая VQAv2 и MM-Vet. Модель принимает изображение высокого разрешения до 1120×1120 и текстовый вопрос, а в ответ генерирует текст; также заявлены возможности OCR и понимания интерфейсов веб-страниц, настольных и мобильных приложений. В README семейство описано как CogAgent-18B с 11 млрд визуальных и 7 млрд языковых параметров, тогда как метаданные этого репозитория указывают 6,6 млрд параметров, архитектуру CogAgentForCausalLM и контекст 2048 токенов. Поэтому размер конкретной опубликованной модели расходится с описанием семейства в карточке. Репозиторий содержит веса Safetensors и имеет лицензию Apache-2.0 в метаданных; README указывает, что для коммерческого использования требуется регистрация и соблюдение условий лицензии. Для GUI-агента, визуального заземления и многоходового диалога разработчики рекомендуют вариант cogagent-chat.

DBNet — модель компьютерного зрения для обнаружения текстовых областей на естественных изображениях, подготовленная shuzi-mewtant для использования с библиотекой Hugging Face Transformers. В архитектуре DBNet используется backbone ResNet-18 и Feature Pyramid Network для объединения признаков разных масштабов. Модель принимает RGB-изображение, автоматически изменяет его размер или дополняет до входа 1024×1024 пикселя и формирует карты вероятностей для локализации текста. Модель предназначена для поиска горизонтальных и наклонённых текстовых областей, например на фотографиях вывесок и уличных сцен. Для лучшей локализации README описывает постобработку с NMS и расширением рамок; обучение проводилось на ICDAR 2015. Карточка не приводит конкретных метрик качества. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

chiendvhust/distilbert-base-uncased-finetuned-squad — модель DistilBERT, дообученная на наборе SQuAD для извлечения ответов из текста по вопросу. Она принимает вопрос вместе с контекстом и предсказывает фрагмент контекста в качестве ответа. Модель использует архитектуру DistilBertForQuestionAnswering, распространяется в формате PyTorch и рассчитана на контекст до 512 токенов. Модель подходит для поиска ответов в предоставленном тексте и создания простых систем вопросно-ответного поиска. В README приведено значение loss 1.2178 на оценочной выборке, но дополнительных сведений о метриках и ограничениях нет. Обучение описано для англоязычного SQuAD; лицензия — Apache-2.0.

Marscen/distilbert-base-uncased-finetuned-squad — модель вопросно-ответной системы на базе DistilBERT, дообученная на наборе SQuAD v2. Она предназначена для извлечения ответа из предоставленного текста в ответ на вопрос и может отказываться от ответа, если в контексте нет нужной информации. Модель использует архитектуру DistilBertForQuestionAnswering, работает с текстом и поддерживает контекст длиной до 512 токенов. Модель создана на основе distilbert-base-uncased и опубликована по лицензии Apache-2.0. В карточке приведена оценка Loss 1.4052 на проверочной выборке; других характеристик качества и подробностей обучения нет. Она ориентирована на английский язык и не предназначена для генерации свободных ответов вне предоставленного контекста.

Карточка модели alshv/distilbert-base-uncased-finetuned-squad-d5716d28 на Hugging Face совпадает с карточкой Asynk/distilbert-base-uncased-finetuned-squad-d5716d28, поэтому описание составлено по ней. Это англоязычная модель ответов на вопросы, созданная как воспроизведение варианта DistilBERT из статьи DistilBERT. Студент distilbert-base-uncased дообучен на SQuAD v1.1 с дополнительной дистилляцией от модели lewtun/bert-base-uncased-finetuned-squad-v1, также настроенной на SQuAD. Репозиторий содержит веса PyTorch; архитектура в метаданных указана как DistilBertForMaskedLM, хотя README описывает модель для ответов на вопросы. Модель предназначена для извлечения ответа на вопрос из предоставленного текста на английском языке, например для поиска факта в документе или ответа по статье. Контекст ограничен 512 токенами. В README приведены результаты на SQuAD: Exact Match 78,4 и F1 86,5. Модель распространяется по лицензии Apache-2.0.

Карточка модели aungkaungmyatmce/distilbert-base-uncased-finetuned-squad-d5716d28 на Hugging Face совпадает с карточкой Asynk/distilbert-base-uncased-finetuned-squad-d5716d28, поэтому описание составлено по ней. Это англоязычная модель ответов на вопросы, созданная как воспроизведение варианта DistilBERT из статьи DistilBERT. Студент distilbert-base-uncased дообучен на SQuAD v1.1 с дополнительной дистилляцией от модели lewtun/bert-base-uncased-finetuned-squad-v1, также настроенной на SQuAD. Репозиторий содержит веса PyTorch; архитектура в метаданных указана как DistilBertForMaskedLM, хотя README описывает модель для ответов на вопросы. Модель предназначена для извлечения ответа на вопрос из предоставленного текста на английском языке, например для поиска факта в документе или ответа по статье. Контекст ограничен 512 токенами. В README приведены результаты на SQuAD: Exact Match 78,4 и F1 86,5. Модель распространяется по лицензии Apache-2.0.

bhadresh-savani/electra-base-squad2 — англоязычная модель для извлечения ответов на вопросы, созданная авторами deepset на основе electra-base и обученная на SQuAD 2.0. Она предназначена для поиска ответа в предоставленном отрывке текста и может распознавать случаи, когда в отрывке ответа нет. Для работы с наборами документов README предлагает использовать Haystack. Модель содержит 136,7 млн параметров, архитектура — ELECTRA для вопросно-ответной задачи; контекст ограничен 512 токенами. Доступны веса в PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — CC BY 4.0.

google/electra-large-discriminator — англоязычный текстовый энкодер семейства ELECTRA, разработанный Google. Модель основана на трансформере и обучена распознавать подменённые токены: она отличает исходные токены текста от искусственно сгенерированных. В репозитории представлены веса примерно на 433,9 млн параметров; максимальная длина входа — 512 токенов. Модель предназначена для извлечения контекстных представлений текста и адаптации к задачам классификации, ответов на вопросы и разметки последовательностей. Её можно применять как основу для последующего дообучения на конкретных задачах; сама карточка приводит примеры GLUE и SQuAD. Доступны версии для PyTorch, TensorFlow и Flax. Лицензия — Apache 2.0.

kxx-kkk/FYP_sq2_mrqa_adqa — модель семейства DeBERTa-v2, разработанная как дообученная версия kxx-kkk/FYP_sq2_mrqa. Она предназначена для извлечения ответа на вопрос из предоставленного текста. Модель содержит 211,6 млн параметров и рассчитана на контекст длиной до 512 токенов. Карточка сообщает о дообучении на датасете, который не уточнён, и приводит значение Loss 2,3608 на evaluation set. Дополнительные сведения о качестве, сценариях применения и ограничениях не приведены. Лицензия — CC BY 4.0.

HeackMT5-ZhCleanText1ML — дообученная модель mT5, созданная и поддерживаемая KongYang из Шанхайского университета Цзяотун. Она предназначена для очистки китайского текста: удаляет бессмысленные фрагменты и артефакты, стараясь сохранить исходную информацию. В редких случаях, когда модель уверена в результате, она может также кратко обобщить текст. Модель содержит 291,2 млн параметров и использует архитектуру MT5ForConditionalGeneration. Она обучена на миллионе строк данных; в карточке отмечена поддержка нескольких языков, однако README уточняет, что большие фрагменты текста не на китайском модель не обрабатывает. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Hermes-2 Θ (Theta) — экспериментальная объединённая и дополнительно обученная модель Nous Research, созданная совместно с Charles Goddard из Arcee. В основе лежит Hermes-2-Pro-Llama-3-8B: веса объединены с Meta Llama 3 Instruct, после чего модель дополнительно обучали с помощью RLHF. Это плотная причинно-языковая модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена. Модель предназначена для диалогов и выполнения инструкций на английском языке. Она поддерживает формат ChatML, многоходовое общение, вызов функций и генерацию структурированных ответов в JSON. Репозиторий содержит веса safetensors; для запуска описан пример с Transformers. В карточке приведены результаты оценок на нескольких наборах тестов, но они не гарантируют качество в конкретных сценариях. Модель распространяется по лицензии Apache-2.0. Практические ограничения: карточка называет её экспериментальной; вызовы инструментов нужно самостоятельно разбирать и исполнять в коде приложения. Указанная в README рекомендация LM Studio относится к квантованным версиям и не обещает поддержку вызова функций в этом интерфейсе.

OpenGVLab/InternVL2_5-38B-MPO — мультимодальная чат-модель из семейства InternVL2.5-MPO, разработанная OpenGVLab. Она основана на InternVL2.5-38B и использует Mixed Preference Optimization (MPO), сохраняя архитектуру ViT-MLP-LLM: визуальный энкодер InternViT соединён с языковой моделью через MLP-проектор. Модель предназначена для диалога по изображениям, нескольким изображениям и видео, а также для генерации текста по визуальному контексту; среди поддерживаемых сценариев — ответы на вопросы по изображениям, анализ диаграмм и документов, распознавание текста на изображениях и мультимодальные задачи на понимание и рассуждение. Модель работает с динамическим разрешением: изображения разбиваются на фрагменты 448×448 пикселей, а pixel unshuffle сокращает число визуальных токенов. Карточка указывает мультиязычность, но не перечисляет отдельные языки. Для запуска приведены инструкции по Transformers и варианты bf16/fp16, 8-битной квантизации и распределению по нескольким GPU. Репозиторий использует safetensors и библиотеку Transformers. Лицензия — MIT. Размер контекста в предоставленных данных не указан.

InternVL2_5-78B-MPO — мультимодальная модель OpenGVLab, построенная на архитектуре ViT-MLP-LLM и дообученная методом Mixed Preference Optimization на основе OpenGVLab/InternVL2_5-78B. Она предназначена для диалогов и генерации текста по изображениям, включая несколько изображений; семейство также поддерживает работу с видеокадрами. Зрительная часть использует динамическое разбиение изображений на фрагменты 448×448 и уменьшение числа визуальных токенов с помощью pixel unshuffle. Модель загружается через Transformers в формате safetensors. Модель подходит для визуальных вопросов и ответов, описания изображений, распознавания текста на изображениях и мультимодальных задач на понимание и рассуждение; её можно использовать в многотуровом диалоге и развёртывать через LMDeploy. Карточка описывает мультиязычное семейство, но не перечисляет отдельные языки или размер контекста именно этой модели. Лицензия указана как other, поэтому условия использования следует сверять с лицензией и документацией проекта. Вес модели требует многокарточного развёртывания для практического инференса.

vitus9988 разработал модель распознавания именованных сущностей на основе klue/roberta-small. Она находит в корейском тексте персональные данные для последующей деидентификации: имена людей, адреса, номера карт и банковских счетов, водительских удостоверений, удостоверений личности и паспортов, телефоны, электронную почту и даты. Модель содержит 81,2 млн параметров, использует архитектуру RoBERTa и принимает текст с контекстом до 514 токенов. В README приведены высокие показатели на оценочном наборе: F1 0,9959 и точность 0,9988. Эти результаты относятся к неизвестному набору данных и не гарантируют аналогичного качества на других текстах. Модель предназначена для разметки сущностей, а не для самостоятельного удаления или замены обнаруженных данных. Лицензия в предоставленных сведениях не указана.

KPF-BERT-NER — Корейская модель распознавания именованных сущностей, разработанная Корейским фондом прессы на основе KPF-BERT. Она добавляет классификационный слой к BERT и размечает токены в текстах, относя их к 150 классам сущностей; для разметки используется схема BIO. Модель предназначена для извлечения имен людей, организаций, мест, времени и других сущностей из текстов, в частности из новостных статей, и применялась в функции анализа сущностей сервиса BigKinds Lab Inside. Модель построена на архитектуре BERT, содержит 141,2 млн параметров и обрабатывает последовательности длиной до 512 токенов. Она принимает текст и выдаёт метки токенов. Обучение описано на корейском газетном корпусе Национального института корейского языка; базовый KPF-BERT специализируется на газетных текстах и материалах СМИ. README направляет за примерами использования и кодом в репозиторий KPF-bigkinds. Лицензия в доступных данных не указана.

Labira/LabiraPJOK_2_100_Full — модель вопросов и ответов на базе архитектуры BERT, дообученная разработчиком Labira на основе Labira/LabiraPJOK_1_100_Full. Она предназначена для извлечения ответа на вопрос из предоставленного текста. Модель содержит 137,8 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате TensorFlow для библиотеки Transformers. В карточке приведены значения потерь на обучающей и проверочной выборках, но набор данных, языки и практические ограничения не описаны. Модель выпущена под лицензией MIT.

Unsloth/Liquid AI LFM2-350M — компактная плотная гибридная языковая модель для генерации текста и диалогов, рассчитанная на запуск на периферийных устройствах. В этой карточке представлены веса постобученной модели LiquidAI/LFM2-350M в формате safetensors; архитектура сочетает 10 блоков коротких LIV-свёрток и 6 блоков группового внимания. Размер по метаданным — 444,6 млн параметров, контекст — до 32 768 токенов. Модель предназначена для локальных приложений с ограниченными ресурсами, включая многошаговые диалоги, извлечение данных, RAG, творческое письмо и агентные сценарии с вызовом инструментов. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Разработчик отмечает скорость и эффективность на CPU, GPU и NPU, а также рекомендует дообучать модель для узких задач. Она не рекомендуется для задач, требующих обширных знаний или навыков программирования. В README указаны дистилляция от LFM1-7B, масштабное дообучение с учителем, DPO и итеративное объединение моделей в ходе подготовки семейства LFM2; однако метаданные этой конкретной карточки обозначают её как finetune от LiquidAI/LFM2-350M. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории перед внедрением.