I.3Извлечение и структурирование данных

OpenMed-NER-OrganismDetect-SuperMedical-125M — модель OpenMed для распознавания упоминаний видов организмов в тексте. Это дообученная модель RoBERTa для классификации токенов; она помечает названия видов тегами B-SPECIES и I-SPECIES. По карточке, модель обучена на корпусе SPECIES800 и принимает токенизированный биомедицинский текст, выдавая BIO-разметку. Параметры: 151,8 млн; максимальный контекст — 514 токенов. Указан английский язык. Модель предназначена для извлечения названий организмов из биомедицинских статей, научной литературы и клинических текстов, а также для анализа упоминаний видов и таксономической разметки. В README приведены F1 0,77, точность 0,75 и полнота 0,79 на SPECIES800. Лицензия — Apache-2.0. Результаты из карточки не подтверждают заявленную пригодность для извлечения лекарств или выявления взаимодействий препаратов; модель распознаёт сущности видов.

OpenMed-NER-ProteinDetect-ElectraMed-109M — модель распознавания биомедицинских сущностей, опубликованная OpenMed. Она выполняет токенную классификацию в текстах по биологии и медицине, выделяя белки, белковые комплексы, семейства и группы белков, варианты белков и другие связанные сущности. Модель дообучена на корпусе FSU для исследований взаимодействий белков и молекулярной биологии. Модель использует архитектуру BERT и содержит 136,7 млн параметров; максимальная длина контекста — 512 токенов. Она принимает токенизированный текст и возвращает метки сущностей в формате BIO. В README заявлены F1 0,90, точность 0,89, полнота 0,92 и accuracy 0,97 на FSU. Модель рассчитана на англоязычные биомедицинские тексты. Лицензия — Apache-2.0.

OpenMed-PII-Vietnamese-SuperClinical-Small-44M-v1 — модель OpenMed на базе DeBERTa V3 Small, дообученная для токенной классификации и обнаружения 54 типов персональных и чувствительных данных во вьетнамском тексте. Она принимает текст и размечает сущности, включая имена, адреса, идентификаторы, медицинские записи, контактные и финансовые сведения; модель предназначена для деидентификации клинических заметок и документов, подготовки наборов данных и аудита конфиденциальности. Контекст модели составляет 512 токенов, формат весов — safetensors, лицензия — Apache-2.0. В README приведена оценка F1 0,7305 на вьетнамском тестовом наборе AI4Privacy и синтетических данных. Модель лучше всего подходит для вьетнамских текстов; пропуски чувствительных данных возможны, поэтому результаты в важных сценариях следует проверять человеком.

OpenMed/OpenMed-ZeroShot-NER-Genomic-Medium-209M — англоязычная модель OpenMed для распознавания генов и связанных генетических сущностей в биомедицинских текстах. Она построена на архитектуре GLiNER и дообучена на корпусе GELLUS; размер модели в названии — 209 млн параметров. Модель поддерживает zero-shot извлечение сущностей: пользователь может задавать типы сущностей при обработке текста без отдельного дообучения под каждую метку. Модель предназначена для поиска упоминаний генов и генетических вариантов в научной литературе, а также для генетических ассоциативных исследований и курирования вариантов. В карточке приведён F1 0,9674 на тестовой выборке GELLUS, не включённой в обучение. README также заявляет более широкие биомедицинские сценарии, однако перечисляет среди поддерживаемых типов сущностей только Cell-line-name, поэтому результаты для других типов следует проверять на целевых данных. Модель принимает текст и выдаёт распознанные сущности с метками. Доступна под лицензией Apache-2.0; для интеграции предлагается библиотека GLiNER.

OpenMed-ZeroShot-NER-Species-Multi-209M — модель OpenMed для распознавания упоминаний видов и организмов в научных и биомедицинских текстах. Она построена на архитектуре GLiNER и дообучена на корпусе LINNAEUS, размечающем названия видов. Модель выявляет научные и общеупотребительные названия, а также их сокращённые формы; её можно применять для поиска таких сущностей без отдельного дообучения под каждую задачу. Модель предназначена для извлечения видов из научной литературы, материалов по биоразнообразию и метагеномных отчётов, а также для подготовки текстов к таксономической обработке. В карточке заявлена оценка F1 0,83 на тестовом наборе, не использованном при обучении; приведены и другие результаты по LINNAEUS, поэтому качество зависит от набора и настройки оценки. Утверждения карточки о распознавании произвольных типов сущностей шире специализированного назначения модели и могут требовать проверки на конкретных данных. Модель распространяется по лицензии Apache-2.0; карточка указывает PyTorch и поддержку английского языка.

PhoBERT-base — предварительно обученная языковая модель для вьетнамского языка, разработанная Дат Куок Нгуеном и Ань Туан Нгуеном. Это версия base семейства PhoBERT, построенная на архитектуре RoBERTa и обученная по улучшенной процедуре BERT. Модель содержит 162,4 млн параметров и рассчитана на контекст до 258 токенов. Основная задача модели в Hugging Face — предсказание замаскированных токенов. PhoBERT также предназначена для адаптации к вьетнамским NLP-задачам, включая разметку частей речи, синтаксический анализ зависимостей, распознавание именованных сущностей и вывод по естественному языку. По заявлению авторов, модель показала лучшие результаты на этих задачах по сравнению с предшествующими вьетнамскими и многоязычными подходами. Доступны реализации для PyTorch, TensorFlow и JAX/Flax. Модель поддерживает вьетнамский язык и распространяется по лицензии MIT. Для прикладных задач её следует дообучать или подключать соответствующую задаче модельную голову; README указывает, что PhoBERT имеет ключевые ограничения, рассмотренные авторами в работе о последующей модели BamiBERT, но конкретизирует их только применительно к обработке входа и длине контекста этой альтернативы.

PortugueseT5OieAbstractive — португалоязычная модель семейства T5 с архитектурой encoder-decoder, разработанная bratao. Она дообучена на базе bratao/PortugueseT5-Instruct для абстрактивного извлечения открытой информации из предложений: модель формирует отношения в виде ARG0, V и ARG1. Число параметров — 385,2 млн; модель принимает текст и генерирует текст. В карточке указан португальский язык. Модель предназначена для извлечения субъектов, предикатов и объектов из португальских предложений, например для подготовки структурированных данных из текстов. Для запуска подходят Transformers и библиотека portuguese-openie; возможен вывод на CPU, GPU рекомендуется для большей скорости. README сообщает о результатах на 100 предложениях с синтетическими эталонными извлечениями, однако публичное состояние обучения выглядит неполным, а связь опубликованного чекпойнта с оценённой версией не подтверждена. Это экспериментальная исследовательская публикация. Генерация абстрактивная, поэтому результат может не совпадать с буквальным фрагментом исходника и может быть неполным, дублированным или ошибочным; схему вывода следует проверять. Результаты за пределами небольшого набора преимущественно энциклопедических предложений не установлены. Условия лицензии в предоставленных источниках не приведены.

Koichi Yasuoka подготовил компактную GPT-2 модель на основе rinna/japanese-gpt2-xsmall для морфосинтаксического анализа японского текста. Она дообучена на корпусе UD_Japanese-GSDLUW и предназначена для определения частей речи и синтаксических зависимостей между словами; результат можно использовать в конвейерах разметки Universal Dependencies. Модель принимает текст и возвращает токенную разметку. Архитектура — GPT-2 для классификации токенов, формат весов — PyTorch, контекст — до 1024 токенов. Поддерживается японский язык. Лицензия — MIT. Для загрузки через Transformers в README используется trust_remote_code=True.

Koichi Yasuoka подготовил компактную модель GPT-NeoX для анализа японских предложений: она размечает части речи и синтаксические зависимости в формате Universal Dependencies. Модель дообучена на базе rinna/japanese-gpt-neox-small и адаптирована к датасету UD_Japanese-GSDLUW. Модель содержит 147,4 млн параметров, использует плотную архитектуру GPT-NeoX и принимает текст на японском языке. Заявленная длина контекста — 2048 токенов. В README приведён пример запуска через Transformers с пользовательским pipeline для Universal Dependencies. Модель распространяется по лицензии MIT. Она предназначена для синтаксического анализа японского текста; качество на других языках и вне указанного набора данных в предоставленных сведениях не описано.

Koichi Yasuoka разработал эту японскую RoBERTa-модель для морфологической разметки текста. Она дообучена на основе KoichiYasuoka/roberta-large-japanese-aozora-char и обучена на текстах 青空文庫. Модель присваивает словам длинной единицы UPOS-теги универсальных частей речи и признаки FEATS, поддерживая задачи разметки частей речи и синтаксического анализа зависимостей. Модель содержит 412,3 млн параметров, принимает текст и рассчитана на контекст до 512 токенов. Для применения автор предлагает библиотеку esupar. Модель предназначена для анализа японского текста; лицензия — CC BY-SA 4.0.

Cyber-ThreaD/SecureBERT-CyNER — англоязычная модель RoBERTa, дообученная на CyNER для распознавания и классификации именованных сущностей в текстах о кибератаках. Она принимает текст и присваивает метки отдельным токенам, помогая извлекать сущности для анализа и атрибуции киберинцидентов. Модель содержит 151,8 млн параметров и поддерживает контекст до 514 токенов. В карточке приведены результаты оценки: F1 0,7674 на оценочном наборе и 0,7367 на наборе предсказаний; точность составляет 0,9836 и 0,9761 соответственно. Высокая точность при более низких полноте и F1 означает, что качество извлечения может зависеть от набора данных и типов сущностей. Модель распространяется по лицензии BigScience OpenRAIL-M.

Карточка модели StanfordAIMI/stanford-deidentifier-only-radiology-reports-augmented на Hugging Face совпадает с карточкой StanfordAIMI/stanford-deidentifier-with-radiology-reports-and-i2b2, поэтому описание составлено по ней. Модель StanfordAIMI предназначена для автоматического выявления персональных идентификаторов в радиологических и биомедицинских документах с помощью разметки последовательности токенов. Она разработана Stanford AIMI и обучена на разных радиологических и биомедицинских текстах; авторы указывают, что целились в точность, подходящую для производственного применения. Модель построена на архитектуре BERT и содержит 136,7 млн параметров. Она принимает текст на английском языке, работает с контекстом до 512 токенов и возвращает метки для токенов, что позволяет находить фрагменты, подлежащие деидентификации. Модель можно применять в конвейерах обезличивания радиологических заключений и других биомедицинских документов перед их хранением, обменом или исследовательским анализом. Репозиторий использует формат PyTorch и лицензию MIT. README ссылается на сопутствующую публикацию, но не приводит метрики качества или подробности схемы меток.

Это компактная модель T5-small, дообученная для ответов на вопросы по контексту на датасете SQuAD. Её разработчик обучал только блоки cross-attention декодера и финальную нормализацию декодера; остальные веса заморожены. По README, обучаемыми были около 6,3 млн параметров из 60,5 млн. Метаданные указывают 38,5 млн параметров, поэтому сведения о размере в источниках расходятся. Модель предназначена для извлечения короткого ответа из предоставленного английского контекста по вопросу в стиле SQuAD. Для работы ожидает вход с префиксом `answer question: ` и полями `question: ... context: ...`; поддерживает контекст до 512 токенов. README сообщает F1 0,7075 и EM 0,5293 на подвыборке валидации SQuAD из 256 примеров при генерации с поиском по четырём лучам. Это специализированный экспериментальный чекпойнт, а не универсальная система ответов на вопросы: обучение проводилось на 3 000 примерах, а проверка — на подвыборке валидации, не на официальном тестовом сервере SQuAD. Базовая модель — `google-t5/t5-small`; лицензия — Apache-2.0.

google/tapas-base-masklm — базовая модель семейства TAPAS от Google для задачи восстановления замаскированных токенов. Это плотная модель на 136,7 млн параметров с архитектурой TapasForMaskedLM и контекстом до 1024 токенов. Она рассчитана на работу с табличными данными и текстом, связанным с таблицами; модель можно применять для восстановления пропусков в текстовом представлении таблиц и как основу для последующей адаптации к табличным задачам. В метаданных указаны форматы PyTorch, Safetensors и TensorFlow. Карточка связывает модель с вариантом tapas_masklm_base_reset из исходного репозитория. Лицензия и конкретные ограничения применения в предоставленных данных не описаны.

TAPAS Large — модель Google на основе трансформера, похожего на BERT, дообученная для последовательного ответа на вопросы по таблицам (SQA). Она принимает вопрос и таблицу, выбирает относящиеся к ответу ячейки и поддерживает диалоговый сценарий работы с табличными данными. Вариант по умолчанию использует относительные позиционные эмбеддинги со сбросом индекса в каждой ячейке; доступен также вариант no_reset с абсолютными позиционными эмбеддингами. Модель содержит 433,9 млн параметров, использует архитектуру TAPAS и имеет контекст до 1024 токенов. Она предварительно обучалась на англоязычных текстах и таблицах, а затем дообучалась на наборе SQA. В опубликованной оценке точность на dev-части SQA составляет 0,7289 для варианта reset и 0,7223 для no_reset. Модель рассчитана на вопросы по таблицам на английском языке; результаты могут снижаться на других языках, длинных или сложных таблицах и запросах, выходящих за пределы обучения. Лицензия — Apache-2.0.

Модель levshechter/tibetan-CS-detector_mbert-tibetan-continual-wylie_MUL_SEG_RUNI — дообученная версия OMRIDRORI/mbert-tibetan-continual-wylie-final для обнаружения переключений между языками или письменностями в тибетском тексте. Это плотная модель на архитектуре BERT с классификацией токенов, содержащая 136,3 млн параметров и принимающая последовательности длиной до 512 токенов. В README приведены результаты оценки: Accuracy 0,9188 и F1 для переключений 0,7457; также указаны точность 0,6681 и полнота 0,8436 для этого класса. Модель предназначена для разметки токенов, связанных с переключением кода. Данные обучения и подробности сценариев использования в карточке не раскрыты. Модель распространяется в формате safetensors; сведения о лицензии отсутствуют в предоставленных материалах.

ivere27/tiny-receipt-reader-digit-slots-2m — компактная CNN-модель для извлечения цифр из изображений чеков, разработанная автором репозитория и опубликованная в формате ONNX. Модель принимает изображение чека фиксированного размера 672×320 и за один проход формирует запись из слотов: цифры телефона и номера улицы. Текст не распознаётся, а вопросы о прочитанных полях обрабатываются отдельным маршрутизатором на регулярных выражениях и индексированием записи. Модель содержит 2,46 млн параметров. Вариант FP32 и вариант INT8 с квантизацией свёрточных слоёв показали на 2 000 отложенных вопросов точность ответа 98,75% и 98,45% соответственно; оценки получены на машинно сгенерированных аннотациях. Модель рассчитана на извлечение телефонных и уличных цифр из чеков, а не на общее понимание документов. Она не читает названия магазинов, строки товаров и полные адреса; вопросы о других полях дают пустой ответ. Для работы необходим отдельный question_router.py. Лицензия — Apache-2.0.

XLMR-MaCoCu-is — крупная предварительно обученная языковая модель для исландского языка, разработанная Риком ван Ноордом из Университета Гронингена в рамках проекта MaCoCu. Это продолжение обучения XLM-RoBERTa-large на собранных проектом исландских текстах: 4,4 ГБ, или около 688 млн токенов. Модель использует словарь XLM-RoBERTa-large и имеет около 658,7 млн параметров; максимальная длина контекста — 514 токенов. Модель предназначена для получения контекстных представлений текста и как основа для языковых задач на исландском, включая разметку частей речи, распознавание именованных сущностей и оценку языкового понимания. Её проверяли на UPOS, XPOS, NER и COPA. Доступны веса для PyTorch, TensorFlow и JAX. Лицензия — CC0 1.0.

CAMeL-Lab разработала CAMeLBERT-CA POS-MSA — модель разметки частей речи для арабского языка в варианте современного стандартного арабского (MSA). Это дообученная для классификации токенов модель на архитектуре BERT с 136,3 млн параметров и контекстом до 512 токенов. Для дообучения использован датасет PATB. Модель предназначена для автоматического определения части речи каждого токена в тексте на MSA и может использоваться в конвейере Transformers как компонент лингвистической обработки арабского текста. Доступны веса PyTorch и TensorFlow. Модель опубликована под лицензией Apache-2.0.

Koichi Yasuoka разработал эту японскую BERT-модель на основе bert-large-japanese-char, дообучив её на текстах японской Википедии. В эмбеддинги символов добавлены все 常用漢字 и 人名用漢字, что расширяет охват кандзи, включая иероглифы, используемые в именах. Модель содержит 409,1 млн параметров, использует архитектуру BERT для masked language modeling и принимает текстовые последовательности длиной до 512 токенов. Её можно применять для заполнения пропусков в японском тексте, а также дообучать для разметки частей речи, синтаксического анализа зависимостей и других задач понимания текста. Для работы доступны веса PyTorch и токенизатор Transformers. Модель распространяется по лицензии CC BY-SA 4.0. Она ориентирована на японский язык и не предназначена для генерации произвольного текста без маски или для обработки изображений и аудио.

mpalaval/bert-ner-3 — дообученная модель на базе BERT bert-base-cased для классификации токенов, в том числе разметки именованных сущностей. В карточке указан датасет None; сведения о его составе и типах меток отсутствуют. Модель содержит 135,5 млн параметров, использует архитектуру BERT и формат PyTorch. Максимальная длина контекста — 512 токенов. В README приведены результаты оценки: precision 0,1708, recall 0,4296, F1 0,2444 и accuracy 0,8849; эти показатели указывают на ограничения качества разметки. Лицензия — Apache-2.0.

camembert-chronicle-start-detection-v3 — модель классификации текста на базе архитектуры CamemBERT, обученная с нуля. Она предназначена для обнаружения начала хроники или последовательности событий в тексте. Модель содержит 137,8 млн параметров, принимает текстовые входные данные и выдаёт метку класса; максимальная длина контекста — 514 токенов. В README приведены результаты оценки: accuracy 0,709, F1 0,8297, precision 0,709 и recall 1,0. Датасет неизвестен, поэтому эти оценки не позволяют судить о качестве на других данных. Лицензия в доступных сведениях не указана.

Koichi Yasuoka разработал DeBERTa V2, предварительно обученную на японских текстах из 青空文庫. Модель содержит 137,8 млн параметров, использует архитектуру DeBERTa V2 и токенизатор BertJapaneseTokenizer с UniDic; максимальная длина контекста — 512 токенов. Модель предназначена для заполнения пропусков в японском тексте и как основа для дообучения под задачи разметки частей речи, синтаксического анализа зависимостей и других задач обработки японского языка. Для загрузки и токенизации требуются библиотеки fugashi и unidic-lite. Модель распространяется по лицензии CC BY-SA 4.0. Карточка не приводит результатов оценивания качества; для прикладных задач потребуется дообучение.

DictaBERT Joint — дообученная модель Dicta для совместного морфологического и синтаксического анализа современного иврита. Она основана на архитектуре BERT и содержит 211,6 млн параметров; модель принимает текст с контекстом до 512 токенов и выполняет сегментацию префиксов, морфологическую дизамбигуацию, лемматизацию, синтаксический разбор зависимостей и распознавание именованных сущностей. Результаты можно получить в JSON или в форматах Universal Dependencies, включая вариант IAHLT. Модель предназначена для лингвистического анализа предложений на иврите и построения структурированных аннотаций для языковых ресурсов и приложений. Отдельные выходные компоненты можно отключать при инициализации. Репозиторий распространяется в форматах PyTorch и Safetensors по лицензии CC BY 4.0. README указывает на необходимость `trust_remote_code=True` при загрузке через Transformers.

DictaBERT-lex — дообученная модель семейства BERT от Dicta для лемматизации современного иврита. Она получает текст на иврите и предсказывает для каждого слова лексему из словаря BERT; для глаголов лексемой служит форма третьего лица единственного числа прошедшего времени. Архитектура — BERT, размер — 211,6 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для лемматизации текстов на иврите, в том числе слов, разделённых токенизатором на несколько частей. Если подходящей лексемы нет в словаре, модель может вернуть специальный токен [BLANK]; это часто встречается с именами людей и городов. В редких случаях нейросеть может предложить семантически близкий синоним вместо лексически связанной формы, поэтому для повышения точности авторы рекомендуют ранжировать варианты и фильтровать их, например, по расстоянию редактирования. Модель опубликована в форматах PyTorch и Safetensors под лицензией CC BY 4.0. Для загрузки через Transformers в README показано использование trust_remote_code=True.

EsperBERTo-small-pos — модель для разметки токенов на основе архитектуры RoBERTa, обученной на эсперанто. Карточка называет её дополнительной моделью к публикации в блоге. Модель содержит 96,6 млн параметров и принимает последовательности длиной до 514 токенов. Модель предназначена для задач классификации токенов, например разметки частей речи в тексте на эсперанто. Доступны версии весов PyTorch, Flax, ONNX и Safetensors. Лицензия в предоставленных сведениях не указана.

Xenova/EsperBERTo-small-pos — модель семейства RoBERTa для разметки частей речи в последовательностях текста. Репозиторий содержит дубликат модели EsperBERTo-small-pos и рассчитан на использование с Transformers.js; размер модели составляет 96,6 млн параметров, длина контекста — 514 токенов. По языковому тегу eo модель предназначена для эсперанто. Модель принимает текст и присваивает метки токенам, что подходит для автоматической разметки частей речи в предложениях на эсперанто. В репозитории доступны форматы PyTorch, Flax, ONNX и safetensors. Лицензия в предоставленных данных не указана.

SHK4K/hadith-segmentation-bert — дообученная SHK4K модель на базе AraBERTv0.2-base для разметки токенов в классических арабских хадисах. Она определяет границу между иснадом — цепочкой передатчиков — и матном, основным текстом высказывания, присваивая токенам метки начала и продолжения этих фрагментов. Модель построена на архитектуре BERT и содержит 162,4 млн параметров. Она принимает текст на арабском языке, использует задачу классификации токенов и поддерживает контекст до 512 токенов. В README отмечено, что качество может зависеть от наличия диакритических знаков; для сложных случаев рекомендуется нормализовать текст перед обработкой. Модель распространяется по лицензии MIT.

Helios-Reasoner-7B-Prod — модель семейства BERT от procedure2012, опубликованная в формате PyTorch и доступная через библиотеку Transformers. В README она описана как модель рассуждений, обученная с применением RLHF и дополнительного обучения на математических и программных данных; заявлены результаты на задачах математического, логического и повседневного рассуждения. При этом метаданные классифицируют её как модель извлечения признаков с архитектурой BertModel, поэтому назначение репозитория по имеющимся данным неоднозначно. Лицензия — Apache-2.0. README заявляет статус production и предлагает чат-интерфейс и API, но не содержит подробных инструкций для локального запуска. В метаданных нет размера модели, контекста или языков; в README эти характеристики также не приводятся.

rntc/mc-bio-gliner-lymphome-joint — франкоязычный биомедицинский экстрактор структурированных данных на архитектуре GLiNER2. Модель разработана для извлечения значений по 89 полям электронной формы клинического случая (eCRF), посвящённой лимфоме; используется совместная супервизия. Основа — sentence-embedding-модель MedEmbed-v9, размер — около 150 млн параметров. Модель дообучена на синтетическом наборе данных, имитирующем продольную клиническую форму, и предназначена для структурированного извлечения из медицинских текстов. На синтетическом тестовом разбиении из 410 документов значение value-F1 составило 0,657; это лучший вариант без генератора в описанном сравнении. Данные не являются реальными медицинскими записями, поэтому результат не подтверждает качество на реальных больничных документах. Лицензия — MIT.