I.3Извлечение и структурирование данных

BC5CDR_BlueBERT_NER — англоязычная модель для распознавания именованных сущностей в биомедицинских текстах. Она разработана на основе bionlp/bluebert_pubmed_mimic_uncased_L-12_H-768_A-12 и дообучена для классификации токенов с метками Chemical и Disease. Модель содержит 136,7 млн параметров, использует архитектуру BERT и принимает контекст длиной до 512 токенов. Модель подходит для извлечения названий химических веществ и заболеваний из научных публикаций и других биомедицинских текстов. На оценочном наборе в карточке указаны F1 0,87 для Chemical и 0,83 для Disease. Доступна по лицензии CC0-1.0. README не описывает состав обучающих данных и дополнительные сценарии применения.

Это модель для распознавания химических веществ и заболеваний в биомедицинском тексте. Она дообучена пользователем ghadeermobasher на базе BiomedNLP-PubMedBERT для задачи классификации токенов; название указывает на сбалансированную версию для набора BC5CDR. Модель использует архитектуру BERT, содержит 136,7 млн параметров и принимает контекст длиной до 512 токенов. Модель предназначена для извлечения упоминаний химических веществ и болезней из научных публикаций и других биомедицинских текстов на английском языке. Она возвращает метки для токенов, что позволяет выделять найденные сущности. Доступна в формате PyTorch. Условия лицензии карточки не удалось подтвердить.

Это модель для разметки последовательностей, опубликованная пользователем ghadeermobasher на Hugging Face. По названию она предназначена для распознавания химических веществ и заболеваний в биомедицинских текстах набора BC5CDR; карточка подтверждает задачу token classification, но не содержит подробного описания обучения или оценки качества. Модель использует архитектуру BERT и насчитывает 136,7 млн параметров; нативная длина контекста — 512 токенов. Название указывает на PubMedBERT и сбалансированную версию данных BC5CDR. Формат репозитория — PyTorch. Карточка не указывает лицензию и не описывает известные ограничения качества.

Это модель на основе BERT, дообученная ghadeermobasher для классификации токенов в задаче извлечения химических веществ и заболеваний из биомедицинских текстов набора BC5CDR. Репозиторий указывает архитектуру BertForTokenClassification, около 137,1 млн параметров и контекст до 512 токенов; модель загружается через Transformers и PyTorch. Базовая модель SciBERT разработана Allen Institute for AI и предварительно обучена на научных публикациях; её карточка указывает английский язык и специализированный словарь scivocab. Настройка под BC5CDR позволяет размечать в тексте упоминания химических соединений и заболеваний. Модель принимает текст и выдаёт метки токенов; сведений о лицензии этой производной модели в доступных данных нет.

CAMeLBERT-Mix — арабская языковая модель семейства BERT, разработанная CAMeL Lab и предварительно обученная на смеси современного литературного арабского (MSA), диалектного арабского (DA) и классического арабского (CA). Модель содержит 136,3 млн параметров, использует архитектуру BertForMaskedLM и принимает последовательности длиной до 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax. Модель предназначена для заполнения пропусков в тексте и как основа для дообучения под задачи обработки арабского языка, включая распознавание именованных сущностей, разметку частей речи, анализ тональности и определение диалекта. Она обучалась на корпусах разных арабских вариантов, что позволяет применять её к литературному, диалектному и классическому тексту. Лицензия Apache 2.0.

ckiplab/bert-base-chinese — модель семейства BERT от CKIP для распознавания именованных сущностей в традиционном китайском тексте. Репозиторий проекта также предлагает модели и инструменты для сегментации слов, разметки частей речи и других задач обработки китайского языка, однако для этой модели основная задача в метаданных — классификация токенов. Модель имеет архитектуру BertForTokenClassification и содержит около 129,5 млн параметров. Она принимает текст, поддерживает контекст до 512 токенов и распространяется в форматах PyTorch и Flax. Для токенизации автор рекомендует BertTokenizerFast. Модель предназначена для извлечения сущностей из китайского текста; поддержка русского или других языков не заявлена. Репозиторий лицензирован по GPL-3.0.

bert-base-german-cased — немецкоязычная модель BERT, разработанная авторами из deepset и обученная с нуля на немецкой Википедии, материалах OpenLegalData и новостных статьях. Она предназначена прежде всего для восстановления замаскированных слов в немецком тексте и может служить основой для последующей настройки под задачи обработки немецкого языка. Модель имеет архитектуру BERT для masked language modeling, содержит 136,3 млн параметров и принимает текстовые последовательности длиной до 512 токенов. В репозитории доступны варианты для PyTorch, TensorFlow, JAX/Flax и ONNX. В карточке приведены оценки на немецких наборах для распознавания именованных сущностей и классификации текстов, включая тональность и классификацию документов. Лицензия модели — MIT. Она рассчитана на немецкий язык; качество и применимость к конкретной задаче зависят от предметной области и необходимости дополнительной настройки.

BETO16 — дообученная испаноязычная модель BERT для классификации токенов. Она основана на dccuchile/bert-base-spanish-wwm-cased, содержит 137,1 млн параметров и принимает последовательности длиной до 512 токенов. В карточке приведены метрики на наборе оценки: F1 0,9631 и accuracy 0,9939. Модель предназначена для присвоения меток отдельным токенам в испанском тексте. Назначение меток, обучающий набор данных и конкретные сценарии применения в карточке не раскрыты, поэтому по имеющимся сведениям нельзя определить, выполняет ли она, например, распознавание сущностей или другую разновидность разметки последовательностей. Файлы модели представлены в формате Safetensors; лицензия в предоставленных данных не указана.

BioBert-PubMed200kRCT — англоязычная модель классификации биомедицинских текстов, разработанная как дообучение dmis-lab/biobert-base-cased-v1.1 на наборе PubMed200kRCT. Она использует архитектуру BERT для классификации неструктурированных фрагментов текстов рандомизированных контролируемых исследований по пяти категориям: BACKGROUND, CONCLUSIONS, METHODS, OBJECTIVE и RESULTS. Модель предназначена для автоматической разметки разделов научных публикаций и анализа текстов клинических исследований. В README указаны точность 0,8934 и значение loss 0,2832 на оценочном наборе. Модель содержит 135,5 млн параметров и принимает последовательности длиной до 512 токенов. Для использования доступны веса PyTorch и Safetensors. Лицензия CC BY-NC 3.0 разрешает использование с указанием авторства, но запрещает коммерческое использование. Модель специализирована на классификации текстов рандомизированных контролируемых исследований, поэтому её метрики и категории не следует переносить на другие типы документов без отдельной оценки.

ChrisUPM/BioBERT_Re_trained — модель классификации отношений, дообученная на наборе данных GAD с использованием весов BioBERT. Она предназначена для классификации связей в биомедицинских текстах. Модель построена на архитектуре BERT с головой классификации последовательностей и содержит 135,5 млн параметров; принимает текст с контекстом до 512 токенов и сохранена в формате PyTorch. Лицензия в предоставленных данных не указана.

Модель разработана командой NLP4BIA Барселонского суперкомпьютерного центра (BSC) и предназначена для извлечения упоминаний медицинских процедур из испанских клинических текстов. Это дообученная для классификации токенов модель RoBERTa с 151,8 млн параметров, основанная на PlanTL-GOB-ES/bsc-bio-ehr-es. Она обучена на упоминаниях процедур из наборов CARMEN-I и MedProcNER и поддерживает контекст до 514 токенов. Модель подходит для разметки упоминаний процедур в электронных медицинских записях и для построения конвейеров медицинского NER на испанском языке. Рекомендуется заранее разбивать входной текст на слова, как это делалось при обучении: подача не токенизированного таким образом текста может снизить качество. Разработчики не оценивали систематические смещения; возможны искажения, связанные с данными обучения. Лицензия — CC BY 4.0.

Модель bsc-bio-ehr-es-meddocan разработана командой NLP4BIA Барселонского суперкомпьютерного центра и представляет собой дообученную на корпусе MEDDOCAN испаноязычную RoBERTa для классификации токенов. Она предназначена для распознавания и разметки в медицинских документах упоминаний, которые относятся к задаче корпуса MEDDOCAN, например для извлечения сущностей из клинических текстов. Модель содержит 151,8 млн параметров и обрабатывает до 514 токенов за раз. Для получения результатов, соответствующих обучению, входной текст рекомендуется предварительно разбивать на слова. Авторы не оценивали встроенные в модель смещения; такие смещения возможны из-за особенностей исходных корпусов. Модель распространяется по лицензии CC BY 4.0.

Модель разработана командой NLP4BIA Барселонского суперкомпьютерного центра и дообучена на корпусе MedProcNER на базе испаноязычной биомедицинской RoBERTa PlanTL-GOB-ES/bsc-bio-ehr-es. Это модель классификации токенов для извлечения упоминаний медицинских процедур из испанских клинических текстов и электронных медицинских карт. Архитектура — RoBERTa с 151,8 млн параметров; длина контекста — 514 токенов. Модель принимает текст и возвращает разметку токенов. Перед подачей рекомендуется предварительно разбивать текст на слова, как при обучении, поскольку иной способ токенизации может снизить качество. Авторы не оценивали систематически встроенные смещения; лицензия — CC BY 4.0.

yanekyuk/camembert-keyword-extractor — модель извлечения ключевых слов на основе CamemBERT, дообученная автором репозитория на неизвестном наборе данных. Она размечает входной текст по токенам и предназначена для выделения ключевых слов во франкоязычном тексте. Модель содержит 137,8 млн параметров, работает в формате PyTorch и поддерживает контекст до 514 токенов. В карточке приведены результаты оценки: F1 0,6859, точность 0,6743, полнота 0,6979 и accuracy 0,9346. Данные обучения и подробные ограничения не описаны, поэтому качество на текстах других жанров и доменов по этим цифрам оценить нельзя. Лицензия — MIT.

Mardiyyah/CeLLaTe-ner-2class-pubmedbert-tapt-tokenizer-adapted-spanmask-comData-lr_2 — англоязычная BERT-модель для классификации токенов, дообученная на наборе OTAR3088/CeLLaTe-ner-2class-iob_final. Она предназначена для выделения и разметки сущностей в биомедицинском тексте. Модель содержит 138,2 млн параметров, принимает текстовые последовательности длиной до 512 токенов и опубликована в формате safetensors для библиотеки Transformers. В карточке приведены результаты оценки: micro F1 0,7577, precision 0,7753, recall 0,7408 и accuracy 0,9841. Эти показатели относятся к указанному evaluation set и не гарантируют аналогичное качество на других данных. Модель распространяется по лицензии Apache-2.0.

CeLLaTe-ner-2class-tapt-pubmedbert-tokenizer-adapted-combinedData — англоязычная BERT-модель для классификации токенов, разработанная Mardiyyah и дообученная на наборе OTAR3088/CeLLaTe-ner-2class-iob_final. Она предназначена для извлечения сущностей из текста с разметкой IOB; карточка указывает два класса, но не раскрывает их значения. Базовая модель была адаптирована на биомедицинских текстах для предсказания замаскированных токенов. Модель содержит 138,2 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метки для токенов. На указанной оценочной выборке достигла micro F1 0,7541 и accuracy 0,9841. Распространяется по лицензии Apache-2.0.

CeLLaTe-ner-3class-pubmedbert-tapt-tokenizer-adapted-baseline — англоязычная модель для разметки последовательностей на основе BERT, разработанная Mardiyyah. Она дообучена на датасете OTAR3088/CeLLaTe-ner-3class-iob_final и предназначена для распознавания трёх классов именованных сущностей в биомедицинских текстах. Модель содержит 138,2 млн параметров, принимает текстовые последовательности с контекстом до 512 токенов и выдаёт метки токенов. На указанной в карточке оценочной выборке модель получила micro F1 0,7675, precision 0,7835 и recall 0,7522. Использование распространяется по лицензии Apache-2.0.

CeLLaTe-ner-3class-pubmedbert-tokenizer-adapted-spanmask — англоязычная BERT-модель Mardiyyah для классификации токенов в биомедицинских текстах. Она дообучена на наборе OTAR3088/CeLLaTe-ner-3class-iob_final поверх Mardiyyah/CeLLaTe-tapt-pubmedbert-tokenizer-adapted-spanmask и рассчитана на распознавание сущностей с разметкой IOB для трёх классов. Модель содержит 138,2 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метки токенов. На указанной в карточке оценочной выборке достигнуты micro F1 0,7488 и accuracy 0,9823. Доступна по лицензии Apache-2.0.

ChartMoE — мультимодальная модель с архитектурой Mixture of Experts и коннектором на основе InternLM-XComposer2, разработанная командой IDEA-FinAI. Она предназначена для понимания диаграмм и графиков, их перерисовки, редактирования, выделения элементов и преобразования. Модель содержит 7,4 млрд параметров, принимает изображения и текст и формирует текстовые ответы; для загрузки используется библиотека Transformers с поддержкой пользовательского кода. Контекст составляет 32 768 токенов. Модель представлена на ICLR 2025 и отмечена как устный доклад. Лицензия — Apache 2.0.

Модель msislam/code-mixed-language-detection-XLMRoberta предназначена для определения языка каждого токена и границ переключения языков в смешанном тексте. Автор дообучил XLM-RoBERTa-base для токенной классификации на подготовленных данных корпуса Multilingual Amazon Reviews Corpus. Модель поддерживает немецкий, английский, испанский и французский языки. Она принимает текст и возвращает метку языка для каждого токена, что позволяет анализировать переключение языков внутри предложений. Размер модели — 305,2 млн параметров, максимальный контекст — 514 токенов. В репозитории доступны веса PyTorch и Safetensors. Модель может ошибаться на коротких фрагментах другого языка внутри предложения, в имён собственных и отдельных межъязыковых словах; предсказания также зависят от пунктуации. Лицензия в предоставленных данных не указана.

Японская модель Globis University на базе DeBERTa V3, дообученная на японских текстовых ресурсах и предназначенная для задач классификации токенов. Модель содержит 40,6 млн параметров, использует архитектуру DeBERTa V2 и обрабатывает последовательности длиной до 512 токенов; для неё заявлен pipeline token-classification. Токенизатор обучен с использованием метода Кудо и словаря UniDic-CWJ. При выводе не требуется морфологический анализатор, а границы токенов в целом согласуются с границами слов. В README также приведены результаты оценивания на японских задачах семантического сходства и понимания текста, включая JSTS, JNLI, JSQuAD и JCQA. Модель ориентирована на японский язык. Репозиторий распространяется по лицензии CC BY-SA 4.0. Конкретные метрики для прикладных сценариев классификации токенов в карточке не приведены.

distilbert-base-german-cased — немецкоязычная модель DistilBERT от сообщества DistilBERT, представленная на Hugging Face. Это компактный трансформер на основе архитектуры BERT, обученный методом дистилляции под надзором bert-base-german-dbmdz-cased; модель содержит 67,4 млн параметров и рассчитана на последовательности до 512 токенов. Модель предназначена для предсказания скрытых токенов в немецком тексте. Такой режим подходит для подстановки пропущенных слов и получения контекстных представлений текста, которые можно применять как основу для последующей настройки под задачи понимания языка. В материалах разработчика приведены результаты для распознавания именованных сущностей на немецких наборах CoNLL-2003 и GermEval 2014. Модель работает с текстом на немецком языке и сохраняет регистр. Компактность DistilBERT рассчитана на более быстрый и лёгкий инференс по сравнению с BERT, хотя приведённые разработчиком результаты на NER немного ниже показателей исходной немецкой BERT-модели. Лицензия репозитория — Apache-2.0.

Карточка модели EdgeAIMed/EdgeAIMed-NER-PharmaDetect-SuperClinical-434M на Hugging Face совпадает с карточкой OpenMed/OpenMed-NER-PharmaDetect-SuperClinical-434M, поэтому описание составлено по ней. OpenMed разработала OpenMed-NER-PharmaDetect-SuperClinical-434M — специализированную модель распознавания химических сущностей в биомедицинских текстах. Это дообученная для token classification модель на архитектуре DeBERTa V2 с 533,8 млн параметров; README указывает базовую архитектуру DeBERTa V3 Large. Модель принимает токенизированный текст и выдаёт BIO-разметку сущностей типов B-CHEM и I-CHEM. Контекст — до 512 токенов. Модель обучена на BC5CDR_CHEM и предназначена для извлечения названий химических соединений и лекарственных веществ из научной литературы и медицинских документов. Возможные сценарии — поиск препаратов в текстах, мониторинг нежелательных явлений и подготовка данных для биомедицинских графов знаний. В README приведены результаты на BC5CDR_CHEM: F1 0,9614, точность 0,9520 и полнота 0,9710; эти показатели относятся к указанному набору данных и не гарантируют качество на иных типах текстов. Карточка указывает английский язык. Лицензия — Apache-2.0.

Модель cea-list-ia/evalllm2026-mesh-finetuned разработана CEA-LIST для участия в соревновании evalLLM2026. Это дообученная на данных соревнования модель-ретривер на базе BAAI/bge-m3: она преобразует медицинские предложения в эмбеддинги и помогает находить соответствующие термины MeSH для связывания упоминаний сущностей. В README рекомендован префикс запроса «Represent this medical sentence for retrieving relevant MeSH terms:». Модель построена на XLM-RoBERTa, содержит 658,7 млн параметров и поддерживает контекст до 8194 токенов. Лицензия — Apache-2.0.

FM-Speech — модель ASLP-lab для анализа речи, созданная на основе мультимодальной архитектуры Qwen3-Omni-30B-A3B-Instruct. Она принимает необработанное аудио речи и формирует структурированный JSON с атрибутами речи по 14 измерениям. Для обучения использован подход Progressive Curriculum Fine-Tuning с последовательным переходом от вопросов с выбором ответа и вопросов-ответов к наращиванию возможностей и итоговому формированию JSON. Модель подходит для детального анализа речевых характеристик; в README рекомендуется использовать vLLM для инференса и развёртывания. Весовые файлы представлены в формате safetensors. Лицензия — Apache-2.0.

Immerwinter/gbert-large-privacy-policy-content-deletion — дообученная немецкоязычная модель BERT для классификации текста по теме удаления данных в политиках конфиденциальности. Карточка относит её к аналитическому конвейеру, в котором также перечислены темы Audience, Contact, LegalBasis, Retention и другие; сама модель предназначена для категории Deletion. Модель основана на deepset/gbert-large, имеет архитектуру BertForSequenceClassification и 434,5 млн параметров. Принимает текст и выдаёт метку классификации; максимальная длина контекста — 512 токенов. Доступны веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0. Модель подходит для выделения фрагментов политики конфиденциальности, относящихся к удалению персональных данных. README не раскрывает состав меток, обучающие данные, качество на тестах или процедуру инференса, поэтому пригодность для конкретного набора документов следует оценить отдельно.

GLiNER2 — модель извлечения информации, дообученная whr778 на синтетическом корпусе synthetic_sonnet5_1k на базе fastino/gliner2-base-v1. Она предназначена для извлечения сущностей, отношений между ними, событий и их аргументов, а также для классификации текста; в метаданных Hugging Face основная задача обозначена как token-classification. Модель использует библиотеку gliner2, а веса доступны в формате safetensors. Это экспериментальный контрольный чекпойнт, обученный на 1 497 записях в течение 10 эпох. В README приведены результаты на синтетическом отложенном тестовом наборе: например, F1 для сущностей — 0,904 строго и 0,933 с допуском, для отношений — 0,657 и 0,745 соответственно. Эти оценки показывают согласованность синтетических данных и не являются заявлением о качестве на публичных бенчмарках или реальных данных. Язык и лицензия обучающего набора не установлены; в метаданных лицензия модели указана как other.

GLiNER2 Polish PII — модель извлечения именованных сущностей, разработанная на основе fastino/gliner2-privacy-filter-PII-multi и адаптированная полнопараметрическим дообучением к выявлению персональных и чувствительных данных в польском тексте. Она использует архитектуру GLiNER2 и выдаёт символьные интервалы с текстом, меткой и оценкой уверенности; поддерживает запросы по встроенной таксономии из 31 метки и пользовательским схемам. Модель предназначена для поиска кандидатов на редактирование персональных данных в документах, журналах и обучающих наборах, а также для поддержки проверки и деидентификации текста. В комплект входят три профиля порогов: сбалансированный, ориентированный на точность и экспериментальный профиль для задач приватности. Качество зависит от меток, порогов и предметной области: модель может пропускать данные, выдавать ложные срабатывания, неточно выделять границы фрагментов и хуже находить структурированные идентификаторы без контекстных подсказок. Для PESEL, NIP, REGON и IBAN рекомендуется дополнительная проверка контрольных сумм; перед применением следует оценить ошибки на данных целевого домена. Это компонент обнаружения, а не готовая система деидентификации и не гарантия соответствия GDPR. Модель распространяется по лицензии Apache-2.0.

Immerwinter/gottbert-privacy-policy-content-sharing — немецкоязычная модель классификации текста на основе RoBERTa, дообученная на GottBERT/GottBERT_base_last. Она предназначена для анализа текстов политик конфиденциальности и отнесения фрагментов к категориям, связанным с обработкой и передачей данных: например, Sharing, ThirdParty, Purpose и Retention. В README перечислены метки тематик, включая Audience, LegalBasis, Security/Privacy и UserRights, а также указана английская версия материалов. Модель содержит 153,2 млн параметров, принимает текст и выдаёт классы; максимальный контекст — 514 токенов. Репозиторий содержит веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0. Метаданные указывают немецкий язык; наличие в README пометки об английской версии само по себе не подтверждает качество классификации на английском языке.

HRM-Text-1B — языковая модель Sapient Intelligence на архитектуре Hierarchical Reasoning Model (HRM), обученная с нуля на смеси общедоступных текстовых корпусов. В метаданных указано 553,6 млн параметров, контекст — 4096 токенов; модель использует плотную архитектуру и доступна в формате safetensors. HRM сочетает две рекуррентно работающие Transformer-стопки: высокоуровневую медленную и низкоуровневую быструю, что позволяет выполнять дополнительные шаги вычислений при фиксированном числе параметров. Модель предназначена как исходный чекпойнт для генерации текста и экспериментов с рассуждениями, математическими запросами, классификацией, извлечением информации, структурированными ответами и короткими вопросами и ответами. Она обучена на PrefixLM-цели с префиксными условиями, а не на диалогах и инструкциях. Для лучших результатов на прикладных NLP-задачах README рекомендует несколько примеров в контексте; для математических и открытых запросов — составное условие synth,cot. Чекпойнт ориентирован на английский язык. Это не готовый чат-ассистент: качество ответов неровное, особенно без примеров, и для ассистентских сценариев потребуется дополнительное дообучение и выравнивание. Обучение на коде не проводилось, поэтому возможности программирования ограничены; ответы также могут содержать ошибки, предвзятость или небезопасный контент. Лицензия — Apache-2.0.