/ Профессии
Универсальные способности и операции

I.3Извлечение и структурирование данных

В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
18
в этой профессии
Подходящих моделей
25 791
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

25 791 модель
Загрузки
Лайки
Дата выхода
1 711–1 740 из 25 791
OpenMed
OpenMed-NER-PharmaDetect-SuperMedical-355M

OpenMed разработала OpenMed-NER-PharmaDetect-SuperMedical-355M — дообученную модель RoBERTa для распознавания химических сущностей в биомедицинских текстах. Модель классифицирует токены, выделяя названия химических соединений, лекарств и терапевтических веществ тегами B-CHEM и I-CHEM. Модель предназначена для извлечения химических сущностей из научных публикаций, медицинской документации и клинических текстов. Её можно применять для мониторинга нежелательных реакций, анализа упоминаний лекарств, поиска по биомедицинской литературе и подготовки данных для графов знаний. Обучение выполнено на BC5CDR-Chem; в карточке приведены F1 0,96, точность 0,95 и полнота 0,97. Архитектура — RoBERTa для классификации токенов, размер — 454,1 млн параметров, максимальный контекст — 514 токенов. Указан английский язык. Модель принимает токенизированный текст и возвращает BIO-разметку сущностей. Для более длинных документов требуется обработка фрагментами; качество за пределами химических сущностей и распределения BC5CDR-Chem не подтверждено. Лицензия — Apache-2.0.

102K0июль 2025ctx514
textapache-2.0hugging-face
OpenMed
OpenMed-PII-ClinicalE5-Small-33M-v1

OpenMed-PII-ClinicalE5-Small-33M-v1 — англоязычная модель OpenMed для поиска и классификации персональных и медицинских идентификаторов в тексте. Она построена на архитектуре BERT и дообучена на базе intfloat/e5-small-v2 для задачи token classification; метаданные указывают 40 млн параметров, формат safetensors и контекст до 512 токенов. Модель распознаёт 54 типа чувствительных сущностей, включая имена, адреса, номера медицинских записей, контактные и финансовые данные. Модель предназначена для обезличивания клинических заметок и документов, предварительной очистки наборов данных и аудита текстовых коллекций на наличие чувствительной информации. В README указана оценка micro F1 0,9306 на тестовой выборке NVIDIA Nemotron-PII; качество различается между категориями, а для отдельных типов, например профессий и налоговых идентификаторов, оно заметно ниже. Модель рассчитана преимущественно на английский текст и должна использоваться как вспомогательное средство с проверкой результатов человеком. Лицензия — Apache-2.0.

11K0янв. 2026ctx512
textapache-2.0hugging-face
OpenMed
OpenMed-PII-ClinicalLongformer-Base-149M-v1

OpenMed разработала эту модель для обнаружения и классификации персональных и других чувствительных данных в тексте. Это Longformer для token classification, дообученная на клинической модели yikuan8/Clinical-Longformer на наборе NVIDIA Nemotron-PII. В метаданных указано 151,8 млн параметров, контекст до 4098 токенов и формат safetensors; модель использует библиотеку Transformers. Модель размечает 54 типа сущностей, включая имена, адреса, идентификаторы, контактные, финансовые и медицинские сведения. Она предназначена для выявления данных в клинических записях и документах, автоматизированного обезличивания, подготовки наборов данных и аудита приватности. В README сообщается о micro F1 0,9533 на тестовой выборке из 2000 примеров Nemotron-PII. Модель рассчитана прежде всего на английский язык. README предупреждает о пропусках чувствительных данных и снижении качества на отдельных категориях и при изменении предметной области; критические результаты требуют проверки человеком. Лицензия Apache 2.0.

17K0янв. 2026ctx4.1K
textapache-2.0hugging-face
OpenMed
OpenMed-PII-German-ClinicalBGE-Large-568M-v1

OpenMed разработала модель для обнаружения и классификации персональных и других чувствительных данных в немецких текстах. Это дообученная на BAAI/bge-m3 модель XLM-RoBERTa для пок tokenной классификации: она размечает 54 типа сущностей, включая имена, адреса, идентификаторы, контактные, финансовые и медицинские сведения. Размер по метаданным — 658,7 млн параметров, контекст — до 8194 токенов. Модель предназначена для обезличивания клинических записей и документов, подготовки наборов данных и поиска PII при аудите приватности. В README указана оценка micro F1 0,9724 на немецкой части набора AI4Privacy PII Masking 400k. Модель принимает немецкий текст и возвращает метки токенов с типами сущностей. Она ориентирована на немецкий язык; качество на других языках может быть низким. README предупреждает о возможных пропусках PII и вариативности качества на специализированной терминологии, поэтому результаты для критичных сценариев следует проверять человеком. Лицензия — Apache-2.0.

5.1K0февр. 2026ctx8.2K
textapache-2.0hugging-face
kranushealth
OpenMed-PII-German-SuperClinical-Large-434M-v1

Карточка модели kranushealth/OpenMed-PII-German-SuperClinical-Large-434M-v1 на Hugging Face совпадает с карточкой OpenMed/OpenMed-PII-German-SuperClinical-Large-434M-v1, поэтому описание составлено по ней. OpenMed разработала OpenMed-PII-German-SuperClinical-Large-434M-v1 — модель разметки токенов на базе DeBERTa V3 Large, дообученную для обнаружения и классификации персональных и других чувствительных данных в немецком тексте. Она распознаёт 54 типа сущностей, включая имена, адреса, идентификаторы, финансовые и медицинские сведения, контактные данные и даты. Модель предназначена для обезличивания клинических записей и документов, подготовки исследовательских наборов данных и поиска чувствительной информации при аудите. В README указана оценка F1 0,9761 на немецкой части набора AI4Privacy PII Masking 400k. Модель имеет 533,8 млн параметров, принимает текстовые последовательности с контекстом до 512 токенов и выдаёт метки сущностей для токенов в формате BIO. Она оптимизирована для немецкого языка; качество на других языках и при специализированной терминологии может быть ниже. Авторы предупреждают, что модель может пропускать персональные данные и рекомендуют проверять результаты человеком в критически важных сценариях. Лицензия — Apache-2.0.

2580июль 2026ctx512
textapache-2.0hugging-face
OpenMed
OpenMed-PII-GTEMed-Base-149M-v1

OpenMed-PII-GTEMed-Base-149M-v1 — модель OpenMed для обнаружения и классификации персональных и медицинских идентификаторов в тексте. Это дообученная для token classification модель ModernBERT с 149 млн параметров и контекстом до 8192 токенов; она распознаёт 54 типа чувствительных данных, включая имена, адреса, номера медицинских карт, финансовые реквизиты и контактную информацию. Модель предназначена для разметки и последующего удаления или маскирования чувствительных фрагментов в клинических записях, медицинских документах и других текстовых коллекциях, а также для подготовки данных и аудита приватности. В README приведён результат micro F1 0,9504 на тестовой выборке NVIDIA Nemotron-PII. Модель рассчитана прежде всего на английский текст. Качество зависит от типа сущности и контекста: некоторые категории, в том числе время, уникальные идентификаторы и уровень образования, распознаются менее надёжно. Модель следует использовать как вспомогательный инструмент с проверкой результатов человеком, особенно в критичных сценариях. Лицензия — Apache-2.0.

2.3K0янв. 2026ctx8.2K
textapache-2.0hugging-face
OpenMed
OpenMed-PII-Italian-mLiteClinical-Base-135M-v1

OpenMed-PII-Italian-mLiteClinical-Base-135M-v1 — модель OpenMed для обнаружения и классификации персональных данных в итальянском тексте. Это дообученная версия многоязычного DistilBERT с архитектурой DistilBertForTokenClassification; модель содержит 135 млн параметров, принимает текстовые последовательности длиной до 512 токенов и размечает чувствительные фрагменты по BIO-схеме. Карточка сообщает о 54 типах сущностей, включая имена, адреса, идентификаторы, контактные, финансовые и медицинские данные. Модель предназначена для поиска персональных данных в клинических записях, медицинских документах и других текстовых коллекциях, чтобы поддерживать обезличивание, подготовку данных и аудит. На итальянской части AI4Privacy PII Masking 400k указана оценка micro F1 0,9525. Модель рассчитана прежде всего на итальянский язык и может использоваться в конвейерах обработки текста. Карточка рекомендует применять модель как вспомогательный инструмент с проверкой человеком: часть чувствительных данных может быть пропущена, а качество зависит от терминологии и контекста. Модель распространяется по лицензии Apache-2.0.

10K0февр. 2026ctx512
textapache-2.0hugging-face
OpenMed
OpenMed-PII-Portuguese-ClinicDischarge-Base-110M-v1

OpenMed разработала эту модель для обнаружения и классификации персональных данных в португальских текстах. Это BERT-модель для классификации токенов, дообученная на базе emilyalsentzer/Bio_Discharge_Summary_BERT; в метаданных указано 135,5 млн параметров, формат safetensors и контекст до 512 токенов. Она размечает 54 типа чувствительных сущностей, включая имена, адреса, идентификаторы, медицинские записи, контактные и финансовые данные. Модель предназначена для выявления PII в клинических заметках, медицинских документах и других текстовых коллекциях перед обезличиванием, подготовкой данных к исследованиям и проверками конфиденциальности. В README приведена оценка micro F1 0,8782 на португальском тестовом наборе, объединяющем AI4Privacy и синтетические данные; заявлены примеры с бразильскими форматами, включая CPF и телефоны с кодом +55. Модель лучше всего подходит для португальского текста. Возможны пропуски персональных данных, а качество может меняться в зависимости от терминологии и предметной области, поэтому результаты требуют проверки человеком, особенно в критичных сценариях. Лицензия — Apache-2.0.

1671апр. 2026ctx512
textapache-2.0hugging-face
OpenMed
OpenMed-PII-Spanish-SuperClinical-Large-434M-v1

OpenMed разработала OpenMed-PII-Spanish-SuperClinical-Large-434M-v1 — модель классификации токенов на базе DeBERTa V3 Large, дообученную для обнаружения персональных и чувствительных данных в испанском тексте. Она размечает 54 типа сущностей, включая имена, адреса, идентификаторы, контактные и медицинские сведения. Модель предназначена для обезличивания клинических записей и документов, подготовки наборов данных и аудита коллекций текстов. В тестировании на испанской части AI4Privacy модель показала micro-F1 0,9491. Модель содержит 533,8 млн параметров, принимает текст и возвращает метки сущностей для токенов; максимальный контекст — 512 токенов. Карточка рекомендует перед обработкой удалять диакритические знаки: модель обучалась на тексте без акцентов, при этом смещения символов сохраняются для сопоставления с исходным текстом. Модель ориентирована на испанский язык и выпущена по лицензии Apache-2.0.

12K3февр. 2026ctx512
textapache-2.0hugging-face
OpenMed
OpenMed-PII-SuperClinical-Base-184M-v1

OpenMed-PII-SuperClinical-Base-184M-v1 — англоязычная модель OpenMed для обнаружения персональных и чувствительных данных в тексте. Это модель классификации токенов на базе DeBERTa-v3-base, дообученная на датасете NVIDIA Nemotron-PII; она размечает 54 типа сущностей, включая имена, адреса, идентификаторы, контактные сведения и медицинские данные. Размер по метаданным — 211,6 млн параметров, контекст — до 512 токенов. Модель подходит для поиска чувствительных данных в клинических записях и документах, подготовки наборов данных к исследованиям, аудита документов и последующего обезличивания текста. В README сообщается micro-F1 0,955 на тестовой выборке из 2 000 примеров Nemotron-PII. Лицензия — Apache-2.0. Модель предназначена для вспомогательного применения: возможны пропуски чувствительных данных, а качество зависит от предметной области. README указывает на более низкие результаты для некоторых категорий и на преимущественную ориентацию на английский язык; критические случаи требуют проверки человеком.

8.1K1янв. 2026ctx512
textapache-2.0hugging-face
Hasanblanka
polygraf-ner-stage3-first-model

Polygraf NER Stage 3 First Model — англоязычная модель распознавания именованных сущностей, разработанная для технической задачи Polygraf Applied NLP / NER. Это дообученная на проверенном вручную наборе данных модель DistilBERT с архитектурой DistilBertForTokenClassification; она размечает текст BIO-тегами для восьми типов сущностей: людей, организаций, мест, дат и времени, продуктов, произведений искусства, профессий и сумм. Модель предназначена для извлечения сущностей из англоязычных текстов, включая новостные материалы; контекст — до 512 токенов. В тестовой выборке Entity F1 составил 0,584, а на десяти вручную размеченных примерах вне основного набора — 0,5376. Это небольшой базовый чекпойнт для экспериментов и прикладных задач с проверкой качества: он склонен чрезмерно предсказывать произведения искусства, пропускать продукты и профессии, путать некоторые категории и фрагментировать многословные сущности. Обучение основано на 506 тренировочных и 127 тестовых записях, поэтому охват ограничен, в частности новостным уклоном данных; вложенные сущности не поддерживаются. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

70июль 2026ctx512
textotherhugging-face
judithrosell
PubMedBERT_BC5CDR_NER_new

PubMedBERT_BC5CDR_NER_new — дообученная модель на архитектуре BERT для распознавания именованных сущностей в биомедицинских текстах. Она основана на microsoft/BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext и содержит около 136,7 млн параметров. Модель принимает текст и помечает в нём токены; максимальная длина контекста — 512 токенов. В README приведены результаты на оценочном наборе: F1 0,9839, точность 0,9857 и полнота 0,9821. Название указывает на BC5CDR NER, однако описание набора данных и меток в карточке отсутствует. Модель выпущена под лицензией MIT; её назначение и качество за пределами указанной оценки отдельно не описаны.

1200янв. 2024ctx512
textmithugging-face
syssec-utd
py314-pylingual-v5-segmenter

py314-pylingual-v5-segmenter — модель на базе RoBERTa, разработанная syssec-utd и дообученная для классификации токенов. Она предназначена для сегментации текста, что следует из названия модели и датасета segmentation-py314-pylingual-v5-tokenized. Модель содержит 136,3 млн параметров, использует библиотеку Transformers, сохраняется в формате safetensors и принимает последовательности длиной до 1026 токенов. В README приведены результаты оценки: precision 0,9943, recall 0,9940, F1 0,9942 и accuracy 0,9984. Эти показатели относятся к указанному набору оценки; карточка не описывает подробно схему сегментации, языки данных или ограничения применения. Модель дообучена на базе syssec-utd/py314-pylingual-v5-mlm. Сведения о лицензии в предоставленных данных отсутствуют.

80авг. 2026ctx1K
texthugging-face
amd
Qwen3-VL-8B-Instruct-w8a8-llmcompressor

amd/Qwen3-VL-8B-Instruct-w8a8-llmcompressor — квантизированная версия мультимодальной модели Qwen3-VL-8B-Instruct, созданная AMD с использованием LLM Compressor и формата compressed-tensors. Модель предназначена для задач преобразования текста и изображений в текст, включая визуальные вопросы и анализ диаграмм. Архитектура — Qwen3VLForConditionalGeneration; поддерживаются входные данные в виде текста и изображений и текстовый вывод. В README указан английский язык, однако полный набор языков базовой модели не раскрыт. Модель рассчитана на CPU-инференс на AMD EPYC под Linux с использованием vLLM, ZenDNN и ZenTorch. Применяется схема W8A8: веса языковой части представлены в INT8 с симметричной поканальной квантизацией, активации — в INT8 с симметричной динамической потокенной квантизацией. Vision tower, проектор и lm_head сохранены в BF16. Размер модели на диске уменьшен с 16,3 до 9,9 ГиБ, примерно на 40%. Для работы указаны vLLM 0.26.0, PyTorch 2.11.0, ZenDNN 6.1.0, ZenTorch 2.11.0.3 и LLM Compressor 0.12.0. По результатам оценки относительно BF16-версии модель показала 0,5740 на ChartQA против 0,5544 у базовой модели и 0,3857 на MMMU для технических и инженерных задач против 0,3952. Это указывает на близкое к исходному качество при меньшем объёме хранения и ориентации на оптимизированный CPU-инференс, однако качество может зависеть от аппаратного и программного стека. Указано ограничение совместимости с ZenDNN v6. Модель распространяется по лицензии Apache-2.0.

5300авг. 2026ctx262.1K
textimageapache-2.0hugging-face
khadija69
roberta_ASE_clb_large_layers_tail

Это дообученная XLM-RoBERTa Large для классификации токенов, разработанная на основе khadija69/roberta_ASE_kgl_large. Модель содержит 658,7 млн параметров, принимает текст и выдаёт метки для отдельных токенов; длина контекста — до 514 токенов. Карточка не уточняет набор меток, обучающие данные и целевую область применения, поэтому пригодность для конкретной задачи разметки нужно проверять отдельно. Опубликованные показатели включают train loss 0,0908 и validation loss 0,2620 после пяти эпох, но без описания датасета и метрики они не позволяют оценить качество на пользовательских данных. Лицензия — MIT.

90май 2024ctx514
textmithugging-face
tner
roberta-large-bc5cdr

Это модель для распознавания именованных сущностей в биомедицинских текстах: она выделяет упоминания химических веществ и заболеваний. Модель разработана на основе roberta-large и дообучена авторами T-NER на наборе данных tner/bc5cdr; архитектура — RobertaForTokenClassification, размер — 454,1 млн параметров, контекст — до 514 токенов. Модель предназначена для извлечения химических веществ и заболеваний из научных и других биомедицинских текстов. В тестовой оценке BC5CDR она показала micro-F1 0,884; F1 для химических веществ составил 0,926, для заболеваний — 0,834. Для использования авторы рекомендуют библиотеку T-NER: при работе через Transformers слой CRF не поддерживается. Лицензия в предоставленных данных не указана.

1.1K2авг. 2022ctx514
texthugging-face
HebArabNlpProject
shoshan

Shoshan — это контекстный лемматизатор иврита, разработанный HebArabNlpProject. Модель дообучена на основе DictaBERT и размечает слова, выбирая лемму из банка примерно из 117,6 тыс. вариантов; если выбранная лемма морфологически неправдоподобна для исходной формы, модель применяет ограниченное преобразование по выученному скрипту правок. Она не генерирует произвольные строки. Модель предназначена для лемматизации предложений и документов на иврите, в том числе текста, извлечённого из PDF. Согласно README, точность лемматизации составляет 92,4% на данных вне обучающей области и 94,3% внутри неё. Обновление Shoshan 0.4.0 исправило обработку Unicode presentation forms и смещения символьных диапазонов; веса при этом не менялись. Модель обучена на открытых частях корпуса IAHLT Hebrew UD Treebank (Knesset и Wikipedia) и публичных ивритских лексиконах. Лицензия — MIT.

240июнь 2026
textmithugging-face
stanfordnlp
stanza-de

stanfordnlp/stanza-de — немецкоязычная модель из набора Stanza, разработанного Stanford NLP. Она предназначена для лингвистического анализа немецкого текста; Stanza предоставляет инструменты для обработки текста от исходной формы до синтаксического анализа и распознавания сущностей. В Hugging Face модель отмечена задачей token-classification и распространяется в формате PyTorch через библиотеку Stanza. Модель подходит для анализа немецкоязычных текстов в приложениях обработки естественного языка. Репозиторий распространяется по лицензии Apache-2.0. Размер модели и длина контекста в предоставленных данных не описаны.

1.0K3март 2022
textapache-2.0hugging-face
stanfordnlp
stanza-uk

stanfordnlp/stanza-uk — модель Stanza для лингвистического анализа украинского языка, разработанная Stanford NLP. Она предназначена для обработки текста: в частности, классифицирует токены; Stanza также предоставляет инструменты для синтаксического анализа и распознавания сущностей. Репозиторий содержит веса PyTorch и имеет лицензию Apache-2.0. Карточка не сообщает размер модели и длину контекста.

9733март 2022
textapache-2.0hugging-face
google
tapas-large-finetuned-wtq

TAPAS Large — модель Google на архитектуре, близкой к BERT, предназначенная для ответов на вопросы по таблицам. Она принимает вопрос и таблицу, преобразованную в последовательность текста, и выбирает подходящие ячейки с помощью специальных голов выбора ячеек и агрегирования результата. Модель имеет 433,9 млн параметров и поддерживает контекст до 1024 токенов; в карточке описаны варианты с относительными и абсолютными позиционными эмбеддингами. Модель предварительно обучалась на английских данных Википедии, а затем последовательно дообучалась на SQA, WikiSQL и WikiTable Questions (WTQ). Она рассчитана на ответы на вопросы по табличным данным и может быть полезна для извлечения значений и простых агрегированных ответов. Для варианта reset в карточке приведена точность 0,5097 на dev-наборе WTQ. Модель работает с текстовым представлением таблицы и ориентирована на английский язык. Качество может быть ограничено сложными формулировками и таблицами, существенно отличающимися от обучающих данных; приведённая точность на WTQ указывает на возможность ошибок. Лицензия — Apache-2.0.

7.4K152март 2022ctx1K
textapache-2.0hugging-face
QuickHawk
trocr-indic

QuickHawk/trocr-indic — модель распознавания текста на изображениях по подходу TrOCR, разработанная Aarya Devarla для индийских языков. Она принимает кадрированные изображения с текстом и генерирует распознанную строку; архитектура — VisionEncoderDecoderModel, объединяющая DeiT и IndicBART. Модель обучена на наборе IndicSTR12 и рассчитана на распознавание ассамского, бенгальского, гуджарати, хинди, каннада, малаялам, маратхи, одиа, панджаби, тамильского и телугу. Несмотря на перечень языков обучения, README предупреждает, что из-за ограничений IndicBART обучение использовало только деванагари. Поэтому качество для языков с другими письменностями может быть ограниченным. Приведённые CER и WER также заметно различаются между языками. Модель распространяется по лицензии MIT.

911июль 2025
textimagemithugging-face
microsoft
trocr-large-stage1

microsoft/trocr-large-stage1 — предварительно обученная модель TrOCR от Microsoft для распознавания текста на изображениях. Она предназначена для OCR на изображениях с одной строкой текста; для специализированных сценариев доступны дообученные версии семейства TrOCR. Модель использует архитектуру encoder-decoder: Transformer-кодировщик изображений построен на BEiT, а Transformer-декодер текста — на RoBERTa. Кодировщик обрабатывает изображение как последовательность патчей размером 16×16, после чего декодер авторегрессионно генерирует текст. Репозиторий содержит веса PyTorch и Safetensors. В README не указаны размер модели, поддерживаемые языки и лицензия, поэтому эти характеристики здесь не уточняются. Модель рассчитана на строки текста; качество на иных форматах изображений и задачах OCR не подтверждено описанием.

2.2K31март 2022ctx512
textimagehugging-face
wayu-ai
wayu-paxa-ocr-zero

Wayu-Paxa-OCR-Zero — модель распознавания текста в областях документов, разработанная Wayu AI как полноточечное дообучение PaddleOCR-VL-1.6. Модель содержит 0,9 млрд параметров и обучена на 45 723 синтетических страницах, созданных по открытым англоязычным коллекциям документов без OCR-разметки реальных тайских документов. Она принимает изображения отдельных областей документа и выдаёт текст в формате, соответствующем типу области: Markdown для обычного текста, OTSL для таблиц и LaTeX для формул. Модель предназначена прежде всего для распознавания печатного тайского текста; также поддерживает английский и может распознавать тайский почерк, хотя ошибки остаются заметными. Это распознаватель фрагментов, а не целых страниц: для обработки страницы его следует сочетать с PP-DocLayoutV3, который обнаруживает области и упорядочивает их; готовый конвейер PaddleOCRVL объединяет эти этапы. По заявлению авторов, на их наборах медианная CER для печатного тайского снизилась с 6,64% у базовой модели до 1,24%, а для почерка — с 74,87% до 20,55%. Модель опубликована как исследовательский артефакт без обязательств по поддержке и доступности; лицензия — Apache-2.0. Результаты ограничены качеством синтетической обучающей выборки: слабее обрабатываются формы, чеки и плотные финансовые таблицы, особенно таблицы с объединёнными ячейками. Распознавание почерка остаётся несовершенным; тайский и английский — единственные языки, обучение и оценка которых описаны в карточке.

12K1авг. 2026ctx131.1K
textimageapache-2.0hugging-face
Davlan
afro-xlmr-base

AfroXLMR-base — модель Davlan, созданная адаптацией masked language modeling базовой XLM-R-base для африканских языков. Она использует архитектуру XLM-RoBERTa для заполнения замаскированных токенов и может служить основой для задач обработки языков Африки, включая распознавание именованных сущностей. В README приведены результаты оценки на MasakhaNER для ряда языков. Модель содержит 305,2 млн параметров, принимает текст и рассчитана на контекст до 514 токенов. Она обучена для 17 африканских языков, включая африкаанс, амхарский, хауса, игбо, малагасийский, чичева, оромо, Naija, киньяруанда, кирунди, шона, сомали, сесото, суахили, коса, йоруба и зулу; также поддерживает арабский, французский и английский. Репозиторий содержит веса PyTorch и safetensors. Лицензия — MIT.

10K8апр. 2022ctx514
textmithugging-face
ckiplab
albert-base-chinese-ws

ckiplab/albert-base-chinese-ws — модель на архитектуре ALBERT для разметки токенов традиционного китайского текста. Её предоставляет CKIP; карточка проекта описывает семейство моделей и инструменты для сегментации слов, разметки частей речи и распознавания именованных сущностей, а метаданные этой модели указывают задачу token-classification и класс AlbertForTokenClassification. Модель предназначена для сегментации китайского текста на слова и других задач последовательной разметки. В репозитории указаны веса PyTorch, 129,5 млн параметров и контекст до 512 токенов; для токенизации README рекомендует BertTokenizerFast. Лицензия — GPL-3.0.

1.5K1март 2022ctx512
textgpl-3.0hugging-face
csebuetnlp
banglabert

BanglaBERT — предварительно обученный дискриминатор ELECTRA, разработанный командой CSE BUET для обработки текста на бенгальском языке. Модель содержит 137,8 млн параметров, использует цель обучения Replaced Token Detection (RTD) и принимает последовательности длиной до 512 токенов. Репозиторий содержит веса PyTorch. Чекпойнт предназначен прежде всего для дообучения под задачи классификации тональности, распознавания именованных сущностей, вывода на естественном языке и ответов на вопросы. Прикладные модели на его основе показывали высокие результаты на ряде бенгальских NLP-задач. Для лучших результатов текст нужно нормализовать тем же конвейером, который использовался при предобучении; после этого модельные представления можно применять в задачах классификации и разметки. Лицензия в предоставленных данных не указана.

48K44март 2022ctx512
texthugging-face
pruas
BENT-PubMedBERT-NER-Cell-Line

Модель pruас/BENT-PubMedBERT-NER-Cell-Line — модель распознавания именованных сущностей, дообученная авторами на базе PubMedBERT для выделения упоминаний клеточных линий в биомедицинских текстах. Для обучения использованы наборы CellFinder и JNLPBA с метками CellLine и cell_line. Это BERT-модель для классификации токенов с 136,7 млн параметров и контекстом до 512 токенов. Она принимает английский текст и выдаёт метки для токенов, обозначающих клеточные линии. Репозиторий содержит веса PyTorch. Модель подходит для извлечения названий клеточных линий из публикаций и других биомедицинских документов. Карточка ссылается на работу NILINKER. Сведения о лицензии в предоставленных данных отсутствуют.

1412янв. 2023ctx512
texthugging-face
pruas
BENT-PubMedBERT-NER-Chemical

pruas/BENT-PubMedBERT-NER-Chemical — англоязычная модель Pedro Ruas и Francisco M. Couto для распознавания химических сущностей в биомедицинских текстах. Это PubMedBERT, дообученная для разметки токенов; в обучении использованы датасеты по химическим веществам, лекарствам и соединениям, включая CHEMDNER, BC5CDR, DDI и NLM-CHEM. Модель подходит для извлечения названий химических веществ из научных публикаций и других биомедицинских документов, а также для подготовки текстов к последующему поиску и анализу сущностей. Она построена на архитектуре BERT, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Репозиторий содержит веса PyTorch; модель распространяется по лицензии Apache-2.0.

1628янв. 2023ctx512
textapache-2.0hugging-face
Adapting
bert-base-chinese-finetuned-NER-biomedical

Adapting/bert-base-chinese-finetuned-NER-biomedical — модель BERT-base для китайского языка, дообученная для распознавания именованных сущностей в биомедицинских текстах на наборе Adapting/chinese_biomedical_NER_dataset. Она выполняет токенную классификацию: принимает текст и относит его фрагменты к классам сущностей. Модель содержит 129,5 млн параметров, использует архитектуру BertForTokenClassification и поддерживает контекст до 512 токенов. Модель предназначена для извлечения биомедицинских сущностей из китайских текстов, например для последующего поиска и структурирования упоминаний в корпусах. Доступна в формате PyTorch. Сведения о лицензии и конкретной схеме классов сущностей в предоставленных данных отсутствуют.

356сент. 2022ctx512
texthugging-face
iioSnail
bert-base-chinese-medical-ner

iioSnail/bert-base-chinese-medical-ner — модель распознавания именованных сущностей в китайских медицинских текстах, созданная на основе BERT и предназначенная для токенной классификации. Она присваивает токенам метки B/I/E для начала, продолжения и конца сущности, а также O для токенов вне сущностей; результат можно преобразовать в упорядоченные медицинские сущности с помощью MedicalNerModel.format_outputs. Модель содержит 129,5 млн параметров, работает с текстом и имеет контекст длиной до 512 токенов. Карточка указывает китайский язык и медицинскую область. Репозиторий предоставляет веса PyTorch; лицензия — AFL-3.0.

8317июнь 2023ctx512
textafl-3.0hugging-face

Задачи профессии

18 задач
37Извлечение имён, организаций, мест, дат, сумм, идентификаторов и других сущностей. — AI разбирает неструктурированный источник на элементы и связывает каждое извлечённое значение с местом его происхождения. К исходным данным относятся журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: структурированные данные, полученные в рамках «Извлечение имён, организаций, мест, дат, сумм, идентификаторов и других сущностей», с нормализованными значениями и ссылками на исходные фрагменты. Надёжность оценивают посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
38Извлечение отношений между сущностями. — Для этой задачи система выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. Рабочие входы: сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: структурированные данные, полученные в рамках «Извлечение отношений между сущностями», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
39Извлечение событий, их участников, времени, места и результата. — Практическая реализация: AI находит нужные фрагменты в исходном материале, распознаёт их роль и переносит в заданные структурированные поля. Входной контекст включает разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: структурированные данные, полученные в рамках «Извлечение событий, их участников, времени, места и результата», с нормализованными значениями и ссылками на исходные фрагменты. Ошибки выявляют посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
40Извлечение обязательств, требований, условий, исключений и сроков. — Механизм: AI разбирает неструктурированный источник на элементы и связывает каждое извлечённое значение с местом его происхождения. Исходные данные: неструктурированный текст, таблицы, журналы и сообщения. Формат результата: структурированные данные, полученные в рамках «Извлечение обязательств, требований, условий, исключений и сроков», с нормализованными значениями и ссылками на исходные фрагменты. Проверка: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
41Извлечение числовых показателей и единиц измерения. — AI выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. К исходным данным относятся таблицы, журналы, сообщения и разнородные записи. Формат результата: структурированные данные, полученные в рамках «Извлечение числовых показателей и единиц измерения», с нормализованными значениями и ссылками на исходные фрагменты. Надёжность оценивают посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
42Извлечение таблиц, списков и иерархий из неструктурированного контента. — Для этой задачи система находит нужные фрагменты в исходном материале, распознаёт их роль и переносит в заданные структурированные поля. Предметная логика: восстанавливает визуальную и логическую структуру, связывая ячейки, заголовки и подписи. Рабочие входы: геометрия страницы, журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: структурированные данные, полученные в рамках «Извлечение таблиц, списков и иерархий из неструктурированного контента», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
43Преобразование свободного текста в JSON, XML, CSV или другую заданную схему. — Практическая реализация: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Входной контекст включает сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: преобразованный материал по задаче «Преобразование свободного текста в JSON, XML, CSV или другую заданную схему» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
44Нормализация дат, адресов, телефонов, валют и единиц измерения. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Исходные данные: разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: преобразованный материал по задаче «Нормализация дат, адресов, телефонов, валют и единиц измерения» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
45Сопоставление разных написаний одной и той же сущности. — AI нормализует сравниваемые объекты, выравнивает их по общим признакам и показывает совпадения, различия и связи. К исходным данным относятся неструктурированный текст, таблицы, журналы и сообщения. Формат результата: карта соответствий и различий для «Сопоставление разных написаний одной и той же сущности», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
46Разрешение неоднозначных упоминаний и местоименных ссылок. — Для этой задачи система строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Рабочие входы: таблицы, журналы, сообщения и разнородные записи. Формат результата: карта соответствий и различий для «Разрешение неоднозначных упоминаний и местоименных ссылок», где элементы приведены к единым критериям и связаны с первичными данными. Критерии приёмки: экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
47Автоматическое присвоение метаданных, тегов и ключевых слов. — Практическая реализация: AI строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Входной контекст включает журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: результат «Автоматическое присвоение метаданных, тегов и ключевых слов» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
48Построение таксономии по коллекции материалов. — Механизм: AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. Исходные данные: сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: вычислительная модель или карта для «Построение таксономии по коллекции материалов» с результатами сценариев и анализом чувствительности. Проверка: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
49Построение онтологии или графа знаний. — AI восстанавливает скрытые связи между параметрами и использует модель для виртуальных экспериментов. К исходным данным относятся разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: вычислительная модель или карта для «Построение онтологии или графа знаний» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
50Выделение тем и под-тем в больших массивах текста. — Для этой задачи система выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. Рабочие входы: неструктурированный текст, таблицы, журналы и сообщения. Формат результата: структурированные данные, полученные в рамках «Выделение тем и под-тем в больших массивах текста», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
51Кластеризация материалов по смысловой близости. — Практическая реализация: AI извлекает признаки, относит каждый объект к подходящей категории или уровню приоритета и оценивает уверенность. Предметная логика: сопоставляет не только одинаковые слова, но и намерение, контекст и близкие понятия. Входной контекст включает текст запроса, таблицы, журналы, сообщения и разнородные записи. Формат результата: результат «Кластеризация материалов по смысловой близости» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
52Обнаружение точных и смысловых дублей. — Механизм: AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Предметная логика: сопоставляет не только одинаковые слова, но и намерение, контекст и близкие понятия. Исходные данные: текст запроса, журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение точных и смысловых дублей», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
53Сопоставление полей между несовместимыми схемами данных. — AI сопоставляет объекты по одинаковым критериям и отделяет содержательные различия от различий формата или терминологии. К исходным данным относятся сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: карта соответствий и различий для «Сопоставление полей между несовместимыми схемами данных», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
54Восстановление недостающей структуры у плохо оформленных данных. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Рабочие входы: разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: преобразованный материал по задаче «Восстановление недостающей структуры у плохо оформленных данных» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику. <a id="section-i-4"></a>

0 моделей