/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Опубликована
11 янв 2023

BENT-PubMedBERT-NER-Chemical

Разметка токеновТекст → label3 профессии

Англоязычная модель PubMedBERT для выделения названий химических веществ и лекарств в биомедицинских текстах.

150скачиваний за 30 дней8лайковвеса обновлены1 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

pruas/BENT-PubMedBERT-NER-Chemical — англоязычная модель Pedro Ruas и Francisco M. Couto для распознавания химических сущностей в биомедицинских текстах. Это PubMedBERT, дообученная для разметки токенов; в обучении использованы датасеты по химическим веществам, лекарствам и соединениям, включая CHEMDNER, BC5CDR, DDI и NLM-CHEM.

Модель подходит для извлечения названий химических веществ из научных публикаций и других биомедицинских документов, а также для подготовки текстов к последующему поиску и анализу сущностей. Она построена на архитектуре BERT, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Репозиторий содержит веса PyTorch; модель распространяется по лицензии Apache-2.0.

Сценарии применения

  • извлечение названий химических веществ из научных статей
  • поиск лекарств и соединений в биомедицинских документах
  • разметка химических сущностей в корпусах текстов
  • подготовка биомедицинских текстов для анализа связей между сущностями

Ограничения

Модель рассчитана на английские тексты. Максимальная длина входной последовательности — 512 токенов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Named Entity Recognition (NER) model to recognize chemical entities.

Please cite our work:

@article{NILNKER2022,
  title = {NILINKER: Attention-based approach to NIL Entity Linking},
  journal = {Journal of Biomedical Informatics},
  volume = {132},
  pages = {104137},
  year = {2022},
  issn = {1532-0464},
  doi = {https://doi.org/10.1016/j.jbi.2022.104137},
  url = {https://www.sciencedirect.com/science/article/pii/S1532046422001526},
  author = {Pedro Ruas and Francisco M. Couto},
}

PubMedBERT fine-tuned on the following datasets:

  • Chemdner patents CEMP corpus (train, dev, test sets)
  • DDI corpus (train, dev, test sets): entity types "GROUP", "DRUG", "DRUG_N"
  • GREC Corpus (train, dev, test sets): entity type "organic_compounds"
  • MLEE (train, dev, test sets): entity type "Drug or compound"
  • NLM-CHEM (train, dev, test sets)
  • CHEMDNER (train, dev, test sets)
  • Chebi Corpus (train, dev, test sets): entity types "Metabolite", "Chemical"
  • PHAEDRA (train, dev, test sets): entity type "Pharmalogical_substance"
  • Chemprot (train, dev, test sets)
  • PGx Corpus (train, dev, test sets): entity type "Chemical"
  • BioNLP11ID (train, dev, test sets): entity type "Chemical"
  • BioNLP13CG (train, dev, test sets): entity type "Chemical"
  • BC4CHEMD (train, dev, test sets)
  • CRAFT corpus (train, dev, test sets): entity type "ChEBI"
  • BC5CDR (train, dev, test sets): entity type "Chemical"

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
65b5c4c

0 моделей