/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Опубликована
14 янв 2023

BENT-PubMedBERT-NER-Gene

Разметка токеновТекст → label3 профессии

Модель на основе PubMedBERT выделяет гены, белки и связанные биомедицинские сущности в научных текстах.

741скачиваний за 30 дней14лайковвеса обновлены2 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

pruas/BENT-PubMedBERT-NER-Gene — модель распознавания именованных сущностей в биомедицинских текстах, разработанная Pedro Ruas и Francisco M. Couto. Она дообучена на PubMedBERT для выделения упоминаний генов и белков; обучающие корпуса также охватывают DNA, RNA, белковые комплексы, ферменты и родственные категории.

Модель использует архитектуру BERT с классификационной головой для разметки токенов, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Она предназначена для извлечения биомедицинских сущностей из англоязычных научных текстов, включая статьи и материалы по геномике и молекулярной биологии. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0.

Распознавание зависит от формулировок и типов сущностей, представленных в обучающих корпусах; README не сообщает метрики качества или ограничения по конкретным типам документов.

Сценарии применения

  • извлечение названий генов из статей PubMed
  • распознавание упоминаний белков и ферментов в научных публикациях
  • разметка DNA- и RNA-сущностей в биомедицинских текстах
  • подготовка биомедицинских текстов для анализа связей между сущностями

Ограничения

Модель ориентирована на категории сущностей, представленные в перечисленных биомедицинских корпусах. В README не приведены метрики качества.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Named Entity Recognition (NER) model to recognize gene and protein entities.

Please cite our work:

@article{NILNKER2022,
  title = {NILINKER: Attention-based approach to NIL Entity Linking},
  journal = {Journal of Biomedical Informatics},
  volume = {132},
  pages = {104137},
  year = {2022},
  issn = {1532-0464},
  doi = {https://doi.org/10.1016/j.jbi.2022.104137},
  url = {https://www.sciencedirect.com/science/article/pii/S1532046422001526},
  author = {Pedro Ruas and Francisco M. Couto},
}

PubMedBERT fine-tuned on the following datasets:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
cec1a07

0 моделей