/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Лицензия
Apache 2.0
Архитектура
roberta · dense

ner-chemical-bionlp-bc5cdr-pubmed

Разметка токеновТекст → label3 профессии

Модель RoBERTa для выделения упоминаний химических веществ в биомедицинских текстах на английском языке.

622скачиваний за 30 дней5лайковвеса обновлены16 ноя 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель raynardj/ner-chemical-bionlp-bc5cdr-pubmed — модель на базе RoBERTa для распознавания химических веществ в биомедицинских текстах. По карточке, её дообучили на наборах BioNLP и BC4CDR, используя PubMed-предобученную RoBERTa; размер составляет 151,8 млн параметров, контекст — 514 токенов.

Модель выполняет маркировку токенов и выделяет упоминания химических веществ. Карточка также предлагает проверять её на упоминаниях генов и их продуктов, а также заболеваний, однако описанная схема меток содержит только классы O и Chemical, поэтому распознавание этих сущностей не подтверждено. Поддерживается английский язык.

Модель распространяется в формате PyTorch по лицензии Apache-2.0. Ограничение контекста составляет 514 токенов; схема меток ориентирована на химические вещества и не включает отдельные классы для генов, продуктов генов или заболеваний.

Сценарии применения

  • поиск названий химических веществ в биомедицинских статьях
  • извлечение упоминаний химических веществ из текстов PubMed
  • разметка токенов для биомедицинского корпуса
  • подготовка упоминаний химических веществ для последующего анализа

Ограничения

Схема меток содержит только O и Chemical, поэтому распознавание генов, продуктов генов и заболеваний не подтверждено. Максимальная длина контекста составляет 514 токенов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

NER to find Gene & Gene products

The model was trained on bionlp and bc4cdr dataset, pretrained on this pubmed-pretrained roberta model All the labels, the possible token classes.

{"label2id":
  {
    "O": 0,
    "Chemical": 1,
  }
 }

Notice, we removed the 'B-','I-' etc from data label.🗡

This is the template we suggest for using the model

Of course I'm well aware of the aggregation_strategy arguments offered by hf, but by the way of training, I discard any entropy loss for appending subwords, like only the label for the 1st subword token is not -100, after many search effort, I can't find a way to achieve that with default pipeline, hence I fancy an inference class myself.

!pip install forgebox
from forgebox.hf.train import NERInference
ner = NERInference.from_pretrained("raynardj/ner-chemical-bionlp-bc5cdr-pubmed")
a_df = ner.predict(["text1", "text2"])

check our NER model on

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForTokenClassification
Ревизия весов
30dd3ed

0 моделей