Характеристики

Контекст: 512 токенов
Параметры: 136 млн
Архитектура: bert · dense
Опубликована: 22 авг 2022

Ссылки

Hugging Face

biobert-finetuned-ner

siddharthtumre

Разметка токеновТекст → label3 профессии

BioBERT, дообученный на JNLPBA для выделения биомедицинских сущностей в тексте.

43 212скачиваний за 30 дней1лайквеса обновлены22 авг 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

siddharthtumre/biobert-finetuned-ner — модель на базе BioBERT, дообученная для распознавания именованных сущностей в биомедицинских текстах. Использует архитектуру BERT для классификации токенов, содержит 135,5 млн параметров и обрабатывает контекст длиной до 512 токенов.

Модель обучена на наборе JNLPBA. На приведённой в карточке оценочной выборке она достигла F1 0,7056, точности 0,6551, полноты 0,7646 и accuracy 0,9108. Её можно применять для извлечения биомедицинских сущностей из научных текстов. В README не приведены подробности о категориях сущностей и практических ограничениях; лицензия в доступных данных не указана.

Сценарии применения

извлечение биомедицинских сущностей из научных статей
разметка токенов в биомедицинских текстах
подготовка сущностей для поиска по медицинской литературе

Ограничения

На оценочной выборке F1 составляет 0,7056; качество может зависеть от текста и набора категорий сущностей. README не приводит дополнительных ограничений или сведений о лицензии.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель IV.6Отраслевые задачиНаучные исследования, математика и новые материалыAI помогает формировать гипотезы, анализировать научные данные и ускорять открытие новых материалов и методов.39 задач4 120моделей IV.4Отраслевые задачиКлиническая медицина и общественное здоровьеAI помогает поддерживать диагностику, лечение, наблюдение и организацию медицинской помощи.45 задач2 635моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

biobert-finetuned-ner

This model is a fine-tuned version of dmis-lab/biobert-base-cased-v1.2 on the jnlpba dataset. It achieves the following results on the evaluation set:

Loss: 0.5113
Precision: 0.6551
Recall: 0.7646
F1: 0.7056
Accuracy: 0.9108

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 5

Training results

Training Loss	Epoch	Step	Validation Loss	Precision	Recall	F1	Accuracy
0.1815	1.0	2319	0.2706	0.6538	0.7704	0.7073	0.9160
0.1226	2.0	4638	0.3230	0.6524	0.7675	0.7053	0.9118
0.0813	3.0	6957	0.3974	0.6483	0.7611	0.7002	0.9101
0.0521	4.0	9276	0.4529	0.6575	0.7652	0.7073	0.9121
0.0356	5.0	11595	0.5113	0.6551	0.7646	0.7056	0.9108

Framework versions

Transformers 4.21.1
Pytorch 1.12.1+cu113
Datasets 2.4.0
Tokenizers 0.12.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForTokenClassification
Ревизия весов: 84dddb1