/ Модель

Характеристики

Контекст
512 токенов
Параметры
205 млн
Архитектура
bert · dense
Базовая модель
rubert-base-cased
Опубликована
27 фев 2024

nerel-bio-rubert-base

Разметка токеновТекст → label3 профессии

Дообученная русскоязычная BERT-модель для классификации токенов и разметки биомедицинского текста.

89скачиваний за 30 дней0лайковвеса обновлены27 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

nerel-bio-rubert-base — русскоязычная модель BERT, разработанная на основе DeepPavlov/rubert-base-cased и дообученная для классификации токенов. Она предназначена для разметки текста по токенам, в частности для задач распознавания именованных сущностей в биомедицинских текстах, что следует из названия модели; подробности о наборе меток и данных обучения в карточке не приведены. Модель содержит 205,1 млн параметров, использует архитектуру BertForTokenClassification и принимает текст с контекстом до 512 токенов.

В README приведены результаты оценки: F1 0,7878, точность 0,7873, полнота 0,7882 и accuracy 0,8601. Эти значения относятся к указанному набору оценки, состав которого не описан. Модель основана на русскоязычном BERT, поэтому её основное назначение — обработка русскоязычных текстов. Лицензия в предоставленных данных не указана.

Сценарии применения

  • распознавание биомедицинских именованных сущностей в тексте
  • извлечение сущностей из русскоязычных медицинских публикаций
  • разметка токенов в биомедицинских корпусах

Ограничения

README не описывает обучающий набор, метки сущностей и ограничения применения; опубликованные метрики приведены без сведений о наборе оценки.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

nerel-bio-rubert-base

This model is a fine-tuned version of DeepPavlov/rubert-base-cased on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 0.6122
  • Precision: 0.7873
  • Recall: 0.7882
  • F1: 0.7878
  • Accuracy: 0.8601

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 5e-05
  • train_batch_size: 6
  • eval_batch_size: 6
  • seed: 64
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: cosine
  • lr_scheduler_warmup_ratio: 0.1
  • num_epochs: 10

Training results

Training LossEpochStepValidation LossPrecisionRecallF1Accuracy
No log1.01021.12110.61960.58090.59960.7125
No log2.02040.68000.73330.71650.72480.8137
No log3.03060.59850.74450.74880.74660.8303
No log4.04080.56730.76080.76220.76150.8402
0.79545.05100.56650.77510.77020.77260.8485
0.79546.06120.59340.78260.77420.77840.8544
0.79547.07140.58040.77950.77510.77730.8527
0.79548.08160.60750.78390.78780.78580.8577
0.79549.09180.61390.78870.78890.78880.8614
0.102410.010200.61220.78730.78820.78780.8601

Framework versions

  • Transformers 4.37.2
  • Pytorch 2.1.0+cu121
  • Datasets 2.17.1
  • Tokenizers 0.15.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForTokenClassification
Ревизия весов
a3119a7

0 моделей