Характеристики

Контекст: 512 токенов
Параметры: 136 млн
Архитектура: bert · dense

Ссылки

Hugging Face

biobert-v1.1-biomedicalQuestionAnswering

Shushant

Ответы на вопросыТекст → текст3 профессии

BERT-модель, дообученная для извлечения ответов на вопросы из биомедицинских текстов.

25скачиваний за 30 дней9лайковвеса обновлены16 янв 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Shushant/biobert-v1.1-biomedicalQuestionAnswering — модель на архитектуре BERT, дообученная на базе dmis-lab/biobert-v1.1 для ответов на вопросы в биомедицинской области. Она содержит 135,5 млн параметров, принимает текстовый контекст и вопрос и извлекает ответ из контекста. Заявленная длина контекста — 512 токенов; модель доступна в формате PyTorch.

Карточка сообщает о результате на оценочной выборке: loss 2,9009, но не приводит датасет, метрики качества или подробности обучения. Модель подходит для поиска ответов в биомедицинских текстах, однако её точность и переносимость на конкретные источники по имеющимся данным оценить нельзя. Лицензия в предоставленных сведениях не указана.

Сценарии применения

поиск ответа на медицинский вопрос в научной статье
извлечение фактов из биомедицинского текста по заданному вопросу
ответы на вопросы по медицинским публикациям
поиск сведений о заболеваниях и биомедицинских темах в документе

Ограничения

Датасет обучения неизвестен, а из оценки приведено только значение loss, поэтому качество и пригодность для конкретных источников не подтверждены. Сведения о лицензии отсутствуют.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.4Отраслевые задачиКлиническая медицина и общественное здоровьеAI помогает поддерживать диагностику, лечение, наблюдение и организацию медицинской помощи.45 задач2 635моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

biobert-v1.1-biomedicalQuestionAnswering

This model is a fine-tuned version of dmis-lab/biobert-v1.1 on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 2.9009

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 5

Training results

Training Loss	Epoch	Step	Validation Loss
No log	1.0	22	3.7409
No log	2.0	44	3.1852
No log	3.0	66	3.0342
No log	4.0	88	2.9416
No log	5.0	110	2.9009

Framework versions

Transformers 4.15.0
Pytorch 1.10.0+cu111
Datasets 1.17.0
Tokenizers 0.10.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForQuestionAnswering
Ревизия весов: 194ea37