/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Архитектура
bert · dense

PubMedBERT-QNLI

Классификация текстаТекст → label6 профессий

BERT-модель на основе PubMedBERT определяет, содержится ли ответ на вопрос в заданном тексте.

28скачиваний за 30 дней8лайковвеса обновлены26 авг 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PubMedBERT-QNLI — модель на базе BERT, дообученная на задаче QNLI для проверки того, следует ли ответ на вопрос из заданного контекста. Её можно применять для поиска по документам: модель получает вопрос и текст документа и определяет, содержит ли он ответ. Метки результата: entailment и not entailment.

Модель содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и принимает пары текстов в формате вопроса и контекста. Максимальная длина контекста — 512 токенов. Основа — PubMedBERT, предварительно обученный на биомедицинских текстах; модель предназначена для задач на медицинских и научных документах. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Сценарии применения

  • поиск ответа на вопрос в тексте медицинской статьи
  • проверка, отвечает ли абзац на заданный вопрос
  • поиск релевантных фрагментов в научных документах
  • фильтрация документов по наличию ответа на запрос

Ограничения

Максимальная длина входа составляет 512 токенов, поэтому длинные документы потребуется разбивать на фрагменты. Качество на текстах вне биомедицинской области не подтверждено предоставленными данными.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

PubMedBERT Abstract + Full Text Fine-Tuned on QNLI Task

Use case: You can use it to search through a document for a given question, to see if your question is answered in that document.

LABEL0 is "not entailment" meaning your question is not answered by the context and LABEL1 is "entailment" meaning your question is answered.

Example input: [CLS] Your question [SEP] The context to be searched in [SEP]

Link to the original model: https://huggingface.co/microsoft/BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext

Credits to the paper:

@misc{pubmedbert, author = {Yu Gu and Robert Tinn and Hao Cheng and Michael Lucas and Naoto Usuyama and Xiaodong Liu and Tristan Naumann and Jianfeng Gao and Hoifung Poon}, title = {Domain-Specific Language Model Pretraining for Biomedical Natural Language Processing}, year = {2020}, eprint = {arXiv:2007.15779}, }

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
8bd833a

0 моделей