/ Модель

Характеристики

Контекст
514 токенов
Параметры
305 млн
Лицензия
CC BY-NC-SA 4.0
Архитектура
xlm-roberta · dense
Опубликована
28 июл 2023

ClinicalNER

Разметка токеновТекст → label3 профессии

Многоязычная модель Posos для извлечения названий препаратов и параметров их приёма из клинического текста.

105скачиваний за 30 дней12лайковвеса обновлены3 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Posos/ClinicalNER — многоязычная модель распознавания клинических сущностей, разработанная Posos на основе XLM-R Base, дообученного на англоязычном наборе n2c2. Она выделяет в медицинском тексте названия препаратов, дозировку, концентрацию, частоту и длительность приёма, а также лекарственную форму. Модель предназначена для извлечения сведений о назначениях из клинических записей и показала лучшие результаты на французском тестовом наборе MedNERF в режиме межъязыкового переноса без дообучения на французском.

Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa и принимает текстовые последовательности длиной до 514 токенов. В README приведены результаты на MedNERF: micro-F1 0,804 и macro-F1 0,819. Лицензия CC BY-NC-SA 4.0 допускает использование с указанием авторства, но запрещает коммерческое применение и требует распространения производных материалов на тех же условиях.

Сценарии применения

  • извлечение названий лекарств из клинических записей
  • распознавание дозировки и концентрации препаратов
  • извлечение частоты и длительности приёма лекарств
  • определение лекарственной формы в медицинском тексте

Ограничения

Обучение выполнено на английском наборе n2c2; для французского показано качество в режиме межъязыкового переноса, но сопоставимые результаты для остальных языков не приведены. Лицензия запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ClinicalNER

Model Description

This is a multilingual clinical NER model extracting DRUG, STRENGTH, FREQUENCY, DURATION, DOSAGE and FORM entities from a medical text.

It consist of XLM-R Base fine-tuned on n2c2 (English). It is the model that obtains the best results on our French evaluation test set MedNERF in a zero-shot cross-lingual transfer setting.

Evaluation Metrics on MedNERF dataset

  • Loss: 0.692
  • Accuracy: 0.859
  • Precision: 0.817
  • Recall: 0.791
  • micro-F1: 0.804
  • macro-F1: 0.819

Usage

from transformers import AutoModelForTokenClassification, AutoTokenizer

model = AutoModelForTokenClassification.from_pretrained("Posos/ClinicalNER")
tokenizer = AutoTokenizer.from_pretrained("Posos/ClinicalNER")

inputs = tokenizer("Take 2 pills every morning", return_tensors="pt")
outputs = model(**inputs)

Citation information

@inproceedings{mednerf,
    title = "Multilingual Clinical NER: Translation or Cross-lingual Transfer?",
    author = "Gaschi, Félix and Fontaine, Xavier and Rastin, Parisa and Toussaint, Yannick",
    booktitle = "Proceedings of the 5th Clinical Natural Language Processing Workshop",
    publisher = "Association for Computational Linguistics",
    year = "2023"
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForTokenClassification
Ревизия весов
ab0f578

0 моделей