Англоязычная BERT-модель, дополнительно предобученная на радиологических заключениях для заполнения пропущенных слов и работы с медицинским текстом.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
RadBERT — языковая модель семейства BERT, разработанная Stanford AIMI. Она непрерывно предобучена на радиологических заключениях с инициализацией от BioBERT и предназначена для работы с медицинским текстом, в частности для предсказания пропущенных слов в радиологических отчётах. Модель содержит 135,5 млн параметров, принимает текстовые фрагменты длиной до 512 токенов и выдаёт оценки токенов для заполнения маски. Поддерживаемый язык — английский.
Модель подходит для анализа формулировок в радиологических заключениях и построения специализированных текстовых систем на её основе. Репозиторий содержит веса PyTorch; лицензия — MIT. Карточка не описывает клиническую проверку или ограничения точности, поэтому результаты требуют оценки перед применением в медицинских процессах.
Контекст ограничен 512 токенами; карточка не сообщает о клинической проверке качества, поэтому модель не следует считать самостоятельным инструментом для принятия медицинских решений.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
RadBERT was continuously pre-trained on radiology reports from a BioBERT initialization.
@article{chambon_cook_langlotz_2022,
title={Improved fine-tuning of in-domain transformer model for inferring COVID-19 presence in multi-institutional radiology reports},
DOI={10.1007/s10278-022-00714-8}, journal={Journal of Digital Imaging},
author={Chambon, Pierre and Cook, Tessa S. and Langlotz, Curtis P.},
year={2022}
}
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…