WELT-PubMedBERT-BC5CDRChemical

Это специализированная модель для token classification и распознавания химических сущностей в биомедицинских текстах, в частности в корпусе BC5CDR-Chemical.

Модель основана на PubMedBERT и дообучена для biomedical named entity recognition с использованием WeLT — cost-sensitive подхода, учитывающего дисбаланс классов при обучении. Она предназначена для выделения упоминаний химических веществ и лекарственных соединений в научных публикациях и последующей обработки средствами biomedical text mining. Модель работает с текстом, а не с изображениями или аудио; точный размер, длина контекста, языковой охват и параметры архитектуры для данного репозитория в доступной карточке модели явно не указаны.

Сильная сторона модели — специализация на биомедицинской лексике и применение взвешенной функции потерь, направленное на снижение ошибок, связанных с преобладанием неименованных токенов. Ограничения включают узкую предметную область, зависимость качества от сходства входных текстов с BC5CDR и отсутствие подтверждённых данных о качестве на других корпусах. Лицензия в доступных материалах для этой модели не указана.