biobert-base-cased-v1.1
BioBERT-Base v1.1 — англоязычная BERT-модель для представления и анализа биомедицинских текстов.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
BioBERT-Base v1.1 — модель обработки биомедицинского текста, разработанная исследователями DMIS Lab Корейского университета. Она основана на BERT-base-Cased и дополнительно обучена на корпусе PubMed, чтобы лучше представлять научную и медицинскую лексику.
Модель используют как основу для извлечения биомедицинских сущностей, классификации отношений между ними, ответов на вопросы и построения эмбеддингов текста. Это энкодер для входного текста, а не универсальная генеративная модель; для конкретных задач обычно требуется дообучить или дополнить её соответствующей головой. Размер — 135,5 млн параметров, максимальный контекст — 512 токенов. Модель рассчитана на английский язык.
Модель опубликована в формате PyTorch. В доступных метаданных лицензия не указана; перед использованием следует проверить условия в репозитории разработчика. Ограничение контекста и узкая биомедицинская специализация делают её менее подходящей для длинных документов и обычного неспециализированного текста.
Сценарии применения
- извлечение медицинских и биомедицинских сущностей
- поиск отношений между генами, заболеваниями и химическими соединениями
- ответы на вопросы по биомедицинским публикациям после настройки под задачу
- создание эмбеддингов научных медицинских текстов
- классификация и анализ аннотаций PubMed
Ограничения
Максимальная длина входа составляет 512 токенов; для длинных документов потребуется разбиение текста. Это энкодерная базовая модель, поэтому для прикладной задачи обычно нужны дообучение и соответствующая задача-специфичная голова.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
У модели не указана задача.
- Ревизия весов
- 924f12e