Характеристики

Контекст: 512 токенов
Параметры: 137 млн
Архитектура: bert · dense
Опубликована: 2 дек 2022

Ссылки

Hugging Face

medBIT

IVN-RIN

Заполнение пропусковТекст → текст3 профессии

MedBIT — италоязычная модель BERT для языкового моделирования и заполнения пропусков в медицинских текстах.

125скачиваний за 30 дней2лайкавеса обновлены24 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MedBIT (Medical BERT for Italian) — италоязычный медицинский чекпойнт на архитектуре BERT, разработанный на основе BioBIT. Модель дополнительно предварительно обучена на корпусе медицинских учебников объёмом 100 МБ, написанных итальянскими авторами или профессионально переведённых на итальянский язык; материалы предназначены для формального медицинского образования и специализированной подготовки.

Модель рассчитана на работу с итальянским биомедицинским текстом. Её задача — предсказывать замаскированные фрагменты текста, что подходит для анализа контекстуальных представлений и языкового моделирования в медицинской области. Размер модели — 137,1 млн параметров, контекст — до 512 токенов. Доступны веса в форматах PyTorch и safetensors. Лицензия в предоставленных сведениях не указана.

Сценарии применения

заполнение пропущенных слов в итальянских медицинских текстах
изучение контекстуальных представлений итальянской медицинской терминологии
подготовка и анализ учебных материалов для медицинского образования на итальянском языке

Ограничения

Контекст ограничен 512 токенами. Модель предназначена для италоязычных медицинских текстов; сведений о лицензии и оценке клинической точности в доступных материалах нет.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель IV.4Отраслевые задачиКлиническая медицина и общественное здоровьеAI помогает поддерживать диагностику, лечение, наблюдение и организацию медицинской помощи.45 задач2 635моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🤗 + 📚🩺🇮🇹 + 📖🧑‍⚕️ = MedBIT

From this repository you can download the MedBIT (Medical Bert for ITalian) checkpoint.

MedBIT is built on top of BioBIT, further pretrained on a corpus of medical textbooks, either directly written by Italian authors or translated by human professional translators, used in formal medical doctors’ education and specialized training. The size of this corpus amounts to 100 MB of data. These comprehensive collections of medical concepts can impact the encoding of biomedical knowledge in language models, with the advantage of being natively available in Italian, and not being translated. More details in the paper.

Check the full paper for further details, and feel free to contact us if you have some inquiry!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForMaskedLM
Ревизия весов: b5c238b