Характеристики

Контекст: 512 токенов
Параметры: 45,8 млн
Лицензия: Apache 2.0
Архитектура: t5 · dense
Базовая модель: flan-t5-small
Опубликована: 27 июл 2023

Ссылки

Hugging Face

flan-t5-small-finetune-medicine-v2

Varshitha

Языковая модель3 профессии

Небольшая дообученная на медицинскую тематику модель T5 для генерации текста и ответов на текстовые запросы.

19скачиваний за 30 дней0лайковвеса обновлены27 июл 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Varshitha/flan-t5-small-finetune-medicine-v2 — дообученная на медицинскую тематику версия google/flan-t5-small от пользователя Varshitha. Модель относится к архитектуре T5 и содержит 45,8 млн параметров; принимает текст и генерирует текст, поддерживает контекст до 512 токенов. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

Модель предназначена для генерации ответов и выполнения текстовых задач в медицинском контексте. В README приведены результаты оценки: Loss 3.0323, ROUGE-1 11.2462, ROUGE-2 4.9536, ROUGE-L 11.1634 и ROUGE-Lsum 11.0579. Описание обучения, датасет и ограничения применения в карточке не раскрыты; приведённые метрики сами по себе не подтверждают клиническую точность.

Сценарии применения

генерация ответов на медицинские вопросы
подготовка черновиков медицинских текстов
выполнение текстовых инструкций в медицинском контексте

Ограничения

В README не описаны обучающий датасет и конкретные ограничения; приведённые показатели ROUGE низкие, поэтому качество ответов следует проверять. Метрики не подтверждают пригодность для клинических решений.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.4Отраслевые задачиКлиническая медицина и общественное здоровьеAI помогает поддерживать диагностику, лечение, наблюдение и организацию медицинской помощи.45 задач2 635моделей IV.10Отраслевые задачиДом, личная жизнь, уход и повседневные задачиAI помогает помогать человеку планировать повседневные дела и безопасно управлять домашней средой.30 задач962модели IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

flan-t5-small-finetune-medicine-v2

This model is a fine-tuned version of google/flan-t5-small on the None dataset. It achieves the following results on the evaluation set:

Loss: 3.0323
Rouge1: 11.2462
Rouge2: 4.9536
Rougel: 11.1634
Rougelsum: 11.0579

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 5.6e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 2

Training results

Training Loss	Epoch	Step	Validation Loss	Rouge1	Rouge2	Rougel	Rougelsum
No log	1.0	5	3.0553	10.7238	4.9536	10.5795	10.5795
No log	2.0	10	3.0323	11.2462	4.9536	11.1634	11.0579

Framework versions

Transformers 4.31.0
Pytorch 2.0.1+cu118
Datasets 2.14.1
Tokenizers 0.13.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры: T5ForConditionalGeneration
Ревизия весов: ab5863a