/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,2 млрд
Размер весов
15 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Библиотека
transformers
Опубликована
17 апр 2024

Taiwan-inquiry_7B_v2.1

Генерация текстаТекст → текст3 профессии

Диалоговая модель на основе Mistral, дообученная для симуляции бесед врача и пациента на традиционном китайском языке.

31скачиваний за 30 дней1лайквеса обновлены5 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Taiwan-inquiry_7B_v2.1 — диалоговая языковая модель, разработанная Джозефом (Чен-Вэй) Ли, ассистентом-исследователем Национальной университетской больницы Тайваня. Это плотная авторегрессионная модель семейства Mistral с 7,2 млрд параметров и контекстом до 32 768 токенов, дообученная на Breeze-7B-Instruct-v1_0. Репозиторий содержит веса в формате safetensors; для модели также выпускались варианты AWQ и GGUF.

Модель предназначена для имитации беседы врача и пациента в больничной обстановке: можно задать ей роль пациента и его краткую предысторию, а также обсуждать симптомы и возможные методы лечения. Обучение включало 614 реальных диалогов из Национальной университетской больницы Чэн-Кун и 336 синтетических диалогов по темам примеров экзамена OSCE на Тайване. Основной язык — традиционный китайский (zh-TW). Автор приводит результат 40,29 по TMMLU+ в режиме zero-shot.

Модель подходит для учебных симуляций и исследовательских экспериментов с медицинским диалогом, но ответы о симптомах и лечении не являются медицинской консультацией. Лицензия — Apache-2.0.

Сценарии применения

  • симуляция беседы врача с пациентом в больнице
  • тренировка медицинского опроса пациента
  • учебная практика диалогов по сценариям OSCE на Тайване
  • обсуждение симптомов и возможных методов лечения на традиционном китайском

Ограничения

Модель не предназначена для предоставления медицинских рекомендаций; её ответы о симптомах и лечении требуют проверки специалистом. Обучающие диалоги ориентированы на больничную среду и медицинские сценарии Тайваня.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🔎 Taiwan-inquiry_7B_v_2.1

"The model was fine-tuned based on the Breeze-7B-Instruct-v1_0 model using a dataset that includes 614 authentic dialogues from the National Cheng Kung University Hospital. Additionally, 336 synthetic dialogues were included in the training set, carefully crafted to encompass themes drawn from sample questions of the OSCE (臨床技能測驗) sample questions in Taiwan. These synthetic dialogues were generated using GPT-3.5, Gemini-Pro and Breexe-8x7B-Instruct-v0_1. The training process was geared towards simulating verbal exchanges between doctors and patients within a hospital environment."

**************************** Updates ****************************

Model Description

  • Developed by: Joseph (Chen-Wei) Li, researcher assistant from National Taiwan University Hospital.
  • Model type: A 7B parameter GPT-like model fine-tuned on a combination of private and synthetic dialogue datasets.
  • Language(s) (NLP): Traditional Chinese (zh-tw)
  • Finetuned from model : Breeze-7B-Instruct-v1_0

Usage of the model

  • The user can take on the role of a doctor, and the model can engage in conversation with you as if it were a patient.
  • You can provide the model with a brief patient background in the system prompt, and the model will respond based on that prompt. (using my patient generator: colab)
  • Directly asking the certain disease about the symptoms and the possible therapies.(Warning: It's not medical advice!)

Model evaluation

The model got the TMMLU+ (0 shot) performance using EleutherAI/lm-evaluation-harness with default settings.

Details on TMMLU+ (0 shot):ModelBase ModelSTEMSocial ScienceHumanitiesOtherAVG
Taiwan-inquiry_7B_v2.1Breeze-7B-Instruct-v1_036.0644.6137.4939.6140.29
Taiwan-inquiry_7B_v2.0Breeze-7B-Instruct-v0_136.1743.5935.4537.6338.95
Taiwan-inquiry_7B_v1.0Taiwan-LLM-7B-v2.1-chat26.7429.4726.8329.6128.83

DEMO

  • User: doctor
  • Chatbot: patient image/png image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
8170ac1

0 моделей