/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,6 млрд
Размер весов
13,5 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
12 окт 2023

Llama2-7b-med-v1

Генерация текстаТекст → текст3 профессии

Медицинская дообученная версия Llama 2 7B для ответов на вопросы и генерации медицинского текста на английском языке.

15скачиваний за 30 дней5лайковвеса обновлены13 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

cxllin/Llama2-7b-med-v1 — медицинская языковая модель, опубликованная Коллином Хинаном и дообученная на базе Llama 2 7B. Она предназначена для ответов на медицинские вопросы и генерации медицинского текста, включая краткие изложения. Модель использует плотную трансформерную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и поддерживает контекст до 4096 токенов. Основной язык — английский; модель работает с текстом и выдаёт текст.

Среди возможных сценариев — ответы на вопросы по медицинским темам, медицинский чат-бот и извлечение информации из медицинских документов. Обучение проводилось на датасете cxllin/medinstruct объёмом 10,2 тыс. примеров, посвящённых вопросам и ответам из медицинских экзаменов. Модель распространяется по лицензии Apache-2.0. Она может воспроизводить предвзятость данных и выдавать неточную медицинскую информацию; ответы требуют проверки специалистом, и модель не предназначена для постановки окончательных диагнозов или применения в критически важных медицинских системах без строгой валидации.

Сценарии применения

  • ответы на вопросы по медицинским темам
  • суммаризация медицинских текстов
  • создание прототипа медицинского чат-бота
  • извлечение сведений из медицинской документации

Ограничения

Модель может выдавать неточную или вводящую в заблуждение медицинскую информацию, а её ответы могут отражать предвзятость обучающих данных; качество на узкоспециализированных и новых медицинских темах может быть недостаточным. Ответы следует проверять медицинскому специалисту; модель не предназначена для постановки окончательных диагнозов или использования в критически важных системах без строгой валидации.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

cxllin/Llama2-7b-med-v1

Model Details

Description

The cxllin/Llama2-7b-med-v1 model, derived from the Llama 7b model, is posited to specialize in Natural Language Processing tasks within the medical domain.

Development Details

  • Developer: Collin Heenan
  • Model Architecture: Transformer
  • Base Model: Llama-2-7b
  • Primary Language: English
  • License: apache 2.0

Model Source Links

Direct Applications

The model is presumed to be applicable for various NLP tasks within the medical domain, such as:

  • Medical text generation or summarization.
  • Question answering related to medical topics.

Downstream Applications

Potential downstream applications might encompass:

  • Healthcare chatbot development.
  • Information extraction from medical documentation.

Out-of-Scope Utilizations

  • Rendering definitive medical diagnoses or advice.
  • Employing in critical healthcare systems without stringent validation.
  • Applying in any high-stakes or legal contexts without thorough expert validation.

Bias, Risks, and Limitations

  • Biases: The model may perpetuate biases extant in the training data, influencing neutrality.
  • Risks: There exists the peril of disseminating inaccurate or misleading medical information.
  • Limitations: Expertise in highly specialized or novel medical topics may be deficient.

Recommendations for Use

Utilizers are urged to:

  • Confirm outputs via expert medical review, especially in professional contexts.
  • Employ the model judiciously, adhering to pertinent legal and ethical guidelines.
  • Maintain transparency with end-users regarding the model’s capabilities and limitations.

Getting Started with the Model

Details regarding model deployment and interaction remain to be provided.

Training Dataset

  • Dataset Source:cxllin/medinstruct
  • Size: 10.2k rows
  • Scope: Medical exam-related question-answering data.

Preprocessing Steps

Details regarding data cleaning, tokenization, and special term handling during training are not specified.


@article{jin2020disease, title={What Disease does this Patient Have? A Large-scale Open Domain Question Answering Dataset from Medical Exams}, author={Jin, Di and Pan, Eileen and Oufattole, Nassim and Weng, Wei-Hung and Fang, Hanyi and Szolovits, Peter}, journal={arXiv preprint arXiv:2009.13081}, year={2020} }

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
3cbfe18

0 моделей