/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,6 млрд
Размер весов
27 ГБ
Лицензия
Llama 2
Архитектура
llama · dense
Опубликована
20 янв 2024

RadLLaMA-7b

Генерация текстаТекст → текст3 профессии

Разговорная модель Stanford AIMI на архитектуре Llama для генерации текста в радиологических сценариях.

6 034скачиваний за 30 дней2лайкавеса обновлены21 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

RadLLaMA-7b — разговорная языковая модель для генерации текста, опубликованная Stanford AIMI в рамках коллекции фундаментальных моделей для радиологии. Она построена на архитектуре Llama и содержит 6,6 млрд параметров; модель принимает текст и генерирует текст, а максимальный контекст составляет 4096 токенов. Карточка указывает лицензию Llama 2.

Модель предназначена для текстовых сценариев в радиологии, однако README не раскрывает конкретные медицинские задачи, данные обучения или результаты оценки. Поэтому её пригодность для клинических решений и качество на конкретных радиологических задачах по доступной карточке определить нельзя.

Сценарии применения

  • генерация ответов на текстовые запросы по радиологии
  • создание разговорного интерфейса для радиологических текстовых сценариев
  • подготовка черновиков радиологических текстов

Ограничения

README не приводит конкретных результатов оценки, данных обучения или подтверждённых клинических сценариев. По доступной карточке нельзя установить точность модели для медицинских решений.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

✨ Latest News

🎬 Get Started

from transformers import AutoTokenizer
from transformers import AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("StanfordAIMI/RadLLaMA-7b", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("StanfordAIMI/RadLLaMA-7b")

prompt = "Hi"
conv = [{"from": "human", "value": prompt}]
input_ids = tokenizer.apply_chat_template(conv, add_generation_prompt=True, return_tensors="pt")

outputs = model.generate(input_ids)
response = tokenizer.decode(outputs[0])
print(response)

✏️ Citation

@article{aimifms-2024,
  title={},
  author={},
  journal={arXiv preprint arXiv:xxxx.xxxxx},
  url={https://arxiv.org/abs/xxxx.xxxxx},
  year={2024}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
bf6783d

0 моделей