/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
10,6 млрд
Размер весов
21,5 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
26 апр 2024

Myrrh_solar_10.7b_3.0

Генерация текстаТекст → текст3 профессии

Корейская модель семейства Llama на 10,6 млрд параметров, дообученная методом DPO на медицинских данных для генерации медицинских текстовых ответов.

8 599скачиваний за 30 дней3лайкавеса обновлены26 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Myrrh_solar_10.7b_3.0 — языковая модель MoAData, разработанная Taeeon Park и Gihong Lee. Это плотная авторегрессионная модель семейства Llama с 10,6 млрд параметров, предназначенная для генерации текста. В README указано, что модель обучена методом DPO на самостоятельно подготовленном наборе медицинских данных на основе набора AI-hub, поэтому она ориентирована на медицинские диалоги и ответы.

Модель принимает текст и генерирует текст; карточка указывает корейский язык. Контекст составляет 4096 токенов. Для загрузки README приводит пример с Transformers и весами Safetensors в FP16. Модель опубликована под лицензией Apache-2.0. Карточка не сообщает результаты оценки качества и конкретные ограничения применения; медицинские ответы следует проверять перед использованием.

Сценарии применения

  • ответы на медицинские вопросы на корейском языке
  • поддержка медицинских диалогов
  • генерация текста по медицинской тематике

Ограничения

Карточка не приводит оценок качества или подробных ограничений; медицинские ответы требуют проверки специалистом.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Details

Model Developers : Taeeon Park, Gihong Lee

dataset : dpo medical dataset (AI-hub dataset 활용 자체 제작)

Training Method Method : DPO.

Company : MoAData

Usage

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
repo = "MoaData/Myrrh_solar_10.7b_3.0"
model = AutoModelForCausalLM.from_pretrained(
        repo,
        return_dict=True,
        torch_dtype=torch.float16,
        device_map='auto'
)
tokenizer = AutoTokenizer.from_pretrained(repo)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
2d083f6

0 моделей