/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
19,8 млрд
Размер весов
80 ГБ
Архитектура
llama · dense
Базовая модель
Rose-20B
Библиотека
transformers
Опубликована
7 июл 2024

Psyonic-Rose-20B-Higher-Quality

Генерация текстаТекст → текст6 профессий

20-миллиардная модель семейства Llama, созданная слиянием двух языковых моделей для генерации текста и диалогов в формате Alpaca instruct.

36скачиваний за 30 дней4лайкавеса обновлены8 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Psyonic-Rose-20B-Higher-Quality — плотная языковая модель семейства Llama с 19,8 млрд параметров, созданная слиянием через mergekit моделей DavidAU/Psyonic-Cetacean-V1-20B-Ultra-Quality-Float32 и tavtav/Rose-20B. Модель предназначена для генерации текста и диалогов в формате Alpaca instruct; контекст составляет 4096 токенов.

Модель опубликована в формате safetensors и использует точность float32 согласно описанию слияния. Она подходит для генерации ответов и ролевых диалогов, но доступные сведения не подтверждают специализацию на конкретной предметной области или языках. Лицензия в предоставленных данных не указана.

Сценарии применения

  • генерация ответов на текстовые запросы
  • ведение диалогов в формате Alpaca instruct
  • создание ролевых диалогов
  • продолжение заданного текста

Ограничения

Указанный размер контекста — 4096 токенов. Языковая специализация и лицензия в предоставленных источниках не указаны.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Speculative recreation of jebcarter Psyonic-Rose-20B (Llama2)

image/png

Thanks mradermacher for the quants!

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the linear merge method.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
  - model: DavidAU/Psyonic-Cetacean-V1-20B-Ultra-Quality-Float32
    parameters:
      weight: 1.0
  - model: tavtav/Rose-20B(fp16)
    parameters:
      weight: 0.05
merge_method: linear
dtype: float32
  • credits jebcarter
  • credits DavidAU
  • credtis tavtav
  • credits NeverSleep
  • credits CalderaAI

{{{Alpaca instruct format}}}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
f85f14e

0 моделей