/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
6,6 млрд
Размер весов
27 ГБ
Лицензия
MIT
Архитектура
llama · dense
Опубликована
24 мая 2023

pygmalion-instruct

Генерация текстаТекст → текст3 профессии

Экспериментальная 6,6-миллиардная модель Llama для ролевых диалогов с инструкциями и управляемым стилем общения.

27скачиваний за 30 дней5лайковвеса обновлены24 мая 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

alpindale/pygmalion-instruct — экспериментальная текстовая модель семейства Llama, обученная на данных Pygmalion и WizardLM. Модель содержит 6,6 млрд параметров, принимает запросы в формате instruction:/output: и поддерживает контекст до 2048 токенов.

Она предназначена для ролевого общения с инструкциями: формат instruction tuning упрощает задание стиля диалога, сохраняя возможности Pygmalion для role-play. Разработчик отмечает, что применение носит экспериментальный характер.

Модель не предназначена для использования в качестве универсального ассистента или для сложных диалогов с несколькими персонажами. Она может выдавать вредоносный контент и материалы NSFW. Лицензия — MIT.

Сценарии применения

  • ролевые диалоги с заданным стилем общения
  • интерактивное общение с персонажем по инструкциям
  • эксперименты с сочетанием instruction prompting и role-play
  • генерация ответов персонажа в формате instruction/output

Ограничения

Модель экспериментальная и может давать неверные инструкции; разработчик не рекомендует использовать её как универсального ассистента или для сложных диалогов с несколькими персонажами. Возможна генерация вредоносного контента и NSFW-материалов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Details

Experimental model. Trained with the Pygmalion and the WizardLM datasets.

The purpose of this model is to enable complex Instruct prompting but with the RP capabilties of Pygmalion.

Prompting format

instruction:
output:
  • Repository: [More Information Needed]
  • Paper [optional]: [More Information Needed]
  • Demo [optional]: [More Information Needed]

Uses

The intended use-case is Role-Playing with Instruct prompts. Guiding the bot towards a certain conversation style should be easier this way. Subject to experimentation.

Out-of-Scope Use

  • Assistant Bot [subject to providing incorrect instructions]
  • Complex multi-character chat

Risks

The model can generate potentially harmful or NSFW outputs. Please use with caution.

Citation

WizardLM:

@misc{xu2023wizardlm,
      title={WizardLM: Empowering Large Language Models to Follow Complex Instructions}, 
      author={Can Xu and Qingfeng Sun and Kai Zheng and Xiubo Geng and Pu Zhao and Jiazhan Feng and Chongyang Tao and Daxin Jiang},
      year={2023},
      eprint={2304.12244},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
1665b27

0 моделей