/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
28,4 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
mistral · dense
Библиотека
transformers
Опубликована
20 июн 2024

PetrolWriter-7B

Генерация текстаТекст → текст3 профессии

Дообученная на Mistral-7B англоязычная модель для творческого письма, рассказов, чата и ролевых диалогов.

18скачиваний за 30 дней3лайкавеса обновлены20 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PetrolWriter — языковая модель Norquinal для творческого письма, рассказов, чата и ролевых диалогов. Это дообученная на базе Mistral-7B плотная авторегрессионная модель с 7,1 млрд параметров и контекстом до 32 768 токенов; она доступна в формате safetensors и работает с библиотекой Transformers. Модель понимает формат подсказок Pygmalion-2/Metharme и может использоваться как для диалога, так и для обычного продолжения текста.

Модель ориентирована на генерацию англоязычной прозы и ролевое взаимодействие без выравнивания поведения. Разработчик предупреждает, что ответы могут содержать небезопасный или вредоносный контент. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

Сценарии применения

  • написание художественных рассказов
  • продолжение черновика или сюжетной сцены
  • создание фэнтезийных и приключенческих историй
  • ролевые диалоги с персонажами
  • чат в формате Pygmalion-2/Metharme

Ограничения

Модель не выровнена по безопасности и может генерировать небезопасный или вредоносный контент. Лицензия CC BY-NC 4.0 ограничивает использование некоммерческими целями.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

PetrolWriter

PetrolWriter is a model finetuned for creative writing and story-telling. It is a model fine-tuned from Mistral-7B.

This model is primarily focused on chat and roleplay without any alignment. As such, it may output content that can be considered "unsafe" or "harmful." Please use the model responsibly and to your best judgement.

Prompt Format

This model uses the Pygmalion-2/Metharme prompt format. The model has been trained on prompts using three different roles, which are denoted by the following tokens: <|system|>, <|user|> and <|model|>.

The <|system|> prompt can be used to inject out-of-channel information behind the scenes, while the <|user|> prompt should be used to indicate user input. The <|model|> token should then be used to indicate that the model should generate a response. These tokens can happen multiple times and be chained up to form a conversation history.

The model does not need to be prompted in this manner and can instead be used as a pure text completions model. It was trained to understand both methods of prompting.

Example Usage

<|system|>A chat between a curious user and an artificial intelligence assistant. The assistant gives helpful, detailed, and polite answers to the user's questions.<|user|>Write a story of enormous length that incorporates the following tags: consensual, fantasy, adventure, magic, romance.<|model|>[The Huntress] "I told you, we don't kill them." The elf woman spoke with firm resolve, her bow held at the ready, arrows nocked and quiver full. Her companions, a dwarf armed with a great axe and a human bearing a long sword backed her up. They were surrounded by a forest filled with towering trees, lush vegetation, and sunlight filtering...

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
db6a8e7

0 моделей