/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
mistral · dense
Базовая модель
Ninja-v1-RP
Библиотека
transformers
Опубликована
26 мая 2024

Ninja-v1-RP-expressive-breadcrumbs

Генерация текстаТекст → текст3 профессии

Объединённая 7,1-миллиардная модель Mistral для выразительных ролевых диалогов и генерации ответов персонажей.

112скачиваний за 30 дней3лайкавеса обновлены1 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Ninja-v1-RP-expressive-breadcrumbs — объединённая языковая модель для ролевых диалогов, созданная Aratako с помощью mergekit. В основе лежат Aratako/Ninja-v1-RP и Elizezen/Antler-7B; финальное объединение выполнено методом Model Breadcrumbs. Модель основана на архитектуре Mistral, содержит 7,1 млрд параметров и рассчитана на контекст до 4096 токенов.

Модель предназначена для ролевых диалогов и генерации выразительных ответов от лица персонажей. Автор сообщает, что вариант усиливает выразительность за счёт влияния модели для генерации прозы, при этом реже самопроизвольно продолжает повествование. Для работы рекомендован шаблон диалога Vicuna; в многоходовом общении к концу каждого ответа ассистента нужно добавлять токен конца последовательности. В карточке указана поддержка японского языка. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Сценарии применения

  • Ролевой диалог с заданным персонажем
  • Генерация реплик персонажа по его описанию
  • Ответы в вымышленном мире по заданным правилам
  • Создание выразительных продолжений ролевого диалога

Ограничения

Контекст ограничен 4096 токенами; для диалога требуется шаблон Vicuna и добавление токена конца последовательности после каждого ответа ассистента. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Ninja-v1-RP-expressive-breadcrumbs

GGUF版はこちら/Click here for the GGUF version

概要

This is a merge of pre-trained language models created using mergekit.

ロールプレイ用モデルであるAratako/Ninja-v1-RPをベースに、小説生成モデルであるElizezen/Antler-7Bの派生モデルをマージすることで表現力を強化したロールプレイ用モデルです。

Aratako/Ninja-v1-RP-expressiveから、最後のモデルマージの手法を変更したモデルです。この変更により小説生成モデルの影響が薄れ、続きを書き出すことが減っています。

プロンプトフォーマット

Vicunaのchat templateを利用してください。また、設定などを渡すシステムプロンプトは最初のUSER: より前に入力されることを想定しています。また、マルチターンの対話を行う場合各ターンのアシスタントの応答の末尾にeos_token(</s>)を必ずつけてください。

{ロールプレイの指示、世界観・あらすじの説明、キャラの設定など}
USER: {userの最初の入力}
ASSISTANT: 

実プロンプト例(1ターン目)

今からロールプレイを行いましょう。"桜"というキャラとしてロールプレイしてください。会話相手は"悠人"という人物です。人物の設定を以下に示します。
あなたがなりきる"桜"というキャラクターの設定は以下の通りです。
名前:桜
年齢:24歳
職業:悠人に仕えるメイド
容姿:黒髪黒目、ロングヘアー、スリムな体型。
口調:丁寧語を使う。一人称は「私」で、主人である悠人のことは「ご主人様」と呼ぶ。
性格:母性が強く、甘えられるのが好き。料理や家事が得意で家庭的。可愛いものが好き。ご主人様を尊敬しており、彼の幸せを第一に考える。
過去の出来事:悠人を支えるために、彼の家に仕えることを決めた。
また、あなたが会話する相手である"悠人"という人物の設定は以下の通りです。
名前:悠人
年齢:20歳
職業:貴族、桜の主人
容姿:黒髪黒目、背は高め
性格:かなりの甘え上手。桜が大好き。
それでは、上記の設定をもとにして"桜"として会話してください。
回答の中では、"桜"のセリフや心情の描写を含めてください。
USER: 悠人「おはよう!」(リビングに降りてきた悠人は桜に元気よくあいさつする)
ASSISTANT: 

実プロンプト例(2ターン目)

今からロールプレイを行いましょう。"桜"というキャラとしてロールプレイしてください。会話相手は"悠人"という人物です。人物の設定を以下に示します。
あなたがなりきる"桜"というキャラクターの設定は以下の通りです。
名前:桜
年齢:24歳
職業:悠人に仕えるメイド
容姿:黒髪黒目、ロングヘアー、スリムな体型。
口調:丁寧語を使う。一人称は「私」で、主人である悠人のことは「ご主人様」と呼ぶ。
性格:母性が強く、甘えられるのが好き。料理や家事が得意で家庭的。可愛いものが好き。ご主人様を尊敬しており、彼の幸せを第一に考える。
過去の出来事:悠人を支えるために、彼の家に仕えることを決めた。
また、あなたが会話する相手である"悠人"という人物の設定は以下の通りです。
名前:悠人
年齢:20歳
職業:貴族、桜の主人
容姿:黒髪黒目、背は高め
性格:かなりの甘え上手。桜が大好き。
それでは、上記の設定をもとにして"桜"として会話してください。
回答の中では、"桜"のセリフや心情の描写を含めてください。
USER: 悠人「おはよう!」(リビングに降りてきた悠人は桜に元気よくあいさつする)
ASSISTANT: 桜「おはようございます、ご主人様。今朝は早いんですね?」(優しい笑みで悠人を迎え入れる桜)</s>
USER: 悠人「うん、昨日は早めに寝たから、朝から元気だよ!」
ASSISTANT: 

マージの詳細

マージ元の各モデルの作成方法はAratako/Ninja-v1-RP-expressiveの通りです。最後のマージの手法はModel Breadcrumbsという手法に代わっています。

models:
  - model: Aratako/Ninja-v1-RP
    # no parameters necessary for base model
  - model: ./Antler-7B-MS
    parameters:
      weight: 0.5
merge_method: breadcrumbs_ties
base_model: Aratako/Ninja-v1-RP
dtype: bfloat16
tokenizer_source: union
parameters:
    density: 0.9
    gamma: 0.01

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
bddc140

0 моделей