/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Архитектура
llama · dense
Опубликована
7 ноя 2023

Thespis-13b-v0.6

Генерация текстаТекст → текст3 профессии

Дообученная модель семейства LLaMA для многоходовых ролевых диалогов в форматах Ooba и SillyTavern.

34скачиваний за 30 дней6лайковвеса обновлены12 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Thespis-13b-v0.6 — персональный проект автора карточки, дообученная плотная causal language model семейства LLaMA с 12,9 млрд параметров. Она предназначена для многоходовых ролевых диалогов и рассчитана на формат чата, совместимый с Ooba и SillyTavern; автор рекомендует стиль интернет-ролевых игр с действиями, выделенными звёздочками, и репликами без кавычек. Обучающие данные включают отобранные примеры из нескольких наборов диалогов и письма, а также вручную собранные ролевые беседы с персонажами.

Модель генерирует текст и ориентирована на ролевые сценарии как с безопасным, так и со взрослым содержанием. Контекст составляет 4096 токенов. В карточке указано, что проект находится в разработке, а автор отдельно отмечает работу над качеством первых ответов. Лицензия в предоставленных данных не указана.

Сценарии применения

  • ведение многоходовой текстовой ролевой игры
  • ролевая переписка с персонажами в SillyTavern
  • создание диалогового бота с заданными именами собеседников
  • генерация ролевых сцен с описанием действий через звёздочки

Ограничения

Автор указывает, что модель находится в разработке и качество первых ответов ещё улучшается. Рекомендуемый формат подачи — стиль интернет-ролевой игры с действиями в звёздочках; контекст ограничен 4096 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

This model is a personal project. It uses a vanilla chat template and is focused on providing multiturn sfw and nsfw RP experience.

This model works best with internet style RP using standard markup with asterisks surrounding actions and no quotes around dialogue. Currently in the middle of adding new features and working on making sure initial responses are strong.

It uses the following data:

  • 2200 samples from Pure-Dove Dataset ( 90 token length or greater. )
  • 2200 samples from Claude Multiround 30k ( 90 token length or greater. )
  • 700 samples from Airoboros 3.1 ( Writing samples longer than 1500 tokens only. )
  • 900 samples from the Augmental Dataset ( 90 token length or greater )
  • 6000 samples of hand curated RP conversation with various characters.

Works with standard chat format for Ooba or SillyTavern.

Prompt Format: Chat ( The default Ooba template and Silly Tavern Template )

{System Prompt}

Username: {Input}
BotName: {Response}
Username: {Input}
BotName: {Response}

Ooba ( Set it to Chat, select a character and go. )

image/png

Silly Tavern Settings ( Default )

image/png

Turn Template (for Ooba Instruct if making a Discord bot or Some other Many to one Chat):

You can either bake usernames into the prompt directly for ease of use or programatically add them if running through the API to use as a chatbot.

User string: ( Leave empty if populating username into prompt through a script. Put in your username if its a 1 on 1 convo.) Ex. "DiscordUser1: "
Bot String: ( The bots name, followed by a colon and a space.) Ex. "Mayo: "
Context: ( Your bots system prompt, follow by a newline. )

<|user|><|user-message|>\n<|bot|><|bot-message|>\n

Examples

SFW RP

image/png

image/png

Narration Example (Trigger words "What do I see?", "Where am I?". Its still very much a work in progress.)

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
f898959

0 моделей