/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Архитектура
llama · dense
Опубликована
17 окт 2023

Thespis-13b-v0.3

Генерация текстаТекст → текст3 профессии

Thespis-13b-v0.3 — дообученная модель LLaMA для многоходовых ролевых диалогов в чат-формате.

29скачиваний за 30 дней4лайкавеса обновлены23 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Thespis-13b-v0.3 — личный проект автора cgato: чат-модель для многоходовых ролевых диалогов, включая SFW- и NSFW-сценарии. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров и контекстом 4096 токенов.

Модель ориентирована на ролевую переписку в интернет-стиле: действия оформляются звёздочками, реплики — без кавычек. README сообщает о дообучении на примерах из Claude Multiround Chat 30k, Pippa Dataset, Puffin Dataset и вручную отобранных диалогах с персонажами. Поддерживается стандартный чат-шаблон, в том числе использование с Ooba и SillyTavern.

Автор указывает, что версия устарела и рекомендует Thespis v0.4. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Сценарии применения

  • ведение многоходовой ролевой переписки
  • отыгрыш персонажа в SillyTavern
  • генерация диалогов с оформлением действий звёздочками
  • создание SFW-сценариев ролевого общения
  • создание NSFW-сценариев ролевого общения

Ограничения

Автор считает версию устаревшей и рекомендует использовать Thespis v0.4. Модель настроена на определённый стиль ролевой переписки; сведения о лицензии в предоставленных данных отсутствуют.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is outdated, please use the much better v0.4 -> https://huggingface.co/cgato/Thespis-13b-v0.4

This model is a personal project. It uses a vanilla chat template and is focused on providing multiturn sfw and nsfw RP experience.

This model works best with internet style RP using standard markup with asterisks surrounding actions and no quotes around dialogue.

It uses the following data:

  • 3000 samples from Claude Multiround Chat 30k dataset
  • 6000 samples from Pippa Dataset
  • 3000 samples from Puffin Dataset
  • 3800 samples of hand curated RP conversation with various characters.

Works with standard chat format for Ooba or SillyTavern.

Prompt Format: Chat

{System Prompt}

Username: {Input}
BotName: {Response}
Username: {Input}
BotName: {Response}

Turn Template (for Ooba): You can either bake usernames into the prompt directly for ease of use or programatically add them if running through the API to use as a chatbot.

<|user|>{Username}: <|user-message|>\n<|bot|>{BotName}: <|bot-message|>\n

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
e4fae9e

0 моделей