/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
6 дек 2023

Thespis-13b-Alpha-v0.7

Генерация текстаТекст → текст3 профессии

Экспериментальная текстовая модель на базе Llama 2 13B для многоходового общения с характером и ролевых игр.

25скачиваний за 30 дней3лайкавеса обновлены8 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Thespis-13b-Alpha-v0.7 — экспериментальная версия разговорной модели, разработанная cgato на базе Llama 2 13B и обученная на DaringFortitude. Модель предназначена для многоходового диалога в роли ассистента с выраженной индивидуальностью и для текстовых ролевых игр. В обучении использована смесь данных ассистента и ролевых диалогов в пропорции 40/60, включая Pure-Dove Dataset, Claude Multiround 30k, No Robots, OpenOrcaSlim и Augmental Dataset.

Модель имеет плотную архитектуру LlamaForCausalLM, содержит 12,9 млрд параметров и рассчитана на контекст до 4096 токенов. Она принимает текст и генерирует текст; README отмечает улучшенное следование инструкциям и связность в многоходовом чате, а также рекомендует для ролевых игр стиль интернет-переписки с действиями в звёздочках. Лицензия — Apache-2.0.

Сценарии применения

  • многоходовой диалог с виртуальным ассистентом
  • ролевые игры в формате интернет-переписки
  • создание чат-бота для Discord
  • ответы на инструкции в диалоговом формате

Ограничения

Модель описана как альфа-версия: автор продолжает добавлять функции и улучшать первые ответы, поэтому качество может быть нестабильным. README не заявляет поддержку конкретных естественных языков.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Alpha Test Version of Thespis v0.7

This is a version of Thespis which includes more than the usual amount of Assistant responses in the training data. Its good for acting as an assistant with personality. It may be ok for RP, feel free to experiment. It was also trained on DaringFortitude as opposed to the base Llama2 13b.

This model works best with internet style RP using standard markup with asterisks surrounding actions and no quotes around dialogue. Currently in the middle of adding new features and working on making sure initial responses are strong.

It uses a 40/60 Split of Assistant and RP data, and includes items from the below datasets:

  • Pure-Dove Dataset
  • Claude Multiround 30k
  • No Robots
  • OpenOrcaSlim
  • Augmental Dataset

As a result of adding this additional Assistant data, the model shows greatly improved instruction following and coherence during multiturn chats.

Works with standard chat format for Ooba or SillyTavern.

Prompt Format: Chat ( The default Ooba template and Silly Tavern Template )

{System Prompt}

Username: {Input}
BotName: {Response}
Username: {Input}
BotName: {Response}

Ooba ( Set it to Chat, select a character and go. )

image/png

Silly Tavern Settings ( Default )

image/png

Turn Template (for Ooba Instruct if making a Discord bot or Some other Many to one Chat):

You can either bake usernames into the prompt directly for ease of use or programatically add them if running through the API to use as a chatbot.

User string: ( Leave empty if populating username into prompt through a script. Put in your username if its a 1 on 1 convo.) Ex. "DiscordUser1: "
Bot String: ( The bots name, followed by a colon and a space.) Ex. "Mayo: "
Context: ( Your bots system prompt, follow by a newline. )

<|user|><|user-message|>\n<|bot|><|bot-message|>\n

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
b97bd1b

0 моделей