/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Опубликована
8 дек 2023

Thespis-Mistral-7b-Alpha-v0.7

Генерация текстаТекст → текст3 профессии

Экспериментальная Mistral-модель для многоходового общения с характером, ролевых диалогов и ответов в роли ассистента.

27скачиваний за 30 дней4лайкавеса обновлены8 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Thespis-Mistral-7b-Alpha-v0.7 — экспериментальная версия модели Thespis на архитектуре Mistral, опубликованная cgato. Это плотная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов; она принимает текст и генерирует текст. В обучающих данных использована смесь примерно из 40% ответов ассистента и 60% ролевых диалогов, включая Pure-Dove Dataset, Claude Multiround 30k, No Robots, OpenOrcaSlim и Augmental Dataset.

Модель предназначена для многоходового общения с заданным характером, ролевых диалогов в интернет-стиле и работы в роли чат-ассистента. Автор отмечает улучшение следования инструкциям и связности ответов, а также совместимость со стандартными шаблонами чата Ooba и SillyTavern. Это ранняя версия, в которой продолжается добавление возможностей и улучшение первых ответов. Лицензия — Apache-2.0.

Сценарии применения

  • ролевые диалоги в стиле интернет-переписки
  • создание чат-бота с заданным характером
  • многоходовые беседы с ассистентом
  • ответы на инструкции в формате чат-бота

Ограничения

Это альфа-версия: автор продолжает добавлять возможности и улучшать первые ответы. Модель лучше подходит для ролевых диалогов в интернет-стиле с действиями, заключёнными в звёздочки; подтверждённые сведения о поддерживаемых языках отсутствуют.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Alpha Test Version of Thespis v0.7 on Mistral

This is a version of Thespis which includes more than the usual amount of Assistant responses in the training data. Its good for acting as an assistant with personality. It may be ok for RP, feel free to experiment.

This model works best with internet style RP using standard markup with asterisks surrounding actions and no quotes around dialogue. Currently in the middle of adding new features and working on making sure initial responses are strong.

It uses a 40/60 Split of Assistant and RP data, and includes items from the below datasets:

  • Pure-Dove Dataset
  • Claude Multiround 30k
  • No Robots
  • OpenOrcaSlim
  • Augmental Dataset

As a result of adding this additional Assistant data, the model shows greatly improved instruction following and coherence during multiturn chats.

Works with standard chat format for Ooba or SillyTavern.

Prompt Format: Chat ( The default Ooba template and Silly Tavern Template )

{System Prompt}

Username: {Input}
BotName: {Response}
Username: {Input}
BotName: {Response}

Ooba ( Set it to Chat, select a character and go. )

image/png

Silly Tavern Settings ( Default )

image/png

Turn Template (for Ooba Instruct if making a Discord bot or Some other Many to one Chat):

You can either bake usernames into the prompt directly for ease of use or programatically add them if running through the API to use as a chatbot.

User string: ( Leave empty if populating username into prompt through a script. Put in your username if its a 1 on 1 convo.) Ex. "DiscordUser1: "
Bot String: ( The bots name, followed by a colon and a space.) Ex. "Mayo: "
Context: ( Your bots system prompt, follow by a newline. )

<|user|><|user-message|>\n<|bot|><|bot-message|>\n

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
7d582ca

0 моделей