/ Модель

Характеристики

Контекст
200 000 токенов
Параметры
33,9 млрд
Размер весов
68,8 ГБ
Архитектура
llama · dense
Опубликована
16 янв 2024

Thespis-34b-v0.7

Генерация текстаТекст → текст3 профессии

Дообученная на базе Yi 34B текстовая модель для ролевых диалогов в форматах Ooba и SillyTavern.

18скачиваний за 30 дней1лайквеса обновлены16 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Thespis-34b-v0.7 — дообученная модель семейства Llama, созданная cgato на основе Yi 34B. Она предназначена для генерации текста в ролевых диалогах в интернет-стиле: карточка рекомендует оформлять действия звёздочками, а реплики вести без кавычек. Модель поддерживает обычный чатовый формат, совместимый с шаблонами Ooba и SillyTavern.

В репозитории указаны веса в формате safetensors и 33,9 млрд параметров. Карточка README описывает версию как имеющую контекст 8 тыс. токенов, тогда как метаданные каталога указывают native context 200 тыс. токенов; фактический контекст для практического использования следует сверять с конфигурацией и шаблоном запуска. Для обучения использовались Pure-Dove Dataset, Claude Multiround 30k, OpenOrcaSlim и Augmental Dataset. Лицензия — Yi License, поскольку модель основана на Yi.

Сценарии применения

  • ролевые диалоги в интернет-стиле
  • генерация реплик персонажа для SillyTavern
  • чат с оформлением действий звёздочками
  • создание диалоговых сцен по системному промпту

Ограничения

Модель ориентирована на ролевые диалоги и рекомендуемый формат оформления действий и реплик; её пригодность для других сценариев в карточке не описана. README указывает контекст 8 тыс. токенов, а метаданные каталога — 200 тыс., поэтому используемый предел контекста неоднозначен.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Thespis v0.7 ( Yi 34b Finetune - 8k ctx)

This model works best with internet style RP using standard markup with asterisks surrounding actions and no quotes around dialogue. Current work is looking at creating a custom DPO dataset as well as expanding the training data to include more niche interests.

External Datasets Used:

  • Pure-Dove Dataset
  • Claude Multiround 30k
  • OpenOrcaSlim
  • Augmental Dataset

Works with standard chat format for Ooba or SillyTavern.

Prompt Format: Chat ( The default Ooba template and Silly Tavern Template )

{System Prompt}

Username: {Input}
BotName: {Response}
Username: {Input}
BotName: {Response}

Ooba ( Set it to Chat, select a character and go. )

image/png

Silly Tavern Settings ( Default )

image/png


## License

As a model based on Yi, this finetune is under the Yi license.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
856f7c6

0 моделей