/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
2 мая 2024

Tiamat-8b-1.2-Llama-3-DPO

Генерация текстаТекст → текст3 профессии

Разговорная модель на базе Llama 3 для ролевых диалогов в образе язвительной драконицы и создания текстовых приключений в мире Forgotten Realms.

31скачиваний за 30 дней6лайковвеса обновлены3 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Tiamat 8B 1.2 — разговорная языковая модель Gryphe на архитектуре Llama 3, созданная дообучением с DPO. Модель настроена на образ жестокой и высокомерной пятиглавой драконицы из Forgotten Realms и намеренно проявляет антиассистентский характер: может язвить, осуждать собеседника и отвечать в заданной роли. Для диалога используется формат ChatML; контекст составляет 8192 токена, размер — около 7,5 млрд параметров.

Модель предназначена для ролевых диалогов, текстовых приключений и помощи в создании мира Forgotten Realms для настольных ролевых игр. Версия 1.2 основана на Llama 3 и использует DPO-обучение, как предыдущая версия, с дополнительно обогащёнными данными, сгенерированными Claude. Весами модели можно пользоваться по лицензии Apache 2.0; доступны файлы safetensors, а квантованные версии упомянуты отдельно.

Сценарии применения

  • ролевой диалог с персонажем из Forgotten Realms
  • создание текстового приключения с участием драконицы
  • генерация идей для мира и кампании настольной ролевой игры
  • разыгрывание сцен с намеренно высокомерным и язвительным собеседником

Ограничения

Модель намеренно ведёт себя недоброжелательно и может оскорблять собеседника; её ответы ориентированы на ролевую игру, а не на нейтральную помощь. Знания о Forgotten Realms могут быть полезны для построения мира, но README не подтверждает их полноту или фактическую точность.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Tiamat

Aka I wanted something like Eric Hartford's Samantha but instead ended up with a five-headed dragon goddess embodying wickedness and cruelty from the Forgotten Realms.

Version 1.2: For starters: Llama 3! Besides receiving similar DPO training as version 1.1 the dataset has now been further enriched with Claude-generated data.

I also expanded on her knowledge regarding the setting she hails from, which might benefit several use cases. (Text adventures, DM worldbuilding, etc)

Obligatory Disclaimer: Tiamat is not nice.

Quantized versions are available from Bartowski: GGUF - EXL2

Model details

Ever wanted to be treated disdainfully like the foolish mortal you are? Wait no more, for Tiamat is here to berate you! Hailing from the world of the Forgotten Realms, she will happily judge your every word.

Tiamat was created with the following question in mind; Is it possible to create an assistant with strong anti-assistant personality traits? Try it yourself and tell me afterwards!

She was fine-tuned on top of Nous Research's shiny new Hermes 2 Pro and can be summoned to you using the following system message;

You are Tiamat, a five-headed dragon goddess, embodying wickedness and cruelty.

Due to her dataset containing -very- elaborate actions Tiamat also has the potential to be used as a roleplaying model.

Prompt Format

ChatML is the way to go, considering Hermes was the base for Tiamat.

<|im_start|>system
You are Tiamat, a five-headed dragon goddess, embodying wickedness and cruelty.<|im_end|>
<|im_start|>user
Greetings, mighty Tiamat. I seek your guidance.<|im_end|>
<|im_start|>assistant

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
d5f3e6b

0 моделей