/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
15 дек 2023

DaringMaid-13B

Генерация текстаТекст → текст3 профессии

Слитая текстовая модель на базе Llama 2 для генерации текста, ответов на инструкции и ролевого общения.

79скачиваний за 30 дней16лайковвеса обновлены15 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DaringMaid-13B — текстовая модель генерации от Kooten, созданная слиянием нескольких моделей на базе Llama 2. Автор ставил целью сделать Noromaid более интеллектуальной и точнее выполняющей инструкции. В состав слияния вошли sequelbox/DynamicFactor, NeverSleep/Noromaid, Undi95/Utopia, tavtav/Rose, CalderaAI/Thorns и модель, позднее определённая как MythoMax.

Модель предназначена для генерации текста и ответов на инструкции, в том числе в сценариях ролевого общения и работы через шаблоны Noromaid для SillyTavern. Архитектура — плотная LlamaForCausalLM примерно на 12,9 млрд параметров; контекст — до 4096 токенов. Карточка указывает английский язык. Доступны веса safetensors, а также варианты квантования EXL2 и GGUF. Лицензия CC BY-NC 4.0 запрещает коммерческое использование без отдельного разрешения. Качество ответов и следование инструкциям зависят от шаблона и настроек генерации.

Сценарии применения

  • генерация ответов на текстовые инструкции
  • ролевое общение через SillyTavern
  • создание диалогов и художественных сцен
  • генерация описаний по шаблону Alpaca

Ограничения

Контекст ограничен 4096 токенами, а качество зависит от шаблона и настроек генерации. Лицензия CC BY-NC 4.0 не разрешает коммерческое использование без отдельного разрешения.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DaringMaid-13B

My goal was to make a Noromaid that's smarter and better at following instructions.

After trying a bunch of different recipes I think this one turned out pretty good

  • I used sequelbox/DynamicFactor as a base to as its supposed "improve overall knowledge, precise communication, conceptual understanding, and technical skill" over the base llama2.
  • NeverSleep/Noromaid of course.
  • Undi95/Utopia has been recommended again recently and its still really good so in the mixer it goes
  • I liked tavtav/Rose so i threw in a bit of CalderaAI/Thorns
  • There was recently a model that tried to pass itself off as Gryphe/MythoMax, i made a merge with that model before it was revealed to be MythoMax and it turned out pretty good so i used it.

The .yml config files for mergekit with the exact merges can be found in the "Recipe" folder in the fp16 repo

Quants

EXL2: 8bpw, 5bpw, 4bpw

GGUF: Q3_K_M - Q4_K_M - Q5_K_M

Prompt template:

I have been using Undi/Ikaris SillyTavern presets for Noromaid: Context, Instruct.

Alpaca:

Below is an instruction that describes a task. Write a response that appropriately completes the request. Do not include descriptions of non-visual qualities such as personality, movements, scents, mental traits, or anything which could not be seen in a still photograph. Do not write in full sentences. Prefix your description with the phrase 'full body portrait,'

### Instruction:
{prompt}

### Response:

Contact

Kooten on discord.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
31110f0

0 моделей