/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
19,8 млрд
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
13 дек 2023

DaringMaid-20B

Генерация текстаТекст → текст3 профессии

Смесь моделей семейства Llama на 19,8 млрд параметров для генерации текста и выполнения инструкций.

70скачиваний за 30 дней14лайковвеса обновлены19 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DaringMaid-20B — текстовая генеративная модель на архитектуре Llama с 19,8 млрд параметров, созданная автором Kooten как смесь нескольких моделей. По описанию автора, цель сборки — улучшить Noromaid в знаниях и следовании инструкциям. В состав вошли sequelbox/DynamicFactor, NeverSleep/Noromaid, Undi95/Utopia, tavtav/Rose, CalderaAI/Thorns и модель, которую автор до её идентификации принял за MythoMax. Точные конфигурации слияния размещены в каталоге Recipe репозитория FP16-версии.

Модель предназначена для генерации текста и ответов на инструкции; README также содержит шаблон Alpaca и рекомендацию по пресетам SillyTavern для Noromaid. Заявленный контекст — 4096 токенов, язык в метаданных — английский. Доступны веса safetensors, а README упоминает варианты квантования EXL2, GGUF, GPTQ и AWQ. Качество и преимущества описаны автором субъективно, независимые оценки не приведены. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Сценарии применения

  • ответы на инструкции на английском языке
  • генерация диалогов в SillyTavern
  • создание текстовых ответов по шаблону Alpaca

Ограничения

Контекст ограничен 4096 токенами; заявленные улучшения не подкреплены оценками в карточке. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DaringMaid-20B

My goal was to make a Noromaid that's smarter and better at following instructions.

After trying a bunch of different recipes I think this one turned out pretty good

  • I used sequelbox/DynamicFactor as a base to as its supposed "improve overall knowledge, precise communication, conceptual understanding, and technical skill" over the base llama2.
  • NeverSleep/Noromaid of course.
  • Undi95/Utopia has been recommended again recently and its still really good so in the mixer it goes
  • I liked tavtav/Rose so i threw in a bit of CalderaAI/Thorns
  • There was recently a model that tried to pass itself off as Gryphe/MythoMax, i made a merge with that model before it was revealed to be MythoMax and it turned out pretty good so i used it.

The .yml config files for mergekit with the exact merges can be found in the "Recipe" folder in the fp16 repo

Quants

EXL2: 6bpw, 3bpw

GGUF: New quants: IQ2-XS, IQ2-XXS

Q3_K_M - Q4_K_M - Q5_K_M

Additional Quants from TheBloke: GPTQ, AWQ, GGUF

Prompt template:

I have been using Undi/Ikaris SillyTavern presets for Noromaid: Context, Instruct.

Alpaca:

Below is an instruction that describes a task. Write a response that appropriately completes the request. Do not include descriptions of non-visual qualities such as personality, movements, scents, mental traits, or anything which could not be seen in a still photograph. Do not write in full sentences. Prefix your description with the phrase 'full body portrait,'

### Instruction:
{prompt}

### Response:

Contact

Kooten on discord.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
dae007c

0 моделей