/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
5 янв 2024

Noromaid-13b-v0.3

Генерация текстаТекст → текст3 профессии

Тестовая текстовая модель Llama на 12,9 млрд параметров для ролевых диалогов, откровенных ролевых сценариев и ответов на инструкции общего назначения.

113скачиваний за 30 дней25лайковвеса обновлены7 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Noromaid-13b-v0.3 — текстовая генеративная модель семейства Llama, разработанная IkariDev и Undi. Это версия с переобучением на новых наборах данных и шаблоном инструкций Alpaca; авторы указывают ролевые сценарии, откровенные ролевые диалоги и задачи общего назначения. В обучении использованы, среди прочего, no_robots, Spicyboros 3.1 и Toxic-dpo, а также частные наборы данных Aesir.

Модель содержит 12,9 млрд параметров, использует плотную архитектуру Llama и принимает текстовые инструкции, выдавая текст. Заявленная длина контекста — 4096 токенов. Репозиторий содержит веса FP16 в формате safetensors; README предупреждает, что это тестовая версия и работа может быть нестабильной. Лицензия CC BY-NC 4.0 допускает использование с соблюдением условий атрибуции и ограничением на коммерческое применение.

Сценарии применения

  • ведение ролевого диалога с персонажем
  • генерация откровенных ролевых диалогов
  • свободное продолжение художественного текста
  • ответы на инструкции в формате Alpaca

Ограничения

Авторы обозначают версию как тестовую и предупреждают, что не всё может работать; рекомендованные параметры генерации не приведены. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png


Disclaimer:

This is a TEST version, don't expect everything to work!!!

Use simple alpaca. (Scroll down for simple downlading of the presets we use)


If you wanna give feedback or just chat with use consider joining our discord server: https://discord.gg/YEeCDkQd5d

Instruct template

Context template

Wanted a Noromaid with new datasets, complete retrain and normal alpaca instead of our own format. Well here it is, Noromaid-13b-v0.3. Suitable for RP, ERP and general stuff.

[Recommended generation settings - No settings yet(Please suggest some over in the Community tab!)]

Description

This repo contains fp16 files of Noromaid-13b-v0.3.

FP16 - by IkariDev and Undi

exl2[other quants linked on the hf] - by AzureBlack

GGUF - by IkariDev and Undi

Ratings:

Note: We have permission of all users to upload their ratings, we DONT screenshot random reviews without asking if we can put them here!

No ratings yet!

If you want your rating to be here, send us a message over on DC and we'll put up a screenshot of it here. DC name is "ikaridev" and "undi".

Alpaca:

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
{prompt}

### Input:
{input}

### Response:

Training data used:

  • no_robots dataset let the model have more human behavior, enhances the output.
  • [Aesir Private RP dataset] New data from a new and never used before dataset, add fresh data, no LimaRP spam, this is 100% new. Thanks to the MinvervaAI Team and, in particular, Gryphe for letting us use it!
  • [Another private Aesir dataset]
  • [Yet ANOTHER private Aesir dataset]
  • Spicyboros 3.1
  • Toxic-dpo

Others

Undi: If you want to support me, you can here.

IkariDev: Visit my retro/neocities style website please kek

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
1013d7e

0 моделей