/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
93,4 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
mixtral · MoE
Опубликована
24 дек 2023

Noromaid-v0.1-mixtral-8x7b-v3

Генерация текстаТекст → текст3 профессии

Экспериментальная текстовая модель на основе Mixtral для ролевых и эротических диалогов.

95скачиваний за 30 дней16лайковвеса обновлены25 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Noromaid-v0.1-mixtral-8x7b-v3 — экспериментальная текстовая модель генерации, созданная IkariDev и Undi на основе Mixtral. Авторы обучали её на изменённых наборах данных для ролевых диалогов, включая откровенные сценарии и ответы с ослабленной цензурой. Модель использует архитектуру Mixtral MoE и принимает текстовые запросы в формате Instruction/Input/Response; контекст составляет до 32 768 токенов, размер модели по метаданным — 7,1 млрд параметров.

Модель предназначена прежде всего для ролевых и эротических диалогов. В README авторы предупреждают, что она экспериментальная, рекомендуют использовать специальный формат промпта и не обещают стабильной работы. Репозиторий содержит веса FP16 в формате PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не для коммерческих целей.

Сценарии применения

  • ведение ролевого диалога с персонажем
  • генерация эротических ролевых сцен
  • создание ответов в стиле ролевой переписки

Ограничения

Модель экспериментальная: авторы предупреждают, что не всё будет работать, и рекомендуют специальный формат промпта. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png


Disclaimer:

This model is experimental, do not expect everything to work.

You need to use our custom prompting format(scroll down to see them! or just directly download the SillyTavern instruct preset here)


Beeg noromaid. Suitable for RP, ERP.

This model was trained for 8h(v1) + 8h(v2) + 12h(v3) on customized modified datasets, focusing on RP, uncensoring, and a modified version of the Alpaca prompting (that was already used in LimaRP), which should be at the same conversational level as ChatLM or Llama2-Chat without adding any additional special tokens.

If you wanna have more infos about this model(and v1 + v2) you can check out my blog post

Recommended settings - Settings 1

Recommended settings - Settings 2 (idk if they are any good)

Credits:

  • Undi
  • IkariDev

Description

This repo contains FP16 files of Noromaid-v0.1-mixtral-8x7b-v3.

FP16 - by IkariDev and Undi

GGUF - by IkariDev and Undi

Ratings:

Note: We have permission of all users to upload their ratings, we DONT screenshot random reviews without asking if we can put them here!

No ratings yet!

If you want your rating to be here, send us a message over on DC and we'll put up a screenshot of it here. DC name is "ikaridev" and "undi".

Custom format:

### Instruction:
{system prompt}

### Input:
{input}

### Response:
{reply}

Datasets used:

Others

Undi: If you want to support me, you can here.

IkariDev: Visit my retro/neocities style website please kek

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MixtralForCausalLM
Ревизия весов
bce2254

0 моделей