/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
93,4 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
mixtral · MoE
Опубликована
25 дек 2023

Noromaid-v0.1-mixtral-8x7b-Instruct-v3

Генерация текстаТекст → текст3 профессии

Экспериментальная текстовая чат-модель на основе Mixtral Instruct для ролевых диалогов, включая сценарии RP и ERP.

125скачиваний за 30 дней46лайковвеса обновлены29 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Noromaid-v0.1-mixtral-8x7b-Instruct-v3 — экспериментальная чат-модель для ролевых диалогов, созданная IkariDev и Undi на основе Mixtral Instruct и дообученная на изменённых наборах данных. Авторы указывают, что обучение было сосредоточено на ролевом общении и снятии ограничений; модель подходит для RP и ERP-сценариев. Она использует архитектуру Mixtral с разреженной смесью экспертов (MoE), содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов.

Модель принимает текстовые запросы и генерирует текстовые ответы. В README рекомендован формат подсказок Alpaca, включая варианты с секциями Instruction, Input и Response. Модель распространяется под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование. Авторы предупреждают, что это экспериментальная версия и качество работы не гарантируется.

Сценарии применения

  • ведение ролевых диалогов с персонажами
  • создание ответов для сценариев ERP
  • генерация свободных разговорных ответов
  • поддержка интерактивных текстовых историй

Ограничения

Авторы отмечают экспериментальный характер модели и предупреждают, что не всё может работать корректно. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png


Disclaimer:

This model is experimental, do not expect everything to work.

This model uses the Alpaca prompting format(or just directly download the SillyTavern instruct preset here)


Beeg noromaid on steroids. Suitable for RP, ERP.

This time based on Mixtral Instruct, seems to do wonders!

This model was trained for 8h(v1) + 8h(v2) + 12h(v3) on customized modified datasets, focusing on RP, uncensoring, and a modified version of the Alpaca prompting (that was already used in LimaRP), which should be at the same conversational level as ChatLM or Llama2-Chat without adding any additional special tokens.

If you wanna have more infos about this model(and v1 + v2) you can check out my blog post

Recommended settings - Settings 1

Recommended settings - Settings 2 (idk if they are any good)

Credits:

  • Undi
  • IkariDev

Description

This repo contains FP16 files of Noromaid-v0.1-mixtral-8x7b-Instruct-v3.

FP16 - by IkariDev and Undi

GGUF - by IkariDev and Undi

Ratings:

Note: We have permission of all users to upload their ratings, we DONT screenshot random reviews without asking if we can put them here!

No ratings yet!

If you want your rating to be here, send us a message over on DC and we'll put up a screenshot of it here. DC name is "ikaridev" and "undi".

Custom format:

### Instruction:
{system prompt}

### Input:
{input}

### Response:
{reply}

Datasets used:

Others

Undi: If you want to support me, you can here.

IkariDev: Visit my retro/neocities style website please kek

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MixtralForCausalLM
Ревизия весов
72ef9a0

0 моделей