/ Модель

Характеристики

Контекст
32 764 токена
Параметры
68,7 млрд
Размер весов
138 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
6 фев 2024

MiquMaid-v2-70B-DPO

Генерация текстаТекст → текст3 профессии

MiquMaid-v2-70B-DPO — 70-миллиардная разговорная модель на базе Miqu-70B для ролевых диалогов и генерации ответов с меньшим числом ограничений.

25скачиваний за 30 дней14лайковвеса обновлены7 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MiquMaid-v2-70B-DPO — разговорная языковая модель для ролевых диалогов, созданная Undi и IkariDev на основе Miqu-70B и дообученная методом DPO для снятия ограничений на ответы. Модель построена на архитектуре Llama с плотной причинной языковой сетью объёмом 68,7 млрд параметров; репозиторий содержит веса FP16. Она принимает текст и генерирует текст, поддерживает контекст до 32 764 токенов и использует формат запросов Alpaca.

Модель предназначена прежде всего для ролевых бесед и диалоговых сценариев с меньшим числом отказов на чувствительные запросы. В обучении использовались наборы Aesir, NoRobots, limarp, toxic-dpo-v0.1-sharegpt, ToxicQAFinal и ToxicDPOqa. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое; модель помечена как содержащая контент для взрослой аудитории. Ожидаемые ограничения включают возможные нежелательные или недостоверные ответы и зависимость результатов от корректного шаблона Alpaca.

Сценарии применения

  • ролевые диалоги с вымышленными персонажами
  • создание диалоговых сценариев для интерактивных историй
  • генерация ответов чат-бота в стиле Alpaca
  • свободные беседы с уменьшенным числом отказов

Ограничения

Модель ориентирована на взрослый контент и может генерировать нежелательные или недостоверные ответы. Для форматирования запросов следует использовать шаблон Alpaca; лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MiquMaid v2 DPO

Check out our blogpost about this model series Here! - Join our Discord server Here!

This model uses the Alpaca prompting format

Model trained for RP conversation on Miqu-70B with our magic sauce, then trained on DPO for uncensoring.

Credits:

  • Undi
  • IkariDev

Description

This repo contains FP16 files of MiquMaid-v2-70B-DPO.

Switch: FP16 - GGUF

Training data used:

DPO training data used:

Custom format:

### Instruction:
{system prompt}

### Input:
{input}

### Response:
{reply}

Others

Undi: If you want to support us, you can here.

IkariDev: Visit my retro/neocities style website please kek

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
779c54b

0 моделей