/ Модель

Характеристики

Контекст
32 764 токена
Параметры
68,7 млрд
Размер весов
138 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
5 фев 2024

MiquMaid-v2-70B

Генерация текстаТекст → текст3 профессии

MiquMaid-v2-70B — дообученная на базе Miqu-70B языковая модель для ролевых бесед и генерации диалогов.

66скачиваний за 30 дней15лайковвеса обновлены7 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MiquMaid-v2-70B — языковая модель для генерации диалогов, разработанная Undi и IkariDev. Она создана для ролевых бесед и дообучена на базе Miqu-70B с использованием данных Aesir, NoRobots, limarp, toxic-dpo-v0.1-sharegpt и ToxicQAFinal.

Модель использует плотную архитектуру Llama с 68,7 млрд параметров и рассчитана на контекст до 32 764 токенов. Она принимает текст и генерирует текст, поддерживает формат запросов Alpaca и доступна в формате Safetensors с точностью FP16.

Модель ориентирована на ролевые диалоги, включая откровенный контент, и помечена как неподходящая для всех аудиторий. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Сценарии применения

  • ведение ролевых диалогов с заданным персонажем
  • генерация ответов в формате Alpaca
  • создание откровенных диалоговых сцен
  • разработка чат-бота для интерактивной ролевой игры

Ограничения

Модель помечена как неподходящая для всех аудиторий и может генерировать откровенный или токсичный контент. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MiquMaid v2

Check out our blogpost about this model series Here! - Join our Discord server Here!

This model uses the Alpaca prompting format

Model trained for RP conversation on Miqu-70B with our magic sauce.

Credits:

  • Undi
  • IkariDev

Description

This repo contains FP16 files of MiquMaid-v2-70B.

Switch: FP16 - GGUF

Training data used:

Custom format:

### Instruction:
{system prompt}

### Input:
{input}

### Response:
{reply}

Others

Undi: If you want to support us, you can here.

IkariDev: Visit my retro/neocities style website please kek

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
bd19912

0 моделей