/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,1 млрд
Лицензия
Apache 2.0
Архитектура
mixtral · MoE
Опубликована
30 янв 2024

Blue-Orchid-2x7b

Генерация текстаТекст → текст3 профессии

Текстовая MoE-модель для ролевых диалогов, продолжения сцен и написания историй.

166скачиваний за 30 дней108лайковвеса обновлены2 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Blue-Orchid-2x7b — текстовая MoE-модель для генерации продолжений, ориентированная на ролевые диалоги и написание историй. В README указано, что один эксперт объединяет преимущественно модели для ролевых диалогов, а второй — модели для написания историй; базовая модель — SanjiWatsuki/Kunoichi-DPO-v2-7B. Метаданные указывают архитектуру MixtralForCausalLM, около 7,1 млрд параметров и контекст до 8192 токенов.

Модель подходит для ролевого общения с персонажами, продолжения художественных сцен и создания повествовательного текста. README приводит шаблон LimaRP и сообщает, что также должен работать шаблон Alpaca. Модель принимает текст и генерирует текст.

Модель опубликована в формате safetensors, хотя README также упоминает GGUF. Лицензия — Apache-2.0. Языки и конкретные ограничения качества в доступных сведениях не описаны.

Сценарии применения

  • ролевой диалог с вымышленным персонажем
  • продолжение художественной сцены
  • написание рассказа по заданной завязке
  • генерация повествовательного текста
  • ответы от лица персонажа по шаблону LimaRP или Alpaca

Ограничения

В README не указаны поддерживаемые языки и результаты оценки качества; применимость за пределами ролевых диалогов и написания историй не описана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Blue-Orchid-2x7b

GGUF: https://huggingface.co/nakodanei/Blue-Orchid-2x7b_GGUF

Roleplaying focused MoE Mistral model.

One expert is a merge of mostly RP models, the other is a merge of mostly storywriting models. So it should be good at both. The base model is SanjiWatsuki/Kunoichi-DPO-v2-7B.

  • Expert 1 is a merge of LimaRP, Limamono, Noromaid 0.4 DPO and good-robot.
  • Expert 2 is a merge of Erebus, Holodeck, Dans-AdventurousWinds-Mk2, Opus, Ashhwriter and good-robot.

Prompt template (LimaRP):

### Instruction:
{system prompt}

### Input:
User: {prompt}

### Response:
Character: 

Alpaca prompt template should work fine too.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MixtralForCausalLM
Ревизия весов
15f5a18

0 моделей