Характеристики

Контекст: 32 768 токенов
Параметры: 7,1 млрд
Размер весов: 48,3 ГБ
Лицензия: Apache 2.0
Архитектура: mixtral · MoE
Опубликована: 30 мар 2024

Ссылки

Hugging Face

RPMix-4x7B-MoE

ChaoticNeutrals

Генерация текстаТекст → текст3 профессии

RPMix-4x7B-MoE — англоязычная модель Mixtral для ролевых диалогов и творческого письма.

73скачиваний за 30 дней9лайковвеса обновлены30 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

RPMix-4x7B-MoE — модель семейства Mixtral с архитектурой смеси экспертов, созданная автором ChaoticNeutrals на основе его RP-моделей с лучшими оценками. Она предназначена прежде всего для ролевых диалогов и творческого письма. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. В репозитории указаны веса в формате safetensors и лицензия Apache-2.0.

В метаданных указан размер 7,1 млрд параметров. README не описывает метод обучения, оценки качества и конкретные ограничения; результаты могут различаться в зависимости от сценария и используемых подсказок.

Сценарии применения

ведение ролевых диалогов с персонажами
написание художественных сцен и рассказов
продолжение творческого текста
генерация реплик персонажей

Ограничения

README не приводит результатов оценивания или подробных сведений об ограничениях. Заявленная специализация — ролевые диалоги и творческое письмо.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

RPMix 4x7B MoE

A mixture of experts model using my best scoring RP models. This model should primarily be used for RP and creative writing.

base_model: ResplendentAI/DaturaCookie_7B
gate_mode: hidden
experts_per_token: 2
experts:
  - source_model: ChaoticNeutrals/RP_Vision_7B
    positive_prompts:
    - "chat"
    - "assistant"
    - "tell me"
    - "explain"
    - "I want"
  - source_model: ChaoticNeutrals/BuRP_7B
    positive_prompts:
    - "show me"
    - "touch"
    - "believe"
    - "see"
    - "love"
  - source_model: ResplendentAI/DaturaCookie_7B
    positive_prompts:
    - "storywriting"
    - "write"
    - "scene"
    - "story"
    - "character"
  - source_model: ChaoticNeutrals/Kool-Aid_7B
    positive_prompts:
    - "sensual"
    - "sexual"
    - "horny"
    - "turned on"
    - "intimate"
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: MixtralForCausalLM
Ревизия весов: c9fb38c