Характеристики

Контекст: 131 072 токена
Параметры: 22 млрд
Размер весов: 44,5 ГБ
Лицензия: CC BY-NC-ND 4.0
Архитектура: mistral · dense
Базовая модель: MS_Moingooistral-2409-22B
Библиотека: transformers
Опубликована: 30 дек 2024

Ссылки

Hugging Face arXiv 2311.03099 arXiv 2306.01708

MS-MagpantheonselRP-22B-12.2-Fictional

Kaoeiri

Генерация текстаТекст → текст3 профессии

Объединённая 22-миллиардная модель Mistral для генерации художественного текста и ролевых диалогов.

12скачиваний за 30 дней0лайковвеса обновлены31 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Kaoeiri/MS-MagpantheonselRP-22B-12.2-Fictional — объединённая языковая модель, опубликованная Kaoeiri и созданная с помощью mergekit. В основу объединения легла unsloth/Mistral-Small-Instruct-2409; применён метод DARE TIES. В состав также вошли модели для ролевых диалогов и творческого письма, включая варианты Mistral Small, SorcererLM, Cydonia и Pantheon.

Модель построена на плотной архитектуре MistralForCausalLM и содержит 22 млрд параметров. Она предназначена для генерации текста, в частности художественных историй и ролевых диалогов; поддерживает чатовый формат и интерфейс вызова инструментов. Максимальный контекст — 131 072 токена. README перечисляет японскую модель среди компонентов, но не подтверждает, какие языки итоговая модель уверенно поддерживает.

Модель может генерировать контент, не подходящий для всех аудиторий. Репозиторий распространяется по лицензии CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных версий.

Сценарии применения

ведение ролевого диалога с вымышленными персонажами
написание художественных историй и сцен
продолжение заданного литературного фрагмента
создание диалогов для вымышленных персонажей

Ограничения

В метаданных модель помечена как не подходящая для всех аудиторий. Лицензия CC BY-NC-ND 4.0 не допускает коммерческого использования и ограничивает распространение изменённых версий.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the DARE TIES merge method using unsloth/Mistral-Small-Instruct-2409 as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
  # Primary Fiction & Monster Core
  - model: Kaoeiri/MS_Moingooistral-2409-22B  # Monster fiction core
    parameters:
      weight: 0.23
      density: 1.21
  
  - model: Kaoeiri/MS-Magpantheonsel-lark-v4x1.6.2-Cydonia-vXXX-22B-5  # Main writing engine
    parameters:
      weight: 0.85
      density: 0.76

  # World Building & Fantasy
  - model: Kaoeiri/MS-Inky-2409-22B  # Descriptive world dynamics
    parameters:
      weight: 0.24
      density: 0.73
  
  - model: Gryphe/Pantheon-RP-Pure-1.6.2-22b-Small  # Rich interaction
    parameters:
      weight: 0.26
      density: 0.74

  # Character & Monster Development
  - model: DigitalSouls/BlackSheep-DigitalSoul-22B  # Combat and conflict
    parameters:
      weight: 0.18
      density: 0.68
  
  - model: InferenceIllusionist/SorcererLM-22B  # Magical elements
    parameters:
      weight: 0.19
      density: 0.70

  # Adventure & Environment
  - model: TheDrummer/Cydonia-22B-v1.1  # Evil aspects
    parameters:
      weight: 0.15
      density: 0.65

  # Nature & Creatures
  - model: crestf411/MS-sunfall-v0.7.0  # Nature elements
    parameters:
      weight: 0.21
      density: 0.70
  
  - model: Kaoeiri/MS_a-coolyte-2409-22B
    parameters:
      weight: 0.22
      density: 0.69

  # Future & Fantasy Elements
  - model: Kaoeiri/MS_fujin-2409-22B
    parameters:
      weight: 0.16
      density: 0.68
  
  - model: Kaoeiri/MS-Quadrosiac-2409-22B
    parameters:
      weight: 0.17
      density: 0.71
  
  - model: Kaoeiri/MS_dampf-2409-22B
    parameters:
      weight: 0.17
      density: 0.71

  # Story Enhancement
  - model: hf-100/Mistral-Small-Spellbound-StoryWriter-22B-instruct-0.2-chkpt-200-16-bit
    parameters:
      weight: 0.18
      density: 0.67
  
  - model: ArliAI/Mistral-Small-22B-ArliAI-RPMax-v1.1
    parameters:
      weight: 0.12
      density: 0.63
  
  - model: Darkknight535/MS-Moonlight-22B-v3
    parameters:
      weight: 0.11
      density: 0.63

  # Community Tuning
  - model: Jellywibble/MistralSmall1500CTXDummy
    parameters:
      weight: 0.04
      density: 0.60

  # Cultural Enhancement
  - model: Saxo/Linkbricks-Horizon-AI-Japanese-Superb-V1-22B
    parameters:
      weight: 0.20
      density: 0.58

  # Character Detail
  - model: Envoid/Mistral-Small-NovusKyver
    parameters:
      weight: 0.27
      density: 0.71

  # Fantasy Creatures
  - model: TroyDoesAI/BlackSheep-MermaidMistral-22B
    parameters:
      weight: 0.24
      density: 0.70

merge_method: dare_ties
base_model: unsloth/Mistral-Small-Instruct-2409

parameters:
  density: 0.88    # Increased for richer fictional detail
  epsilon: 0.05    # Reduced for more consistent narrative style
  lambda: 1.40     # Increased to preserve creative writing characteristics

dtype: bfloat16
tokenizer_source: union

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: e6b13ba