/ Модель
Каталог

Характеристики

Контекст
131 072 токена
Параметры
22 млрд
Размер весов
44,5 ГБ
Лицензия
CC BY-NC-ND 4.0
Архитектура
mistral · dense
Базовая модель
MS_Moingooistral-2409-22B
Библиотека
transformers
Опубликована
30 дек 2024

Ссылки

Hugging FacearXiv 2311.03099arXiv 2306.01708

MS-MagpantheonselRP-22B-12.1-Writing

Kaoeiri
Генерация текстаТекст → текст3 профессии

Объединённая 22-миллиардная модель Mistral для генерации диалогов и прозы, включая ролевые сценарии.

13скачиваний за 30 дней0лайковвеса обновлены31 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Kaoeiri объединил несколько языковых моделей в 22-миллиардную модель на архитектуре Mistral, используя метод DARE TIES и Mistral-Small-Instruct-2409 в качестве базовой модели. В состав объединения вошли модели для ролевых диалогов и создания прозы; карточка также отмечает разговорное назначение и интерфейс вызова инструментов.

Модель предназначена для генерации текста, в частности диалогов и связной прозы в ролевых сценариях. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors. Лицензия CC BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных версий.

Сценарии применения

  • ведение ролевых диалогов с персонажами
  • написание связной художественной прозы
  • генерация продолжения истории по текстовому запросу
  • создание разговорных ответов в чат-сценариях

Ограничения

Модель ориентирована на ролевые диалоги и художественную прозу, поэтому её ответы могут быть менее подходящими для фактических или узкоспециализированных задач. Лицензия запрещает коммерческое использование и распространение производных версий.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейIV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the DARE TIES merge method using unsloth/Mistral-Small-Instruct-2409 as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
  # Primary RP & Character Interaction (Higher weights for core functionality)
  
  - model: TroyDoesAI/BlackSheep-Mistral-22B
    parameters:
      weight: 0.24
      density: 0.73
  
  - model: Kaoeiri/MS_Moingooistral-2409-22B
    parameters:
      weight: 0.23
      density: 0.75
  
  - model: anthracite-org/magnum-v4-22b
    parameters:
      weight: 0.95
      density: 0.84

  # Combat & Adventure Elements
  - model: Kaoeiri/MS-Inky-2409-22B
    parameters:
      weight: 0.21
      density: 0.72
  
  - model: InferenceIllusionist/SorcererLM-22B
    parameters:
      weight: 0.19
      density: 0.70

  # Nature & Character Development
  - model: crestf411/MS-sunfall-v0.7.0
    parameters:
      weight: 0.21
      density: 0.70
  
  - model: Kaoeiri/MS_a-coolyte-2409-22B
    parameters:
      weight: 0.22
      density: 0.69

  # Future & Fantasy Elements
  - model: Kaoeiri/MS_fujin-2409-22B
    parameters:
      weight: 0.16
      density: 0.68
  
  - model: Kaoeiri/MS_springydragon-2409-22B
    parameters:
      weight: 0.17
      density: 0.71
  
  - model: Kaoeiri/MS_dampf-2409-22B
    parameters:
      weight: 0.17
      density: 0.71

  # Technical Enhancement
  - model: Kaoeiri/MS-Physician-2409-22B
    parameters:
      weight: 0.10
      density: 0.67

  # Story Writing & Spellcraft
  - model: hf-100/Mistral-Small-Spellbound-StoryWriter-22B-instruct-0.2-chkpt-200-16-bit
    parameters:
      weight: 0.18
      density: 0.67

  # Additional RP Models
  - model: Gryphe/Pantheon-RP-1.6.2-22b-Small
    parameters:
      weight: 0.13
      density: 0.65
  
  - model: ArliAI/Mistral-Small-22B-ArliAI-RPMax-v1.1
    parameters:
      weight: 0.12
      density: 0.63
  
  - model: Darkknight535/MS-Moonlight-22B-v3
    parameters:
      weight: 0.11
      density: 0.63

  # Community & Specialized RP
  - model: Jellywibble/MistralSmall1500CTXDummy
    parameters:
      weight: 0.04
      density: 0.60
  
  - model: spow12/ChatWaifu_v2.0_22B
    parameters:
      weight: 0.27
      density: 0.70

  # Anatomy & Character Detail
  - model: allura-org/MS-Meadowlark-22B
    parameters:
      weight: 0.27
      density: 0.71

  # Fantasy & Mermaid Elements
  - model: TroyDoesAI/BlackSheep-MermaidMistral-22B
    parameters:
      weight: 0.24
      density: 0.70

merge_method: dare_ties
base_model: unsloth/Mistral-Small-Instruct-2409

parameters:
  density: 0.85
  epsilon: 0.08
  lambda: 1.25

dtype: bfloat16
tokenizer_source: union

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
e54ba5d

0 моделей

    Создать бенчмарк