/ Модель
Каталог

Характеристики

Контекст
131 072 токена
Параметры
23,4 млрд
Архитектура
mistral · dense
Библиотека
transformers
Опубликована
24 июн 2025

Ссылки

Hugging FacearXiv 2403.19522

WeirdCompound-v1.2-24b

FlareRebellion
Генерация текстаТекст → текст3 профессии

Экспериментальная объединённая модель Mistral на 23,4 млрд параметров для диалоговой генерации текста, ролевого общения и сторителлинга.

30скачиваний за 30 дней6лайковвеса обновлены24 июн 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

WeirdCompound-v1.2-24b — плотная языковая модель семейства Mistral на 23,4 млрд параметров, созданная автором FlareRebellion как многоэтапное слияние предварительно обученных моделей с помощью mergekit. В состав вошли модели для сторителлинга и ролевого общения, следования инструкциям, приключенческих сценариев и другие варианты Mistral; среди методов слияния указаны Model Stock, SLERP и NuSLERP. В качестве базовой модели в конфигурации указан TheDrummer/Cydonia-24B-v3.

Модель предназначена для генерации текста и диалогового использования, в том числе для ролевых сцен, приключенческих историй и ответов с соблюдением инструкций. Репозиторий содержит веса safetensors; заявленный контекст — до 131 072 токенов. Версия 1.2 использует Mistral-Small-3.2-24B-Instruct-2506-Text-Only для конфигурации токенизатора, однако автор отмечает, что неизвестно, насколько хорошо сохранились улучшения Mistral 3.2 после слияния.

Автор описывает результат как достаточно связный, но экспериментальный, без систематической методики подбора. Лицензия в предоставленных данных не указана.

Сценарии применения

  • создание приключенческих историй
  • ролевое общение с персонажами
  • генерация диалогов и продолжение сцен
  • ответы на инструкции в разговорном формате

Ограничения

Автор отмечает, что многоэтапное слияние проводилось без строгой методики и что сохранность улучшений Mistral 3.2 после слияния неизвестна. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923моделиII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

WeirdCompound-v1.2-24b

This is a merge of pre-trained language models created using mergekit.

Merge Details

Notes

This is a multi-stage merge. There's little method to my madness and I just stopped when I arrived at something that I liked.

Starting point was DepravedCartographer-v1.0-24b with slight changes.

Mistral released 3.2 2506, so I wanted to see how these slerp merges would turn out with it in the tree, even if none of the other models is a strict descendant of Mistral 3.2. Seems to be coherent enough, so I'm uploading this. No clue how many of the 3.2 improvements survived the process though.

Changelog

v1.1

  • /intermediate/model/B: replaced anthracite-core/Mistral-Small-3.1-24B-Instruct-2503-HF with anthracite-core/Mistral-Small-3.2-24B-Instruct-2506-ChatML

v1.2

Merge Method

This model was merged using the Model Stock merge method using TheDrummer/Cydonia-24B-v3 as a base.

This model was merged using the SLERP merge method.

This model was merged using the NuSLERP merge method using /intermediate/model/B as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

base_model: TheDrummer/Cydonia-24B-v3 # Cydonia v3
merge_method: model_stock
dtype: bfloat16
models:
  - model: aixonlab/Eurydice-24b-v3.5 # storytelling / RP
  - model: TheDrummer/Cydonia-24B-v3 # sprinkle in some extra Cydonia v3
  - model: PocketDoc/Dans-PersonalityEngine-V1.3.0-24b # Prompt Adherence
  - model: Delta-Vector/Austral-24B-Winton  # Adventure
  - model: Doctor-Shotgun/MS3.1-24B-Magnum-Diamond # claude opus

→ /intermediate/model/A →

merge_method: slerp
dtype: bfloat16
base_model: anthracite-core/Mistral-Small-3.2-24B-Instruct-2506-Text-Only
models:
  - model: /intermediate/model/A
parameters:
  t: 0.4

→ /intermediate/model/B →

merge_method: nuslerp
dtype: bfloat16
base_model: /intermediate/model/B
models:
  - model: PocketDoc/Dans-PersonalityEngine-V1.3.0-24b
    parameters:
      weight: 0.6
  - model: aixonlab/Eurydice-24b-v3.5
    parameters:
      weight: 0.4

→ /intermediate/model/C →

merge_method: slerp
dtype: bfloat16
base_model: /intermediate/model/B
models:
  - model: /intermediate/model/C
parameters:
  t: 0.5

→ WeirdCompound-v1.2-24b

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
2a06671

0 моделей

    Создать бенчмарк