Характеристики

Контекст: 131 072 токена
Параметры: 12,1 млрд
Размер весов: 24,5 ГБ
Лицензия: Своя лицензия
Архитектура: mistral · dense
Базовая модель: MN-12B-Inferor-v0.1
Библиотека: transformers
Опубликована: 31 дек 2024

Ссылки

Son-of-Rhodia

Генерация текстаТекст → текст3 профессии

Слитая 12,1-миллиардная модель Mistral для генерации текста, диалогов и ролевых сценариев с контекстом до 131 072 токенов.

27скачиваний за 30 дней3лайкавеса обновлены1 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

GPQA
GPQA Raw · выше — лучше
Результат
0,3129
Open LLM v2 · архив
Публичная таблицадругая ревизия
BBH
BBH Raw · выше — лучше
Результат
0,5097
Open LLM v2 · архив
Публичная таблицадругая ревизия
IFEval
IFEval Raw · выше — лучше
Результат
0,7046
Open LLM v2 · архив
Публичная таблицадругая ревизия
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат
0,3608
Open LLM v2 · архив
Публичная таблицадругая ревизия
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат
0,1314
Open LLM v2 · архив
Публичная таблицадругая ревизия
MUSR
MUSR Raw · выше — лучше
Результат
0,4203
Open LLM v2 · архив
Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TheDrunkenSnail/Son-of-Rhodia — текстовая генеративная модель на архитектуре Mistral, созданная методом SLERP-слияния моделей Infermatic/MN-12B-Inferor-v0.1 и allura-org/MN-12b-RP-Ink с помощью mergekit. Размер модели — 12,1 млрд параметров, формат весов — safetensors, библиотека — Transformers, длина контекста — до 131 072 токенов. Модель предназначена для текстовых диалогов и ролевых сценариев; для работы автор указывает шаблон ChatML и рекомендует параметры Min-P 0,1, температуру 0,5 и штраф за повторы 1,05.

Модель поддерживает генерацию текста и чат-взаимодействие. Базовая модель каталога описана как Mistral Nemo, дообученная на ролевых данных. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и лицензиях её компонентов. Качество, языки и специальные ограничения в предоставленных данных не описаны.

Сценарии применения

ведение текстового диалога в формате ChatML
создание и продолжение ролевых сценариев
генерация реплик персонажей
продолжение пользовательского текста
ответы в чат-приложениях

Ограничения

В предоставленных данных не указаны поддерживаемые языки и результаты оценки качества. Для модели указана лицензия other; условия использования следует уточнять по карточке модели и лицензиям компонентов слияния.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Info

Tested with:

Min-P: 0.1 Temp: 0.5 Repeat Penalty: 1.05 Repeat Penalty Tokens: 256 Prompt Template: ChatML

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the SLERP merge method.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

slices:
- sources:
  - model: Infermatic/MN-12B-Inferor-v0.1
    layer_range:
    - 0
    - 40
  - model: allura-org/MN-12b-RP-Ink
    layer_range:
    - 0
    - 40
merge_method: slerp
base_model: allura-org/MN-12b-RP-Ink
parameters:
  t:
  - filter: self_attn
    value:
    - 0
    - 0.5
    - 0.3
    - 0.7
    - 1
  - filter: mlp
    value:
    - 1
    - 0.5
    - 0.7
    - 0.3
    - 0
  - value: 0.5
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: ec3433a