/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
23,4 млрд
Размер весов
47,1 ГБ
Архитектура
mistral · dense
Библиотека
transformers
Опубликована
7 фев 2025

Machina_24B.V2

Генерация текстаТекст → текст3 профессии

Слитая модель Mistral на 23,4 млрд параметров для диалоговой генерации и ролевых сценариев на русском и английском языках.

24скачиваний за 30 дней10лайковвеса обновлены7 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Machina_24B.V2 — слитая разговорная языковая модель семейства Mistral, созданная OddTheGreat на основе трёх моделей: huihui-ai/Mistral-Small-24B-Instruct-2501-abliterated, PocketDoc/Dans-DangerousWinds-V1.1.1-24b и trashpanda-org/MS-24B-Instruct-Mullein-v0. Она предназначена для генерации диалоговых ответов и ролевых сценариев, в том числе с мрачной, нейтральной или негативной тональностью.

Модель содержит 23,4 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Карточка сообщает о проверках на русском и английском языках; для русскоязычных карточек персонажей автор отмечает хорошую работу, а при смешении русского первого сообщения и английского описания возможны затруднения. Автор также предупреждает, что при подходящем запросе модель может выдавать жестокие и злые ответы. Файлы представлены в формате safetensors; библиотека — Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

Сценарии применения

  • ведение ролевого диалога с персонажем на русском языке
  • генерация мрачных и негативных ответов для художественных сценариев
  • создание диалогов персонажей на английском языке
  • продолжение беседы в формате ChatML

Ограничения

Автор отмечает возможные затруднения, когда карточка персонажа сочетает первое сообщение на русском с описанием на английском. При подходящем запросе модель может генерировать жестокие или злые ответы.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

merge

This is a merge of pre-trained language models.

This merge is better than v1. v1 machina will be deleted tomorrow.

Has neutral or negative bias, if prompt is good enough model can be evil and cruel. maybe even too cruel.

Main idea is to merge base mistral with something, and preserve base's ability to write on russian.

Secondary idea was to create model that will be not "friendship is magic" thing, to use in more "dark" scenarios.

Judging by the tests, i've succeeded with both ideas.

Model was tested on russian and on english with ~1000 responses, was stable and seems that it not lose original's "intellectual abilities", but maybe i'm just very lucky.

With char cards that have first message on russian, but whole description on english, model have some difficulties, but still able to answer on desired language.

With full ru cards model performs without issues.

Tested on T1.01 ChatML

I reccomend to use sphiratrioth666/SillyTavern-Presets-Sphiratrioth, for me it works very good with minor adjustments.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
f25780f

0 моделей