Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 23,4 млрд
- Размер весов
- 47,1 ГБ
- Лицензия
- Apache 2.0
- Архитектура
- mistral · dense
- Базовая модель
- Mistral-Small-24B-Base-2501
- Библиотека
- transformers
- Опубликована
- 17 фев 2025
Ссылки
Dans-PersonalityEngine-V1.2.0-24b
Дообученная 24-миллиардная модель Mistral для ролевого общения, совместного написания историй, диалоговых инструкций и генерации текста.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки6
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат0,5026
Open LLM v2 · архивПубличная таблицадругая ревизия
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат0,2455
Open LLM v2 · архивПубличная таблицадругая ревизия
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Dans-PersonalityEngine-V1.2.0-24b — дообученная PocketDoc модель семейства Mistral на базе mistralai/Mistral-Small-24B-Base-2501. Это плотная языковая модель с 23,4 млрд параметров, рассчитанная на генерацию текста; она принимает текст и выдаёт текст. Модель обучалась на инструкциях в одном и нескольких ходах, использовании инструментов, ролевых сценариях, текстовых приключениях и совместном написании. В карточке заявлены также анализ тональности и суммаризация как задачи для конвейеров.
Модель предназначена прежде всего для ролевого общения, соавторства и продолжения историй, а также для диалоговых инструкций, генерации кода и задач общего назначения. Она поддерживает контекст до 32 768 токенов и ориентирована на английский язык. Для диалогов рекомендуется формат ChatML с ролями system, user и assistant.
Автор предупреждает о возможных проблемах с автоматической вставкой начального токена BOS: в некоторых бэкендах его отсутствие может приводить к несвязным ответам или повторению пользовательского текста; в таком случае рекомендуется попробовать добавить <s> в начало контекста. Модель распространяется по лицензии Apache-2.0.
Сценарии применения
- ролевые диалоги с персонажами
- совместное написание и продолжение историй
- генерация текстовых приключений
- ответы на многошаговые инструкции
- суммаризация текста
- анализ тональности
- генерация кода
Ограничения
В некоторых бэкендах могут возникать несвязные ответы или повторение входного текста, если не добавляется начальный токен BOS; автор рекомендует проверить генерацию с <s> в начале контекста. В первую очередь модель ориентирована на английский язык.
Для каких профессий подходит8
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…
- Класс архитектуры
- MistralForCausalLM
- Ревизия весов
- 43ca915