Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 71,5 млрд
- Размер весов
- 145 ГБ
- Архитектура
- qwen2 · dense
- Базовая модель
- Chronos-Platinum-72B
- Библиотека
- transformers
- Опубликована
- 23 ноя 2024
Ссылки
Q2.5-MS-Mistoria-72b-v2
Слитая на базе Qwen 2.5 диалоговая модель SteelSkull для генерации текста и создания историй.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Q2.5-MS-Mistoria-72b-v2 — диалоговая языковая модель SteelSkull, созданная слиянием нескольких моделей на базе Qwen 2.5 методом Model Stock. Она предназначена для диалогов и генерации связного текста, в частности для создания историй с попыткой сохранить общие интеллектуальные способности исходных моделей. Размер модели составляет 71,5 млрд параметров; архитектура — плотная Qwen2ForCausalLM, формат репозитория — safetensors, длина контекста — 32 768 токенов. Для работы используется формат Qwen.
Модель объединяет EVA-Qwen2.5-72B-v0.2, Nexusflow/Athene-V2-Chat, ZeusLabs/Chronos-Platinum-72B и shuttleai/shuttle-3. В метаданных заявлен интерфейс для вызова инструментов. Для этой версии указана лицензия Apache 2.0. Модель крупная и требует значительных вычислительных ресурсов; качество слияния и пригодность для конкретных сценариев могут различаться.
Сценарии применения
- создание художественных историй и сюжетов
- ведение диалогов с пользователем
- генерация связного текста по запросу
- интерактивное повествование
Ограничения
Размер 71,5 млрд параметров требует значительных вычислительных ресурсов. В README не приведены результаты бенчмарков или подробные сведения о качестве модели.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…
- Класс архитектуры
- Qwen2ForCausalLM
- Ревизия весов
- 3b30fcb