Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 71,5 млрд
- Размер весов
- 145 ГБ
- Архитектура
- qwen2 · dense
- Базовая модель
- shuttle-3
- Библиотека
- transformers
- Опубликована
- 14 ноя 2024
Ссылки
Q2.5-MS-Mistoria-72b
Экспериментальная объединённая модель Qwen 2.5 на 71,5 млрд параметров для диалогов и генерации связных историй.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Q2.5-MS-Mistoria-72b — экспериментальная объединённая языковая модель, созданная SteelSkull методом Model Stock на основе нескольких моделей Qwen 2.5. В составе слияния указаны EVA-Qwen2.5-72B-v0.1, Chronos-Platinum-72B и shuttle-3; в метаданных также приведена связь с Qwen2.5-72B-Instruct-abliterated-v2. Модель предназначена для генерации текста и диалогов, с акцентом на связное повествование при сохранении общих языковых способностей.
Это плотная авторегрессионная модель семейства Qwen2 с 71,5 млрд параметров и контекстом 32 768 токенов. Карточка рекомендует формат запросов Qwen и описывает слияние как попытку совместить сильные стороны входящих моделей. Доступны веса в формате safetensors; сторонние квантованные сборки перечислены в README.
Модель выпущена под лицензией Apache-2.0. README описывает её как первую попытку автора создать модель такого размера, поэтому качество и устойчивость результатов могут варьироваться; также заявленная цель повествования не сопровождается количественными оценками.
Сценарии применения
- генерация художественных историй и сцен
- ролевая переписка с персонажами
- ведение диалогов в формате Qwen
- продолжение заданного текста
- создание развёрнутых ответов на текстовые запросы
Ограничения
Автор характеризует выпуск как первую попытку создать модель на 72 млрд параметров; качество повествования и сохранение общих способностей не подкреплены оценками. Для работы с запросами README рекомендует формат Qwen.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…
- Класс архитектуры
- Qwen2ForCausalLM
- Ревизия весов
- e2ff2ba