Диалоговая Mixtral MoE, дообученная методом DPO для генерации текстовых ответов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
cloudyu/Mixtral-8x7B-Instruct-v0.1-DPO — диалоговая модель генерации текста на архитектуре Mixtral MoE, дообученная автором cloudyu методом Direct Preference Optimization (DPO) на основе mistralai/Mixtral-8x7B-Instruct-v0.1. По README, после 100 шагов DPO-обучения улучшились метрики Truthful DPO; также приведены результаты оценивания на задачах рассуждения и понимания текста. Модель предназначена для диалоговых ответов и генерации текста.
Она принимает текст и выдаёт текст; заявленный контекст составляет 32 768 токенов, формат весов — safetensors, лицензия — Apache-2.0. Метаданные указывают поддержку английского, французского, итальянского, немецкого и испанского языков. Данных о специализированной области применения нет. README содержит ограниченные результаты бенчмарков, поэтому они не гарантируют качество на других задачах.
В README приведены результаты отдельных тестов, но они не подтверждают качество на широком наборе практических задач. Набор поддерживаемых языков указан в метаданных; качество отдельно для каждого языка не описано.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
try to improve mistralai/Mixtral-8x7B-Instruct-v0.1 by DPO training
Metrics improved by Truthful DPO traingin after 100 steps
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 73.44 |
| AI2 Reasoning Challenge (25-Shot) | 69.80 |
| HellaSwag (10-Shot) | 87.83 |
| MMLU (5-Shot) | 71.05 |
| TruthfulQA (0-shot) | 69.18 |
| Winogrande (5-shot) | 81.37 |
| GSM8k (5-shot) | 61.41 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…