Производная модели vistagi/Mixtral-8x7b-v0.1-dpo. Разговорная модель Mixtral для генерации ответов на текстовые запросы, с контекстом до 32 768 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Карточка модели vistagi/Mixtral-8x7b-v0.1-sft на Hugging Face совпадает с карточкой vistagi/Mixtral-8x7b-v0.1-dpo, поэтому описание составлено по ней.
vistagi/Mixtral-8x7b-v0.1-dpo — разговорная языковая модель семейства Mixtral, представленная как модель генерации текста. В карточке указано обучение на базе Mixtral-8x7b-v0.1 с использованием LoRA; метаданные описывают архитектуру как MoE и указывают 7,1 млрд параметров. Модель рассчитана на диалоговые сценарии и генерацию ответов по текстовым запросам.
Её можно применять для ведения диалога и создания текстовых ответов на английском языке. Контекстное окно составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. README описывает supervised fine-tuning на Ultrachat-200K, тогда как в метаданных указан датасет UltraFeedback; поэтому конкретный режим обучения именно этой версии DPO по доступным сведениям подтвердить нельзя.
В README описан supervised fine-tuning на Ultrachat-200K с LoRA, а метаданные связывают модель с UltraFeedback; точную процедуру обучения версии DPO подтвердить нельзя. Карточка не приводит оценки качества или подробные рекомендации по использованию.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model vistagi/Mixtral-8x7b-v0.1-sft is trained with Ultrachat-200K dataset through supervised finetuning using Mixtral-8x7b-v0.1 as the baseline model. The training is done with bfloat16 precision using LoRA.
Used Librarys
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…