Mixtral-модель cloudyu, дообученная методом DPO для генерации текста и более предпочтительных ответов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
cloudyu/Truthful_DPO_cloudyu_Mixtral_34Bx2_MoE_60B — языковая модель, созданная cloudyu дообучением cloudyu/Mixtral_34Bx2_MoE_60B методом Direct Preference Optimization (DPO) на наборе предпочтений jondurbin/truthy-dpo-v0.1. Модель построена на архитектуре Mixtral с разреженной схемой Mixture-of-Experts и содержит 33,9 млрд параметров.
Модель предназначена для генерации текста и ответов в диалоге; DPO-настройка направлена на улучшение соответствия ответов предпочтениям и правдивости. Заявленная длина контекста — 200 000 токенов. Доступные сведения не подтверждают конкретный набор поддерживаемых языков или специализированные прикладные области.
Веса опубликованы в формате Safetensors по лицензии MIT. Карточка не приводит результатов оценивания качества: README отмечает, что метрики не тестировались, поэтому их нельзя считать подтверждёнными.
README сообщает, что метрики не тестировались, поэтому качество модели не подтверждено результатами оценивания. Языки обучения или поддержки в карточке не установлены.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
DPO Trainer TRL supports the DPO Trainer for training language models from preference data, as described in the paper Direct Preference Optimization: Your Language Model is Secretly a Reward Model by Rafailov et al., 2023.
* Metrics NOT test!
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…