Дообученная методом DPO модель семейства Mixtral для генерации текста с учётом предпочтений.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
yunconglong/7Bx4_DPO — языковая модель семейства Mixtral, дообученная методом Direct Preference Optimization (DPO) на данных предпочтений truthy-dpo-v0.1. Модель предназначена для генерации текста и диалоговых сценариев, где важны ответы, согласованные с предпочтениями из обучающих данных.
В метаданных указаны архитектура MixtralForCausalLM типа Mixture of Experts, размер 7,1 млрд параметров и контекст до 32 768 токенов. Конфигурация задаёт выбор четырёх экспертов на токен; веса опубликованы в формате safetensors. Поддерживаемый язык в доступных сведениях не обозначен.
Модель распространяется по лицензии MIT. README не описывает оценку качества и возможные ошибки; ответы могут наследовать смещения и ограничения данных предпочтений.
README не содержит результатов оценки качества или подробностей поведения модели. Языковая поддержка и специализация на конкретных предметных областях не обозначены.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
DPO Trainer TRL supports the DPO Trainer for training language models from preference data, as described in the paper Direct Preference Optimization: Your Language Model is Secretly a Reward Model by Rafailov et al., 2023.
"num_experts_per_tok": 4
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…