Дообученная методом DPO MoE-языковая модель для генерации текста с настройкой на предпочтение правдивых ответов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
yunconglong/Truthful_DPO_TomGrc_FusionNet_7Bx2_MoE_13B — языковая модель Yunconglong, дообученная методом Direct Preference Optimization (DPO) на наборе предпочтений jondurbin/truthy-dpo-v0.1 на основе TomGrc/FusionNet_7Bx2_MoE_14B. Модель предназначена для генерации текста и диалоговых сценариев, где важны ответы, согласованные с предпочтениями обучающих данных.
Архитектура — Mixtral-подобная авторегрессионная модель с MoE; в метаданных указан размер 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса Safetensors. Карточка не сообщает о поддерживаемых языках или специальных мультимодальных возможностях.
Модель распространяется по лицензии MIT. DPO-настройка ориентирована на правдивые ответы, однако сама по себе не гарантирует фактическую точность; качество может зависеть от запроса и данных обучения.
Настройка на предпочтение правдивых ответов не гарантирует фактическую точность. В карточке не указаны поддерживаемые языки и результаты оценки качества.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
DPO Trainer TRL supports the DPO Trainer for training language models from preference data, as described in the paper Direct Preference Optimization: Your Language Model is Secretly a Reward Model by Rafailov et al., 2023.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…