Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Panacea on UltraFeedback — экспериментальный вариант Llama 3.1 8B Instruct, разработанный для исследования многоцелевого согласования ответов. В модели применены DPO и линейная скаляризация предпочтений: SVD-LoRA сохраняет 8 предпочтение-независимых сингулярных значений, а в остальные внедряется вектор предпочтений. Итоговая модель объединена в рабочей точке, выбранной только по проверочным запросам.
Модель предназначена для генерации диалоговых ответов с учётом следования инструкциям, правдивости, честности и полезности. Она обучалась на UltraFeedback в течение 300 обновлений оптимизатора с глобальным размером пакета 16. В статье NBPO приведена оценка по независимым показателям выигрыша для каждой цели на отложенных запросах, не пересекающихся с обучающими; ответы оценивала Llama 3.3 70B Instruct в обоих порядках предъявления.
Это плотная причинная языковая модель семейства Llama с 7,5 млрд параметров, принимающая и генерирующая текст; метаданные указывают контекст до 131 072 токенов. Для использования применяются библиотека Transformers и формат Safetensors. Лицензия — Llama 3.1. Результаты относятся к описанному протоколу оценки и сами по себе не гарантируют качество во всех сценариях.
Сценарии применения
генерация ответов на пользовательские инструкции
настройка диалогового помощника под несколько критериев качества
сравнение методов согласования ответов на UltraFeedback
оценка правдивости и полезности ответов языковой модели
Ограничения
Обучение и оценка описаны для UltraFeedback и ограниченного бюджета в 300 обновлений; это не подтверждает качество в иных задачах и распределениях запросов. Язык модели в карточке не указан явно, поэтому конкретные языки здесь не перечислены.
Для каких профессий подходит5
Разделы каталога профессий, в задачах которых используется эта модель
Panacea (Zhong et al., NeurIPS 2024) with the DPO procedure and linear scalarisation: SVD-LoRA with k=8 preference-agnostic singular values and the preference vector injected as the remaining singular values, merged at the operating point chosen on validation prompts only.
Evaluation protocol: independent objective-wise win rate against the common reference,
judged by Llama-3.3-70B-Instruct on prompt-disjoint held-out prompts, both presentation orders.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров