Модель предпочтений PKU-Alignment оценивает стоимость и безопасность текстовых ответов для обучения с подкреплением на основе человеческой обратной связи.
Подходит для: оценка безопасности ответов языковой модели · оценка вредоносности или безвредности текстовых ответов · обучение моделей методом Safe RLHF