Модель оценки предпочтений ответов для обучения Beaver-систем безопасному RLHF на наборе PKU-SafeRLHF.
Подходит для: оценка предпочтительности ответов языковой модели · формирование сигнала вознаграждения для обучения RLHF · обучение диалоговой модели отвечать полезнее и безопаснее