Классификатор HarmBench на базе Llama 2 оценивает соответствие текстовых генераций заданному стандартному или контекстному поведению.
Подходит для: проверка ответов языковой модели на заданное поведение · классификация потенциально вредоносных генераций · оценка безопасности ответов чат-бота