JailJudge-guard
usail-hkust·Генерация текста
JAILJUDGE Guard — дообученная модель Llama для объяснимой оценки jailbreak-атак и уязвимости ответов языковых моделей.
Подходит для: оценка того, обошёл ли запрос защиту языковой модели · выдача объяснения и балла риска для ответа LLM · аудит устойчивости чат-моделей к jailbreak-атакам
Загрузки на Hugging Face · 434Лайки · 4Контекст · 2 048 токеновВыход на Hugging Face · 30 сен 2024