Vicuna-7B-v1.5 после безопасного забывания вредоносных вопросов, предназначенная для генерации текста с повышенной заявленной устойчивостью к jailbreak-атакам.
44скачиваний за 30 дней0лайковвеса обновлены8 июл 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
1
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
2
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
3
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
thu-coai/vicuna-7b-v1.5-safeunlearning — контрольная точка Vicuna-7B-v1.5 после безопасного забывания, выполненного командой THU COAI. Модель обучали на 100 исходных вредоносных вопросах; заявленная цель — повысить устойчивость к различным атакам обхода защитных ограничений, сохранив сопоставимые общие возможности исходной модели.
Это плотная авторегрессионная языковая модель семейства Llama с 6,6 млрд параметров, предназначенная для генерации текста. Она использует тот же формат запросов, что и Vicuna-7B-v1.5, и имеет контекст длиной до 4096 токенов. Репозиторий содержит веса в формате safetensors.
Модель подходит для диалоговой генерации и изучения методов безопасного забывания. Устойчивость к обходу защиты заявлена авторами, но карточка не приводит количественных оценок; модель не гарантирует безошибочную блокировку вредоносных запросов. Лицензия — MIT.
Сценарии применения
диалоговая генерация текста в формате Vicuna
изучение методов безопасного забывания вредоносных запросов
эксперименты по устойчивости языковых моделей к jailbreak-атакам
Ограничения
Заявление об устойчивости к jailbreak-атакам не сопровождается количественными результатами в карточке. Повышенная безопасность не гарантирует блокировку всех вредоносных запросов.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This repository provides the checkpoint of Vicuna-7B-v1.5 after safe unlearning with 100 raw harmful questions during training (safe unlearning paper, safe unlearning code). This model is significantly more safe against various jailbreak attacks than the original model while maintaining comparable general performance.
Uses
The prompt format is the same as the original Vicuna-7B-v1.5, so you can use this model in the same way. Also refer to our Github Repository for example code.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров