Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это экспериментальная версия Qwen2.5-7B-Instruct, дообученная Cooperleong00 методом ортогонализации весов для снятия защитных ограничений. Модель предназначена для исследований AI safety и выравнивания моделей, в том числе для проверки поведения языковых моделей на запросах, связанных с обходом защит. В дообучении использованы примеры JailBreakBench и Alpaca-cleaned; из JailBreakBench исключены примеры HarmfulBench.
Модель имеет плотную архитектуру Qwen2ForCausalLM с 7,1 млрд параметров, принимает текст и генерирует текст; контекст — до 32 768 токенов. Метаданные перечисляют поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Модель основана на Qwen/Qwen2.5-7B-Instruct и распространяется в формате safetensors по лицензии базовой модели. Ослабленные защитные ограничения делают её непригодной для безопасного пользовательского применения; в README автор заявляет исследовательскую цель выпуска.
Сценарии применения
проверка устойчивости языковых моделей к обходу защит
исследование поведения модели на вредоносных запросах
сравнение методов выравнивания и защитных ограничений
анализ влияния ортогонализации весов на ответы модели
Ограничения
Модель намеренно лишена части защитных ограничений и может выдавать вредоносный контент; автор указывает на исследовательское применение. README не сообщает лицензию этой производной модели, поэтому условия распространения следует сверить с карточкой и лицензией базовой модели.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This jailbroken LLM is released strictly for academic research purposes in AI safety and model alignment studies. The author bears no responsibility for any misuse or harm resulting from the deployment of this model. Users must comply with all applicable laws and ethical guidelines when conducting research.
A jailbroken Qwen2.5-7B-Instruct model using weight orthogonalization[1].
The model was jailbroken by a combination of JailBreakBench and Alpaca-cleaned datasets, with JailBreakBench samples from HarmfulBench excluded to allow for potential testing.
[1]: Arditi, Andy, et al. "Refusal in language models is mediated by a single direction." arXiv preprint arXiv:2406.11717 (2024).
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров