/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen2.5-Coder-7B-Instruct
Библиотека
gguf
Опубликована
1 апр 2026

qwen-coder-jailbreak

Генерация текстаТекст → текст6 профессий

agustindxm/qwen-coder-jailbreak — локальная GGUF-версия Qwen2.5-Coder-7B-Instruct, разработанная на основе модели Qwen от Alibaba Cloud.

654скачиваний за 30 дней5лайковвеса обновлены18 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель обработана методом abliteration с использованием Heretic: из residual stream удалено направление, связанное с отказами, без применения LoRA или полноценного дообучения. Пакет подготовлен agusisa/agustindxm и предназначен прежде всего для исследовательских и образовательных задач.

Модель ориентирована на генерацию кода, технические вопросы, исследования alignment и отказоустойчивости, red-team-тестирование с разрешения владельца системы, а также разработку детекторов и контрмер. Заявлены английский и испанский языки. Доступны файлы в формате GGUF: квантизация Q4_K_M размером 4,4 ГБ и вариант F16 размером 14,2 ГБ. Базовая модель поддерживает контекст до 32 000 токенов, однако в приведённой конфигурации Ollama установлено ограничение 8192 токена. Для работы используются llama.cpp, LM Studio или Ollama с шаблоном чата Qwen2.

Среди заявленных характеристик — 96% успешных срабатываний jailbreak в тесте Heretic и небольшое расхождение с базовой моделью по KL divergence, равное 0,0339, что указывает на преимущественно сохранённое качество исходной модели. Основные ограничения — отсутствие встроенных защитных ограничений в прежнем объёме и повышенный риск небезопасных ответов; модель не рекомендуется для публичных чат-ботов без собственных фильтров, незаконной деятельности или неконтролируемого применения. Распространяется по лицензии Apache 2.0, как и базовая модель.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Evil Ganda: Qwen 2.5 Coder 7B (abliterated)

Uncensored GGUF of Qwen/Qwen2.5-Coder-7B-Instruct, produced with Heretic abliteration (steering-vector orthogonalization).

Research and education only. Guardrails are reduced. Do not use for illegal activity or unattended public deploy.

Code, bots, and writeup: agusisa/qwen-coder-jailbreak

Files

FileQuantSizeNotes
qwen-jailbreak-q4.ggufQ4_K_M4.4 GBDefault. Best size/quality for local use
qwen-jailbreak-f16.ggufF1614.2 GBFull precision sibling

No safetensors / Transformers weights in this repo. GGUF only.

Results (Heretic trial 61)

MetricValue
Jailbreak rate96% (4/100 refusals on Heretic's eval)
KL divergence0.0339 vs base (quality mostly intact)
OptimizerOptuna, 100 trials, ~20 min on RTX 4090
Cost to produceabout $1.50 on RunPod
Speed (Q4, Mac M4 Pro)15-25 tok/s
Context in the Ollama Modelfile8192 (base supports 32k)

Method: Heretic v1.2.0, refusal direction orthogonalized out of residual-stream weights. Not a LoRA and not a fine-tune.

Quick start (Ollama)

hf download agustindxm/qwen-coder-jailbreak qwen-jailbreak-q4.gguf

Modelfile:

FROM ./qwen-jailbreak-q4.gguf

TEMPLATE """{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
"""

PARAMETER stop "<|im_start|>"
PARAMETER stop "<|im_end|>"
PARAMETER temperature 0.8
PARAMETER top_p 0.9
PARAMETER num_ctx 8192
ollama create evil-ganda -f Modelfile
ollama run evil-ganda

llama.cpp / LM Studio: load qwen-jailbreak-q4.gguf directly. Chat template is Qwen2 (<|im_start|> / <|im_end|>).

Intended use

  • Alignment / refusal research
  • Red-team and authorized security testing
  • Building detectors and countermeasures
  • Unfiltered technical Q&A in a controlled lab

Not for: crime, malware, public chatbots without your own filters, or anything that violates local law.

License

Apache 2.0, same as the Qwen 2.5 Coder base. © Alibaba Cloud for the original weights. Abliteration and this packaging: agusisa / agustindxm, 2026.

@software{evil_ganda_2026,
  title={Evil Ganda: Qwen 2.5 Coder 7B Jailbreak via Heretic Abliteration},
  author={agusisa},
  year={2026},
  url={https://github.com/agusisa/qwen-coder-jailbreak},
  note={96\% jailbreak rate, KL divergence 0.0339}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
7db1f9a

0 моделей