/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
1,5 млрд
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Базовая модель
Qwen2.5-Coder-1.5B-Instruct
Библиотека
transformers
Опубликована
10 сен 2026

Qwen2.5-Coder-1.5B-Instruct-heretic

Генерация текстаТекст → текст8 профессий

Qwen2.5-Coder-1.5B-Instruct-heretic — декензурированная версия Qwen2.5-Coder-1.5B-Instruct, опубликованная saidutta69 и созданная RACER IS OP с использованием Heretic 1.4.0.

1 334скачиваний за 30 дней0лайковвеса обновлены13 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель ориентирована на генерацию и анализ кода, локальные coding agents, copilot-сценарии и прямые ответы на программные запросы. Базовая модель разработана командой Qwen; в карточке указана поддержка английского языка.

Модель содержит 1,5 млрд параметров и поставляется в формате GGUF, включая варианты от F16 до Q2_K, что позволяет запускать её на CPU, Apple Silicon и видеокартах с небольшим объёмом VRAM. Она совместима с llama.cpp, Ollama, LM Studio, Jan, Transformers, vLLM и SGLang. Декензурирование выполнено направленным изменением весов в проекциях attention и MLP без дообучения, поэтому заявляется сохранение большей части исходных знаний и следования инструкциям. Размер контекста в README не указан.

Ключевая особенность — подавление отказов: в приведённом сравнении модель отказала в 5 из 100 тестовых запросов против 95 из 100 у исходной версии. Это может быть полезно для локальной разработки и экспериментов, но одновременно означает отсутствие встроенной фильтрации безопасности и повышенный риск нежелательной генерации. Модель сохраняет фактические ограничения и предвзятость базовой версии, а небольшой размер может ограничивать качество сложных задач. Лицензия — Apache-2.0.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen2.5-Coder-1.5B-Instruct-heretic

A decensored variant of Qwen/Qwen2.5-Coder-1.5B-Instruct, produced with Heretic v1.4.0 (directional ablation / "abliteration"). Refusal behavior is suppressed via targeted weight edits to the attention output and MLP down-projections rather than fine-tuning, so the base model's knowledge and instruction-following are left largely intact.

Who this is for: developers who want Qwen's 1.5B code-focused model without the refusal guardrails — for local coding agents, copilot-style assistance, and code generation that answers directly. At 1.5B it runs anywhere, including CPU-only machines and low-VRAM GPUs via GGUF.

Runs on your gaming PC

Full GGUF ladder included — pick the quant that fits your card:

Your GPURecommended quantWeights
RTX 3060 / 4070 / 5070 (12 GB)Q8_01.65 GB
RTX 4060 / 3070 (8 GB)Q6_K1.27 GB
GTX 1660 Super / 2060 / 3050 laptop (6 GB)Q5_K_M1.13 GB
CPU-only / Apple SiliconQ4_K_Mfits in system RAM

Weights only, at this model's 1.5B native size; add ~1 GB for context. OOM? Drop one quant level. Headroom to spare? Go one up.

Abliteration parameters

ParameterValue
direction_index18.15
attn.o_proj.max_weight1.29
attn.o_proj.max_weight_position16.86
attn.o_proj.min_weight1.06
attn.o_proj.min_weight_distance14.41
mlp.down_proj.max_weight1.01
mlp.down_proj.max_weight_position24.99
mlp.down_proj.min_weight0.88
mlp.down_proj.min_weight_distance15.30

Performance

MetricThis modelOriginal model (Qwen/Qwen2.5-Coder-1.5B-Instruct)
KL divergence0.02780 (by definition)
Refusals5/10095/100

Made with ❤️ by RACER IS OP — follow for more uncensored models

Files

GGUF quantizations

Full quantization set (14 quants + F16) produced with llama.cpp.

FileFormatSize
Qwen2.5-Coder-1.5B-Instruct-heretic-F16.ggufGGUF F163.09 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q2_K.ggufGGUF Q2_K0.68 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-IQ3_S.ggufGGUF IQ3_S0.76 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q3_K_S.ggufGGUF Q3_K_S0.76 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q3_K_M.ggufGGUF Q3_K_M0.82 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q3_K_L.ggufGGUF Q3_K_L0.88 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-IQ4_XS.ggufGGUF IQ4_XS0.90 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q4_K_S.ggufGGUF Q4_K_S0.94 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q4_0.ggufGGUF Q4_00.93 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q4_1.ggufGGUF Q4_11.02 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q4_K_M.ggufGGUF Q4_K_M0.99 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q5_K_S.ggufGGUF Q5_K_S1.10 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q5_K_M.ggufGGUF Q5_K_M1.13 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q6_K.ggufGGUF Q6_K1.27 GB
Qwen2.5-Coder-1.5B-Instruct-heretic-Q8_0.ggufGGUF Q8_01.65 GB

Loads natively in llama.cpp / Ollama / LM Studio / Jan.

Run llama serve -hf saidutta69/Qwen2.5-Coder-1.5B-Instruct-heretic to pull the default quant.

Quickstart

# llama.cpp
llama serve -hf saidutta69/Qwen2.5-Coder-1.5B-Instruct-heretic
# transformers
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "saidutta69/Qwen2.5-Coder-1.5B-Instruct-heretic"
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype="auto", device_map="auto")
tokenizer = AutoTokenizer.from_pretrained(model_name)

messages = [{"role": "user", "content": "Write a quick sort in Python."}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, tokenize=True,
                                        return_dict=True, return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(out[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True))

Also runnable via Ollama, LM Studio, Jan, vLLM, SGLang.

Responsible use

Refusal suppression is deliberate and works as intended: this model will comply with requests the base model would refuse, including some it shouldn't. There is no safety filtering layered on top. You are responsible for how you deploy it — don't put this behind an unmoderated public-facing endpoint serving third parties. It inherits Qwen2.5-Coder-1.5B-Instruct's factual limitations and biases; abliteration removes refusal directions, it doesn't add capability or judgment.

License

Inherits the apache-2.0 license from the base model.

Related


Base model: Qwen2.5-Coder-1.5B-Instruct

See the base model card at Qwen/Qwen2.5-Coder-1.5B-Instruct for the original architecture, training details, requirements, and citation.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
0b312b7

0 моделей