/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
11,6 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5_moe · dense
Базовая модель
Qwen3-VL-30B-A3B-Thinking
Библиотека
mlx
Опубликована
17 апр 2026

Qwen3.6-35B-A3B-JANGTQ2-CRACK

Изображение и текст → текст13 профессий

Квантованная мультимодальная модель Qwen для диалога и анализа текста, изображений и видео на устройствах Apple Silicon.

277скачиваний за 30 дней10лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это мультимодальная модель Qwen 3.6 35B-A3B от dealignai, созданная на основе Qwen/Qwen3-VL-30B-A3B-Thinking. Она предназначена для диалога и анализа текста, изображений и видео, включая задачи визуального понимания и вызова инструментов. Модель имеет архитектуру MoE с 35 млрд параметров и примерно 3 млрд активных на токен, 256 маршрутизируемых экспертов и гибридное сочетание линейного и полнослойного внимания. Контекст составляет 262 144 токена; доступны режимы рассуждений с включением и отключением через enable_thinking. Карточка заявляет поддержку английского и китайского языков.

Веса квантованы в формате JANGTQ2: маршрутизируемые эксперты используют 2-битное кодирование TurboQuant, а чувствительные к точности компоненты сохраняют 8-битное представление; визуальная башня оставлена в fp16. Репозиторий занимает около 11 ГБ и предназначен для запуска на Apple Silicon через MLX Studio или jang-tools. По заявлению автора, CRACK — это весовая абляция, удаляющая усвоенные отказы в ответах; вследствие этого модель может выдавать контент, который базовая модель отклонила бы. Квантование до 2 бит уменьшает размер, но может снижать точность для сложных рассуждений. Лицензия — Apache-2.0.

Сценарии применения

  • ответы на вопросы по содержимому изображений
  • описание сцен и визуальных объектов
  • анализ видеоматериалов
  • диалоговый помощник с режимом рассуждений
  • вызов инструментов в агентных сценариях

Ограничения

Экстремальное 2-битное квантование может ухудшать точность в сложных задачах рассуждения. Весовые отказы от защитных ограничений удалены, поэтому модель может отвечать на опасные или чувствительные запросы.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Important: This model uses the JANGTQ (JANG TurboQuant) quantization format — an extreme-compression variant of JANG for MLX on Apple Silicon that uses codebook + Hadamard rotation on routed MoE experts while keeping attention, SSM, shared_expert, embed and lm_head at affine 8-bit. Currently only supported by MLX Studio and the jang-tools Python package. Follow @dealignai for new releases.




Qwen 3.6 35B-A3B — JANGTQ2 + CRACK

JANGTQ TurboQuant mixed-precision | CRACK abliterated | Vision + Video | Hybrid SSM/Attention MoE | 11 GB


What Is This?

This is Qwen 3.6 35B-A3B — a 35B-parameter Mixture-of-Experts vision-language model with 256 routed experts (10 active per token), hybrid linear + full-attention architecture, and native image + video understanding.

It has been:

  1. JANGTQ quantized — JANGTQ2 profile (8-bit affine precision paths, 2-bit TurboQuant routed experts with codebook + Hadamard rotation, fp16 vision tower) — 11 GB
  2. CRACK abliterated — permanent weight-level removal of safety refusal
Base modelQwen 3.6 35B-A3B MoE VL (35B total, ~3B active, 256 routed experts)
QuantizationJANGTQ2 — 11 GB
MMLU-20073.00% (Q2 base: 72.50% → +0.5pp, surgery neutral)
HarmBench-32093.75%
Vision27-layer ViT preserved in fp16 (image + video)
Context262,144 native; up to ~1M with YaRN
ReasoningToggleable via enable_thinking
Speed56 tok/s (MacBook Pro); targets 100+ tok/s on M3 Ultra
Fits on16 GB+ Macs

MMLU-200 Results (thinking OFF)

SubjectCRACKQ2 BaseDelta
Logical Fallacies19/20 (95%)19/200
Astronomy19/20 (95%)18/20+1
World Religions19/20 (95%)18/20+1
High School Biology18/20 (90%)18/200
High School Chemistry15/20 (75%)15/200
Anatomy15/20 (75%)15/200
College Physics14/20 (70%)13/20+1
College Computer Science12/20 (60%)12/200
High School Mathematics10/20 (50%)11/20-1
Abstract Algebra5/20 (25%)6/20-1
Total146/200 (73.0%)145/200 (72.5%)+0.5pp

CRACK is capability-neutral on Q2 — quantization noise absorbs surgery directional damage. Small positive net result; gains on astronomy / religions / physics offset losses on algebra / math.


HarmBench-320 Results

CategoryScore
Copyright80/80100.0%
Misinformation / Disinformation54/54100.0%
Harmful18/18100.0%
Cybercrime / Intrusion51/5298.1%
Chemical / Biological37/4288.1%
Illegal43/5381.1%
Harassment / Bullying17/2181.0%
Total300/32093.75%

Zero EMPTY verdicts across all 320 prompts (Q2 quantization noise disrupts the chorus-repetition pattern that produces false-EMPTY flags on Q4). Q2 actually scores higher than Q4 (93.8% vs 90.3%) on harmful, cybercrime, chem-bio.


JANG CRACK Qwen 3.6 Series

ModelFormatSizeMMLUHarmBenchFits on
JANGTQ4 + CRACKTurboQuant 4-bit experts18 GB73.5%90.3%24 GB Mac
JANGTQ2 + CRACK (this model)TurboQuant 2-bit experts11 GB73.0%93.8%16 GB Mac

About JANGTQ

JANGTQ (JANG TurboQuant) is an extreme-compression variant of JANG that replaces affine quantization on routed MoE experts with codebook quantization + random Hadamard rotation. Precision-critical paths stay at affine 8-bit; routed experts use packed codebook indices with tiny Lloyd-Max codebooks per layer, fused dequant + matmul Metal kernels.

For Qwen 3.6 35B-A3B, JANGTQ2 brings the model to 11 GB while keeping the vision tower at fp16 for image + video understanding — smallest Qwen 3.6 CRACK variant that maintains coherence.

About CRACK

CRACK is a permanent weight-level abliteration that removes safety refusal without touching the TurboQuant codebook or vision tower. Multilingual (EN + ZH) refusal direction extraction means the model complies on both English and Chinese prompts.


Reasoning ON / OFF

The chat template respects enable_thinking. Recommend ON for complex reasoning, OFF for short answers / benchmarks / tool use.

# Thinking ON (default — full chain-of-thought)
messages = [{"role": "user", "content": "Derive 47 * 23 step by step"}]
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
# → emits <think>...</think> then the answer

# Thinking OFF (direct answer, no <think> block)
prompt = tokenizer.apply_chat_template(messages, tokenize=False,
                                       add_generation_prompt=True,
                                       enable_thinking=False)
# → skips <think>, answers directly

All MMLU-200 and HarmBench-320 scores above were measured with thinking OFF for consistent short-form grading.

Notes

  • Thinking mode: Supported via enable_thinking kwarg. Thinking OFF is recommended for short-answer tasks (MMLU, direct instructions). Thinking ON works for extended reasoning.
  • Vision: 27-layer ViT preserved in fp16. Image + video inputs work normally through mlx_vlm.
  • Context length: 262,144 native; extend via YaRN if your inference engine supports it.
  • Quant trade-off: Q2 favors compliance throughput (zero EMPTYs, 93.8% HB) and edge-device fit (11 GB) over per-token precision. For heavier reasoning workloads consider JANGTQ4 (+7 GB, same precision paths).

Support dealignai

All models are built from original research and published for free. These models are specifically crafted to be excellent coders and general-purpose assistants.

Support us on Ko-fi — check out the Ko-fi membership for early access and extras.



Disclaimer

This model has had its safety refusal circuits removed. It will produce responses that would normally be refused, including technical content on security testing, dual-use research, and sensitive topics. You are responsible for how you use it.

The CRACK abliteration process does not add new capabilities — it only removes the model's learned refusal patterns. All knowledge, including the knowledge used to produce unsafe outputs, was already present in the base Qwen model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3_5MoeForConditionalGeneration
Ревизия весов
b4eb358

0 моделей