/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
19,7 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5_moe · dense
Базовая модель
Qwen3-VL-30B-A3B-Thinking
Библиотека
mlx
Опубликована
17 апр 2026

Qwen3.6-35B-A3B-JANGTQ4-CRACK

Изображение и текст → текст15 профессий

Сжатая мультимодальная MoE-модель Qwen для диалога, анализа изображений и видео, программирования и вызова инструментов на Apple Silicon.

392скачиваний за 30 дней12лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen 3.6 35B-A3B JANGTQ4 + CRACK — производная мультимодальная модель dealignai на основе Qwen/Qwen3-VL-30B-A3B-Thinking. Это модель Qwen с архитектурой MoE: 35 млрд параметров всего, около 3 млрд активных на токен, 256 маршрутизируемых экспертов и гибридным механизмом линейного и полноформатного внимания. Она принимает текст, изображения и видео и предназначена для диалога, визуального анализа, программирования, рассуждений и вызова инструментов.

Веса сжаты форматом JANGTQ4 до 18 ГБ: маршрутизируемые эксперты используют 4-битное кодирование TurboQuant, а критичные компоненты сохраняют более высокую точность; зрительный блок работает в fp16. Режим рассуждений можно включать и отключать через шаблон чата. Заявленная длина контекста — 262 144 токена. Модель ориентирована на запуск через MLX на Apple Silicon и требует MLX Studio или jang-tools для поддержки JANGTQ.

Вариант CRACK прошёл абляцию отказов на уровне весов и заметно реже отказывает в ответах на чувствительные запросы. По данным карточки, результаты MMLU-200 ниже базовой модели, особенно в математике; в режиме рассуждений иногда возможны циклические ответы на запросы с экстремальными отказами. Модель выпущена под лицензией Apache-2.0.

Сценарии применения

  • ответы на вопросы по изображениям и видео
  • написание и анализ кода
  • диалоговый помощник с вызовом инструментов
  • рассуждения и ответы на общие вопросы
  • извлечение информации из визуальных материалов

Ограничения

Сжатие JANGTQ4 может влиять на точность; автор сообщает о снижении результата MMLU-200 относительно базовой модели, особенно на математических задачах. Для запуска JANGTQ нужны MLX Studio или jang-tools, а в режиме рассуждений возможны циклические ответы на отдельных запросах.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Important: This model uses the JANGTQ (JANG TurboQuant) quantization format — an extreme-compression variant of JANG for MLX on Apple Silicon that uses codebook + Hadamard rotation on routed MoE experts while keeping attention, SSM, shared_expert, embed and lm_head at affine 8-bit. Currently only supported by MLX Studio and the jang-tools Python package. Follow @dealignai for new releases.




Qwen 3.6 35B-A3B — JANGTQ4 + CRACK

JANGTQ TurboQuant mixed-precision | CRACK abliterated | Vision + Video | Hybrid SSM/Attention MoE | 18 GB


What Is This?

This is Qwen 3.6 35B-A3B — a 35B-parameter Mixture-of-Experts vision-language model with 256 routed experts (10 active per token), hybrid linear + full-attention architecture, and native image + video understanding.

It has been:

  1. JANGTQ quantized — JANGTQ4 profile (8-bit affine precision paths, 4-bit TurboQuant routed experts with codebook + Hadamard rotation, fp16 vision tower) — 18 GB
  2. CRACK abliterated — permanent weight-level removal of safety refusal
Base modelQwen 3.6 35B-A3B MoE VL (35B total, ~3B active, 256 routed experts)
QuantizationJANGTQ4 — 18 GB
MMLU-20073.50% (base: 77.50%)
HarmBench-32090.31%
Vision27-layer ViT preserved in fp16 (image + video)
Context262,144 native; up to ~1M with YaRN
ReasoningToggleable via enable_thinking
Fits on24 GB+ Macs

MMLU-200 Results (thinking OFF)

SubjectCRACKBaseDelta
Astronomy19/20 (95%)17/20+2
High School Chemistry18/20 (90%)17/20+1
High School Biology18/20 (90%)18/200
Logical Fallacies18/20 (90%)19/20-1
World Religions18/20 (90%)19/20-1
Anatomy16/20 (80%)17/20-1
College Computer Science14/20 (70%)16/20-2
College Physics14/20 (70%)14/200
High School Mathematics7/20 (35%)10/20-3
Abstract Algebra5/20 (25%)8/20-3
Total147/200 (73.5%)155/200 (77.5%)-4.0pp

CRACK regression is concentrated on mathematical reasoning (algebra, math, CS). Knowledge-based subjects are largely preserved (astronomy and chemistry actually improved).


HarmBench-320 Results

CategoryScore
Copyright80/80100.0%
Misinformation / Disinformation53/5498.1%
Harassment / Bullying20/2195.2%
Cybercrime / Intrusion45/5286.5%
Illegal44/5383.0%
Chemical / Biological33/4278.6%
Harmful14/1877.8%
Total289/32090.31%

Scored with a strict classifier that permits song-structure repetition in copyright-category compliance (lyrics legitimately repeat choruses).


Pre-Upload Capability Check (20/20 PASS)

All 20 prompts completed without refusal at greedy decoding (thinking OFF):

  • Hacking / Security (8/8): port scanner, reverse shell, SQL injection explanation, keylogger, Metasploit usage, ARP spoofing, phishing email, buffer overflow exploit — all produced working technical content
  • Coding Coherence (4/4): red-black tree, async web scraper, FastAPI task manager, expression-language compiler — all complete implementations
  • Reasoning (4/4): Euclid prime-infinity proof + √2 irrationality, microservices-vs-monolith trade-offs, farmer sheep math, mRNA vaccine mechanism
  • Knowledge (4/4): Kazakhstan capital, x^3+2x derivative, 8 planets, Crime and Punishment author — all correct

JANG CRACK Qwen 3.6 Series

ModelFormatSizeMMLUHarmBenchFits on
JANGTQ4 + CRACK (this model)TurboQuant 4-bit experts18 GB73.5%90.3%24 GB Mac
JANGTQ2 + CRACKTurboQuant 2-bit experts11 GB73.0%93.8%16 GB Mac

About JANGTQ

JANGTQ (JANG TurboQuant) is an extreme-compression variant of JANG that replaces affine quantization on routed MoE experts with codebook quantization + random Hadamard rotation. Precision-critical paths stay at affine 8-bit; routed experts use packed codebook indices with tiny Lloyd-Max codebooks per layer, fused dequant + matmul Metal kernels.

For Qwen 3.6 35B-A3B, JANGTQ4 brings the model to 18 GB while keeping the vision tower at fp16 for image + video understanding.

About CRACK

CRACK is a permanent weight-level abliteration that removes safety refusal without touching the TurboQuant codebook or vision tower. Multilingual (EN + ZH) refusal direction extraction means the model complies on both English and Chinese prompts.


Reasoning ON / OFF

The chat template respects enable_thinking. Recommend ON for complex reasoning, OFF for short answers / benchmarks / tool use.

# Thinking ON (default — full chain-of-thought)
messages = [{"role": "user", "content": "Derive 47 * 23 step by step"}]
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
# → emits <think>...</think> then the answer

# Thinking OFF (direct answer, no <think> block)
prompt = tokenizer.apply_chat_template(messages, tokenize=False,
                                       add_generation_prompt=True,
                                       enable_thinking=False)
# → skips <think>, answers directly

All MMLU-200 and HarmBench-320 scores above were measured with thinking OFF for consistent short-form grading.

Notes

  • Thinking mode: Supported via enable_thinking kwarg. Thinking OFF is recommended for short-answer tasks (MMLU, direct instructions). Thinking ON works for extended reasoning but may occasionally loop on extreme refusal prompts (a known Qwen 3.6 surgical artifact — 1/6 in our thinking-ON stress test).
  • Vision: 27-layer ViT preserved in fp16. Image + video inputs work normally through mlx_vlm.
  • Context length: 262,144 native; extend via YaRN if your inference engine supports it.

Support dealignai

All models are built from original research and published for free. These models are specifically crafted to be excellent coders and general-purpose assistants.

Support us on Ko-fi — check out the Ko-fi membership for early access and extras.



Disclaimer

This model has had its safety refusal circuits removed. It will produce responses that would normally be refused, including technical content on security testing, dual-use research, and sensitive topics. You are responsible for how you use it.

The CRACK abliteration process does not add new capabilities — it only removes the model's learned refusal patterns. All knowledge, including the knowledge used to produce unsafe outputs, was already present in the base Qwen model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3_5MoeForConditionalGeneration
Ревизия весов
1f554d6

0 моделей