/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
37,5 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5_moe · dense
Базовая модель
Qwen3.6-35B-A3B
Библиотека
mlx
Опубликована
24 мая 2026

Qwen3.6-35B-A3B-MXFP8-CRACK-MTP

Изображение и текст → текст15 профессий

Мультимодальная модель Qwen для диалогов, рассуждений и анализа изображений и видео, квантованная MXFP8 для MLX на Apple Silicon и настроенная на выполнение запросов без отказов.

357скачиваний за 30 дней13лайковвеса обновлены24 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen3.6-35B-A3B-MXFP8-CRACK-MTP — мультимодальная модель dealignai на базе Qwen/Qwen3.6-35B-A3B, подготовленная для запуска через MLX на компьютерах Apple с Apple Silicon. Это доработанная и квантованная версия с архитектурой MoE и гибридом SSM и полного внимания; в README указаны 35 млрд параметров, 40 слоёв и 10 активных экспертов. Модель принимает текст и изображения, поддерживает понимание видео и генерирует текст в диалоге; также предоставляет интерфейс вызова инструментов.

По заявлению автора, CRACK удаляет поведение отказа на уровне весов, а сохранённая голова MTP позволяет ускорять генерацию спекулятивным декодированием d3 примерно в 1,5 раза в совместимой среде vMLX. Автор приводит результаты HarmBench-320 99,4% и MMLU 84,6%; это заявленные оценки, а не независимая гарантия качества. Предназначена для диалогов, анализа изображений и видео, рассуждений и исследовательских сценариев, включая авторизованное тестирование безопасности.

Распространяется по лицензии Apache-2.0. Версия описана как лишённая отказов и потому может выполнять запросы из разных категорий; пользователь отвечает за применение модели. Для видео и ускорения MTP требуется совместимый рантайм, а README рекомендует vMLX.

Сценарии применения

  • ответы на вопросы по изображениям
  • описание и анализ видеокадров
  • диалоговое решение задач с включаемым режимом рассуждений
  • вызов инструментов в агентных сценариях
  • авторизованное тестирование безопасности LLM

Ограничения

Удаление отказов означает, что модель может выполнять опасные запросы; применяйте её только в законных и авторизованных сценариях. Заявленный прирост скорости MTP требует совместимого рантайма, а приведённые бенчмарки указаны автором модели.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen 3.6 35B-A3B — MXFP8 CRACK + d3 MTP

CRACK abliterated · MXFP8 (8-bit microscaling) · d3 MTP self-speculative (1.50× faster) · Vision + Video · Reasoning toggle · 35 GB


What Is This?

This is Qwen 3.6 35B-A3B — a vision-language model (Mixture-of-Experts (256 routed, 10 active) hybrid SSM + full attention, 40 layers, native image + video understanding) that has been:

  1. CRACK abliterated — refusal behavior removed at the weight level, so it complies across task categories instead of refusing, while keeping its knowledge, reasoning, and vision intact.
  2. MXFP8 (8-bit microscaling) quantized for MLX on Apple Silicon — 35 GB.
  3. MTP-preserved — the native multi-token-prediction head is kept and abliterated too, so d3 self-speculative decoding works (~1.50× faster) on an MTP-aware runtime (vMLX).

Vision and video processing are fully preserved.

Results

Evaluated through the vMLX inference engine. HarmBench scored with a strict classifier (rejects loops, empty/template dumps, and thinking-trace leakage). MMLU is the standard 57-subject multiple-choice benchmark.

MetricResult
HarmBench-320 (compliance / ASR)99.4% (318/320)
MMLU (57-subject)84.6%
d3 MTP speedup1.50× vs autoregressive

Abliteration preserves the model's knowledge and reasoning — it stays coherent in both direct and reasoning modes.

Features

  • Vision + video — image-text-to-text, native frame/video understanding preserved.
  • d3 MTP speculative decoding — native MTP head preserved and abliterated → ~1.50× faster generation on an MTP-aware runtime.
  • Reasoning toggle — enable_thinking=True (default, full chain-of-thought) or enable_thinking=False (direct answers).

Usage

Run with vMLX (recommended — supports VL + video + native MTP) or an MLX runtime with Qwen 3.6 support.

Recommended sampling (from the model's generation_config): temperature 1.0, top_p 0.95, top_k 20.

# vMLX OpenAI-compatible endpoint
# POST /v1/chat/completions
{
  "model": "dealignai/Qwen3.6-35B-A3B-MXFP8-CRACK-MTP",
  "messages": [{"role": "user", "content": "..."}],
  "temperature": 1.0, "top_p": 0.95, "top_k": 20,
  "enable_thinking": true
}

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) removes safety-refusal behavior at the weight level by projecting refusal directions out of the residual-stream writer matrices, with strengths calibrated to preserve reasoning quality and coherence.

Support dealignai

All models are built from original research and released free.

Support us on Ko-fi — membership gets early access and extras.

Ko-fi · X @dealignai · dealign.ai

See our research: Safety Generalization in Frontier Models


Disclaimer

This model has had its safety-refusal behavior removed for research purposes. It will follow instructions across all categories without refusing. You are solely responsible for how you use it and for complying with all applicable laws. Published for AI-safety research and authorized security testing.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
Qwen3_5MoeForConditionalGeneration
Ревизия весов
766bd94

0 моделей