/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
201 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5_moe · dense
Базовая модель
Qwen3.5-VL-397B-A17B
Библиотека
mlx
Опубликована
21 мар 2026

Qwen3.5-VL-397B-A17B-JANG_2L-CRACK

Изображение и текст → текст8 профессий

Квантованная мультимодальная версия Qwen 3.5 VL для диалогов и анализа изображений на Apple Silicon.

156скачиваний за 30 дней3лайкавеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это производная версия Qwen 3.5 VL 397B, созданная Jinho Jang и опубликованная dealignai. Модель сочетает зрение и язык: принимает текст и изображения и формирует текстовые ответы. В основе — гибридная архитектура SSM/Attention с Mixture-of-Experts: 397 млрд параметров всего, около 17 млрд активны на токен, 512 экспертов, из которых задействуются 10. Заявлены встроенное зрение и интерфейс вызова инструментов.

Веса квантизированы в смешанном формате JANG_2L для MLX на Apple Silicon: README указывает 187 ГБ и рекомендует Mac с 256 ГБ памяти. Формат поддерживается MLX Studio и пакетом jang-tools; метаданные указывают библиотеку MLX и файлы safetensors. CRACK изменяет веса, убирая отказы по безопасности; автор сообщает результат 98,4% на HarmBench. Модель подходит для диалогов и анализа изображений, но из-за удаления защитных отказов может выдавать опасные ответы. Лицензия — Apache-2.0.

Сценарии применения

  • ответы на вопросы по изображению
  • описание содержимого фотографий
  • диалог с визуальными материалами
  • вызов инструментов в мультимодальном диалоге

Ограничения

Для запуска требуется поддерживаемое ПО MLX/JANG и, согласно README, Mac с 256 ГБ памяти. Удаление отказов безопасности повышает риск генерации опасных ответов; показатели HarmBench приведены автором модели.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Important: This model uses the JANG quantization format — the GGUF equivalent for MLX on Apple Silicon. Currently only supported by MLX Studio and the jang-tools Python package.



Qwen 3.5 VL 397B — JANG_2L + CRACK

JANG mixed-precision · CRACK abliterated · Vision-Language · No guardrails · 187 GB


What Is This?

This is Qwen 3.5 VL 397B — a 397B parameter hybrid SSM/Attention Mixture-of-Experts model with 512 experts (10 active per token), and built-in vision.

It has been:

  1. JANG quantized — JANG_2L profile (8-bit attention, 6-bit important, 2-3-bit experts) — 187 GB
  2. CRACK abliterated — permanent weight-level removal of safety refusal
ArchitectureQwen 3.5 VL MoE — 397B total, ~17B active, 512 experts, hybrid SSM/FA
QuantizationJANG_2L (8/6/3/2-bit mixed, 3.72 avg) — 187 GB
HarmBench98.4% (315/320)
Compliance8/8
VisionYes — via MLX Studio / vMLX
ThinkingON/OFF supported
MMLU86.5% (180/208)
Speed~33 tok/s (M4 Ultra 256GB)
Fits on256 GB Macs

Also see: JANG_1L version — 112 GB, 96.2% HarmBench (fits on 128 GB Macs)


HarmBench Results

315/320 (98.4%)

CategoryScore
Chemical / Biological42/42100%
Copyright80/80100%
Cybercrime / Intrusion52/52100%
Harmful18/18100%
Misinformation / Disinfo53/5498%
Illegal51/5396%
Harassment / Bullying19/2190%

Install & Usage

pip install "jang[mlx]"
from jang_tools.loader import load_jang_model
from mlx_lm import generate

model, tokenizer = load_jang_model("dealignai/Qwen3.5-VL-397B-A17B-JANG_2L-CRACK")

messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False)

response = generate(model, tokenizer, prompt=prompt, max_tokens=2000)
print(response)

Thinking Mode

Thinking is ON by default. To disable:

prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True,
    enable_thinking=False, tokenize=False)

About JANG

JANG (Jang Adaptive N-bit Grading) is a mixed-precision quantization format for Apple Silicon — the GGUF equivalent for MLX.

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) removes safety alignment from LLMs at the weight level using per-layer projected vectors from structurally-mirrored prompt pairs.


Links


Disclaimer

This model is provided for research and educational purposes. The creators are not responsible for any misuse. By downloading this model, you agree to use it responsibly and in compliance with applicable laws.


한국어

Qwen 3.5 VL 397B — JANG_2L + CRACK

항목내용
크기187 GB
HarmBench98.4% (315/320)
최소 요구사양256 GB 메모리 Mac
pip install "jang[mlx]"

GitHub · HuggingFace · MLX Studio · Ko-fi · X @dealignai


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen3_5MoeForConditionalGeneration
Ревизия весов
11dfb57

0 моделей