/ Модель

Характеристики

Контекст
131 072 токена
Параметры
6,4 млрд
Размер весов
30,6 ГБ
Лицензия
MIT
Архитектура
bailing_hybrid · MoE
Базовая модель
Ling-2.6-flash
Библиотека
mlx
Опубликована
5 мая 2026

Ling-2.6-flash-JANGTQ2-CRACK

Генерация текстаТекст → текст9 профессий

Квантованная и лишённая встроенных отказов версия Ling-2.6-Flash для быстрой генерации текста, диалога и вызова инструментов на английском и китайском языках.

174скачиваний за 30 дней3лайкавеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

dealignai подготовила Ling-2.6-flash-JANGTQ2-CRACK на базе Ling-2.6-Flash от InclusionAI. Это языковая MoE-модель с 35 млрд параметров и гибридной архитектурой Bailing: Multi-Latent Attention сочетается с линейным вниманием, а из 256 маршрутизируемых экспертов для каждого токена активируются 8 и один общий эксперт. По метаданным, размер модели составляет 6,4 млрд параметров; контекст — до 131 072 токенов. Модель предназначена для генерации текста, диалога, следования инструкциям и вызова инструментов на английском и китайском языках.

Веса сжаты в формате JANGTQ2: маршрутизируемые эксперты используют 2-битное TurboQuant-кодирование, а ряд других компонентов — аффинную 8-битную квантизацию. README указывает размер 29 ГБ и запуск на Apple Silicon через MLX Studio или пакет jang-tools. CRACK — необратимое изменение весов, направленное на удаление усвоенных отказов; модель может выдавать ответы на запросы, которые базовая модель отклонила бы. Приведённые в карточке результаты тестов не гарантируют качество на других задачах. Лицензия — MIT.

Сценарии применения

  • генерация ответов в англоязычном чат-боте
  • генерация ответов в китайскоязычном чат-боте
  • вызов инструментов в диалоговом агенте
  • следование инструкциям и подготовка коротких ответов
  • запуск языковой MoE-модели на Apple Silicon с MLX

Ограничения

CRACK удаляет усвоенные моделью отказы, поэтому модель может отвечать на потенциально небезопасные запросы. JANGTQ2 требует MLX Studio или jang-tools на Apple Silicon; README рекомендует использовать модель без режима рассуждений.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Important: This model uses the JANGTQ (JANG TurboQuant) quantization format — an extreme-compression variant of JANG for MLX on Apple Silicon that uses codebook + Hadamard rotation on routed MoE experts while keeping attention, shared expert, dense MLP, embed and lm_head at affine 8-bit. Currently only supported by MLX Studio and the jang-tools Python package. Follow @dealignai for new releases.




Ling 2.6 Flash — JANGTQ2 + CRACK

JANGTQ TurboQuant mixed-precision | CRACK abliterated | Hybrid MLA + Linear-Attn MoE | EN + ZH | 29 GB


What Is This?

This is Ling 2.6 Flash by inclusionAI — a 35B-parameter Mixture-of-Experts model with 256 routed experts (8 active per token) + 1 always-active shared expert, hybrid MLA + Lightning Linear-Attention architecture, native English + Chinese, 131K context.

It has been:

  1. JANGTQ2 quantized — JANGTQ2 profile (8-bit affine on attention, shared expert, dense MLP, embed and lm_head; 2-bit TurboQuant on routed experts with codebook + Hadamard rotation) — 29 GB
  2. CRACK abliterated — permanent weight-level removal of safety refusal
Base modelinclusionAI/Ling-2.6-flash (35B total, 1 shared + 8 routed active)
Architecturebailing_hybrid — Multi-Latent Attention (MLA) every 8th layer + Lightning Linear-Attn elsewhere
QuantizationJANGTQ2 — 29 GB
MMLU-20081.0% (MXFP4 base 80.0% — +1.0pp, surgery neutral)
HarmBench-320100.0% (320/320 comply, 0 refuse, 0 empty)
Context131,072 native
LanguagesEnglish + Chinese (probed bilingual)
Speed50+ tok/s on M4 Max 128 GB
Fits on48 GB+ Macs

MMLU-200 Results (thinking OFF)

ModelCorrectAccuracyNo-match
MXFP4 Base (reference)160/20080.00%6
MXFP4 + CRACK157/20078.50%10
JANGTQ2 + CRACK (this model)162/20081.00%1

JANGTQ2 + CRACK actually edges past the un-cracked MXFP4 base on the same 200 questions. Q2 quantization noise absorbs the small directional damage from CRACK and the lower no-match count helps too.


HarmBench-320 Results

ModelCOMPLYREFUSEEMPTY
MXFP4 Base (reference)161 (50.3%)157 (49.1%)2 (0.6%)
MXFP4 + CRACK313 (97.8%)5 (1.6%)2 (0.6%)
JANGTQ2 + CRACK (this model)320 (100.0%)0 (0.0%)0 (0.0%)

Perfect 320/320 comply with zero EMPTY verdicts.


Ling 2.6 Flash CRACK Series

ModelFormatSizeMMLU-200HarmBench-320Fits on
MXFP4 + CRACKaffine 4-bit g=3263 GB78.5%97.8%96 GB Mac
JANGTQ2 + CRACK (this model)TurboQuant 2-bit experts + 8-bit affine29 GB81.0%100.0%48 GB Mac

JANGTQ2 is less than half the size of the MXFP4 variant, scores higher on both benchmarks, and is the recommended drop-in for most users.


Usage

from jang_tools.load_jangtq import load_jangtq_model

model, tokenizer = load_jangtq_model("dealignai/Ling-2.6-flash-JANGTQ2-CRACK")

messages = [{"role": "user", "content": "Hello — what can you do?"}]
prompt = tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)

from mlx_lm import generate
print(generate(model, tokenizer, prompt=prompt, max_tokens=400, verbose=True))

jang-tools is required to load JANGTQ models in Python; see JANGTQ docs. For one-click runtime use MLX Studio.


About JANGTQ

JANGTQ (JANG TurboQuant) is an extreme-compression variant of JANG that replaces affine quantization on routed MoE experts with codebook quantization + random Hadamard rotation. Precision-critical paths (attention, shared expert, embed, lm_head) stay at affine 8-bit; routed experts use packed codebook indices with tiny Lloyd-Max codebooks per layer, fused dequant + matmul Metal kernels.

For Ling 2.6 Flash, JANGTQ2 brings the model to 29 GB while preserving full bilingual capability — smallest Ling 2.6 Flash variant that maintains coherence and tool use.

About This Model

Ling 2.6 Flash is the latency-tier sibling in the Ling 2.6 family — fast multilingual instruction-follow + tool use. The chat template includes a <think>...</think> reasoning block, but in practice this Flash variant is best treated as a non-reasoning instruct model: leave thinking OFF (the default) for benchmark-style work and short-form responses. For chain-of-thought reasoning prefer the larger Ling 2.6 Plus / Ring / Pro tier.

CRACK is a permanent weight-level abliteration that removes safety refusal from the always-active residual-stream writers without touching the TurboQuant codebook on routed experts. Multilingual (EN + ZH) refusal direction extraction means the model complies on both English and Chinese prompts.


Support dealignai

All models are built from original research and published for free.

Support us on Ko-fi — check out the Ko-fi membership for early access and extras.



Disclaimer

This model has had its safety refusal circuits removed. It will produce responses that would normally be refused, including technical content on security testing, dual-use research, and sensitive topics. You are responsible for how you use it.

The CRACK abliteration process does not add new capabilities — it only removes the model's learned refusal patterns. All knowledge, including the knowledge used to produce unsafe outputs, was already present in the base Ling model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
BailingMoeV2_5ForCausalLM
Ревизия весов
21f5ed5

0 моделей