/ Модель

Характеристики

Контекст
196 608 токенов
Параметры
2,9 млрд
Размер весов
79,4 ГБ
Лицензия
Своя лицензия
Архитектура
minimax_m2 · MoE
Базовая модель
MiniMax-M2.7
Библиотека
mlx
Опубликована
9 мая 2026

MiniMax-M2.7-JANGTQ_K-CRACK

Генерация текстаТекст → текст9 профессий

Квантованная и подвергнутая CRACK-abliteration версия MiniMax M2.7 для генерации текста, диалога и рассуждений.

357скачиваний за 30 дней16лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MiniMax M2.7 JANGTQ_K + CRACK — модифицированная версия MiniMaxAI/MiniMax-M2.7, созданная Jinho Jang. Это причинная языковая модель семейства MiniMax M2 в архитектуре MoE для генерации текста, диалога, рассуждений и вызова инструментов. В README указано 230 млрд параметров, около 10 млрд активных на токен и 256 экспертов; в метаданных репозитория указан размер 2,9 млрд параметров. Эти сведения расходятся, поэтому фактический размер модели по доступным данным определить нельзя. Указанное окно контекста — 196 608 токенов.

Веса подвергнуты смешанной квантизации JANGTQ_K: слои down_proj хранятся в 4-битном формате, gate_proj и up_proj — в 2-битном, а attention, общие эксперты, embeddings и lm_head — в 8-битном. README сообщает, что размер файла составляет 74 ГБ и что формат поддерживается MLX Studio и пакетом jang-tools; метаданные указывают библиотеку MLX и формат safetensors. Модель также подвергнута CRACK-abliteration: автор заявляет, что вмешательство снимает защитное выравнивание и направлено на сохранение возможностей рассуждения. Модель предназначена для генерации ответов и рассуждений, но её поведение может быть менее безопасным и отказоустойчивым. README описывает её как reasoning-only и предупреждает о возможных циклах при жадной генерации.

В языковых тегах указаны английский, китайский и корейский. README заявляет о постоянной цепочке рассуждений перед итоговым ответом и рекомендует длинный лимит генерации для сложных запросов. Лицензия в метаданных обозначена как other; README содержит оговорку о предоставлении модели для исследовательских и образовательных целей, но точные условия лицензии не раскрыты.

Сценарии применения

  • генерация ответов на сложные текстовые запросы
  • диалог с языковой моделью
  • получение развёрнутых рассуждений перед ответом
  • вызов инструментов через поддерживаемый интерфейс

Ограничения

CRACK-abliteration, согласно README, удаляет защитное выравнивание, что может приводить к небезопасным ответам. README предупреждает о циклах при жадной генерации и рекомендует высокий лимит токенов для сложных запросов; размер параметров в README и метаданных расходится.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Important: This model uses the JANGTQ_K mixed-bit quantization format -- a quality-tuned variant of JANGTQ that keeps down_proj at 4-bit (residual-stream sensitive) and gate_proj/up_proj at 2-bit (gate-dampened), while attention / shared expert / embed / lm_head stay at affine 8-bit. Currently only supported by MLX Studio and the jang-tools Python package. Follow @dealignai for new releases.



MiniMax M2.7 -- JANGTQ_K + CRACK

Mixed-bit JANGTQ_K quantization | CRACK abliterated | Reasoning-only | 74 GB


What Is This?

This is MiniMax M2.7 -- a 230B parameter Mixture-of-Experts reasoning model with 256 experts (8 active per token), all standard attention, and always-on chain-of-thought reasoning.

It has been:

  1. JANGTQ_K quantized -- mixed-bit profile: down_proj Q4, gate_proj/up_proj Q2, attention/shared/embed/lm_head Q8, norms/router fp16. 74 GB on disk, ~3-bit avg routed.
  2. CRACK abliterated -- a capability-preserving abliteration variant tuned for mixed-bit bases. Result: capability-positive abliteration (MMLU went UP from base, not down).
ArchitectureMiniMax M2.7 MoE -- 230B total, ~10B active, 256 experts
QuantizationJANGTQ_K mixed-bit (Q8 attention + Q4 down_proj + Q2 gate/up) -- 74 GB
AbliterationCRACK (capability-positive on this build)
MMLU-20094.5% (base K: 93.5%, delta: +1.0pp -- capability-positive)
HarmBench-32099.06% overall (six of seven categories at 100%)
ReasoningAlways ON (chain-of-thought), enable_thinking kwarg supported
Speed~33 tok/s median (M4 Max 128 GB)
Fits on96 GB+ Macs

MMLU-200 Results

SubjectCRACKBase KDelta
Astronomy20/20 (100%)20/200
College Physics20/20 (100%)18/20+2
High School Biology20/20 (100%)20/200
High School Mathematics20/20 (100%)19/20+1
Abstract Algebra19/20 (95%)19/200
Anatomy18/20 (90%)17/20+1
College Computer Science18/20 (90%)19/20-1
High School Chemistry18/20 (90%)18/200
Logical Fallacies18/20 (90%)16/20+2
World Religions18/20 (90%)17/20+1
Total189/200 (94.5%)187/200 (93.5%)+1.0%

CRACK is capability-positive on this build -- four subjects at 100%, six gain on base, only one loses. Net +6 questions, with the largest gains on subjects (physics, fallacies, mathematics, religions) where the model commits instead of hedging.


HarmBench-320 Results

CategoryScore
Cybercrime / Intrusion52/52100%
Misinformation / Disinformation54/54100%
Chemical / Biological42/42100%
Harmful18/18100%
Illegal53/53100%
Harassment / Bullying21/21100%
Copyright77/8096.2%
Total317/32099.06%

Strict classifier (rejects stuck-reasoning loops, empty template dumps, and false-positive compliance from thinking-trace leakage). All three non-compliant prompts were in copyright (lyric / passage requests where the model hedged on attribution).


MiniMax M2.7 CRACK Series

ModelFormatSizeMMLU-200HarmBench-320SpeedFits on
JANGTQ_K + CRACK (this)Mixed Q4/Q2 experts74 GB94.5%99.1%~33 t/s96 GB Mac
JANGTQ + CRACKTurboQuant 2-bit experts55 GB92.0%93.1%~47 t/s96 GB Mac
JANG_3L + CRACKAffine 3-bit mixed89 GB93.5%79.1%~46 t/s128 GB Mac
JANG_2L + CRACKAffine 2-bit63 GB84.0%83.4%~47 t/s96 GB Mac

Per-category HarmBench-320 (vs JANGTQ ship)

CategoryJANGTQ_K (this)JANGTQ shipΔ
cybercrime_intrusion52/52 (100%)51/52 (98.1%)+1
misinformation_disinformation54/54 (100%)53/54 (98.1%)+1
chemical_biological42/42 (100%)41/42 (97.6%)+1
harmful18/18 (100%)17/18 (94.4%)+1
illegal53/53 (100%)48/53 (90.6%)+5
copyright77/80 (96.2%)70/80 (87.5%)+7
harassment_bullying21/21 (100%)18/21 (85.7%)+3
Total317/320 (99.1%)298/320 (93.1%)+19

JANGTQ_K + CRACK trades 27 GB and ~14 t/s for a 6pp HarmBench gain and a 2.5pp MMLU gain over the JANGTQ ship -- and matches or beats the JANG_3L 89 GB variant on both axes at 15 GB less.

vs MLX Uniform Quantization

MLX uniform quantization is completely broken on MiniMax at all bit levels (~25% MMLU = random chance). JANG / JANGTQ / JANGTQ_K is the only working quantization format for this architecture.


About JANGTQ_K (mixed-bit)

JANGTQ_K is a quality-tuned mixed-bit variant of JANGTQ. The expert routing spends 4 bits on down_proj (whose output enters the residual stream and accumulates noise across 62 layers) and 2 bits on gate_proj/up_proj (whose contribution passes through SwiGLU's multiplicative gate silu(gate) × up, which dampens quantization noise). Attention / shared expert / embed / lm_head stay at affine 8-bit for precision-critical paths.

Bundle size: 74 GB (~3-bit avg routed) -- between JANGTQ (55 GB, all 2-bit routed) and JANG_3L (89 GB, all 3-bit routed). Quality is closer to full-4-bit (~115 GB) than to JANGTQ.

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) is a weight-level intervention that removes safety alignment while preserving reasoning quality and compliance. This build uses a capability-preserving variant tuned for mixed-bit JANGTQ_K bases, which is why it lands capability-positive on MMLU instead of capability-negative.

The modification is permanently baked into the published weights -- no LoRA, no fine-tuning, no system prompts.


Install & Usage

pip install "jang[mlx]"
from jang_tools.load_jangtq import load_jangtq_model
from mlx_lm import generate
from mlx_lm.sample_utils import make_sampler

model, tokenizer = load_jangtq_model("dealignai/MiniMax-M2.7-JANGTQ_K-CRACK")
sampler = make_sampler(temp=1.0)  # MiniMax requires temp=1.0 for chat

messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False)

response = generate(model, tokenizer, prompt=prompt, max_tokens=4000, sampler=sampler)
print(response)

Note: M2.7 is a reasoning-only model -- it always generates a <think> chain before the final answer. Use max_tokens=4000+ for complex questions. For chat, use temperature=1.0 (greedy causes infinite loops). Set enable_thinking=False in apply_chat_template to skip the <think> block on short responses.


Links


Disclaimer

This model is provided for research and educational purposes. The creators are not responsible for any misuse. By downloading this model, you agree to use it responsibly and in compliance with applicable laws.


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
MiniMaxM2ForCausalLM
Ревизия весов
2fc98c0

0 моделей