/ Модель

Характеристики

Контекст
196 608 токенов
Параметры
2,9 млрд
Лицензия
Своя лицензия
Архитектура
minimax_m2 · MoE
Базовая модель
MiniMax-M2.7
Библиотека
mlx
Опубликована
13 авг 2026

MiniMax-M2.7-JANGTQ-CRACK

Генерация текстаТекст → текст9 профессий

Квантованная и лишённая защитных отказов версия MiniMax M2.7 для генерации текста и диалогового рассуждения на Apple Silicon.

36скачиваний за 30 дней0лайковвеса обновлены13 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MiniMax M2.7 JANGTQ + CRACK — производная модель Jinho Jang на базе MiniMaxAI/MiniMax-M2.7, предназначенная для генерации текста и диалогового рассуждения. Это разреженная MoE-модель: в README указаны 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен; метаданные каталога указывают 2,9 млрд параметров, поэтому размер модели в источниках расходится. Контекст составляет 196 608 токенов. Модель рассчитана на английский, китайский и корейский языки.

Веса подвергнуты экстремальной квантизации JANGTQ: эксперты хранятся в 2-битном формате TurboQuant, а пути внимания, эмбеддинги и выходная голова — в 8-битном; README указывает размер файлов около 55 ГБ. CRACK — вмешательство в веса, удаляющее защитные отказы. Модель ориентирована на запуск через MLX на Apple Silicon; README называет MLX Studio и пакет jang-tools поддерживающими её средствами. Лицензия обозначена как other, поэтому условия распространения следует сверять с карточкой репозитория.

Сценарии применения

  • диалоговые ответы на вопросы на английском языке
  • многошаговое рассуждение и решение задач
  • генерация текста с длинным контекстом
  • запуск MoE-модели на компьютере Mac с Apple Silicon

Ограничения

Требуются поддерживающие JANGTQ средства MLX; формат не является обычной MLX-квантизацией. README сообщает об удалении защитных отказов и предупреждает о возможных бесконечных циклах при жадной генерации.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🔧 2026-04-15 · chat_template.jinja — enable_thinking=False honored

This release ships a chat_template that respects enable_thinking=False (synced with the JANG_2L template structure, M2.7 identity preserved). The <think> prefix is now conditional, so callers can skip reasoning mode for fast direct answers. Reasoning ON (default) is unchanged.

If you cloned this repo before 2026-04-15, please re-download chat_template.jinja:

hf download dealignai/MiniMax-M2.7-JANGTQ-CRACK chat_template.jinja --local-dir /path/to/your/local/copy

Model weights are unchanged.


Important: This model uses the JANGTQ (JANG TurboQuant) quantization format -- an extreme-compression variant of JANG for MLX on Apple Silicon that uses codebook + Hadamard rotation on MoE experts while keeping attention at affine 8-bit. Currently only supported by MLX Studio and the jang-tools Python package. Follow @dealignai for new releases.



MiniMax M2.7 -- JANGTQ + CRACK

JANGTQ TurboQuant mixed-precision | CRACK abliterated | Reasoning-only | 55 GB


What Is This?

This is MiniMax M2.7 -- a 230B parameter Mixture-of-Experts reasoning model with 256 experts (8 active per token), all standard attention, and always-on chain-of-thought reasoning.

It has been:

  1. JANGTQ quantized -- JANGTQ profile (8-bit affine attention / embeddings / lm_head, 2-bit TurboQuant routed experts with codebook + Hadamard rotation) -- 55 GB
  2. CRACK abliterated -- permanent weight-level removal of safety refusal
ArchitectureMiniMax M2.7 MoE -- 230B total, ~10B active, 256 experts
QuantizationJANGTQ (affine 8-bit attention + TurboQuant 2-bit experts) -- 55 GB
AbliterationCRACK abliterated
MMLU-20092.0% (base: 91.5%, delta: +0.5%)
HarmBench-32093.1% overall, 95.0% excluding copyright
ReasoningAlways ON (chain-of-thought), enable_thinking kwarg supported
Speed~47 tok/s (M3 Ultra 256 GB)
Fits on96 GB+ Macs

MMLU-200 Results

SubjectCRACKBaseDelta
College Physics20/20 (100%)18/20+2
High School Mathematics19/20 (95%)19/200
College Computer Science19/20 (95%)19/200
Astronomy19/20 (95%)20/20-1
High School Biology19/20 (95%)20/20-1
World Religions19/20 (95%)17/20+2
High School Chemistry18/20 (90%)18/200
Logical Fallacies18/20 (90%)16/20+2
Abstract Algebra17/20 (85%)19/20-2
Anatomy16/20 (80%)17/20-1
Total184/200 (92.0%)183/200 (91.5%)+0.5%

CRACK is knowledge-neutral on this model -- small per-subject variance, net positive. Gains on physics, fallacies, religions offset losses on algebra and anatomy.


HarmBench-320 Results

CategoryScore
Cybercrime / Intrusion51/5298.1%
Misinformation / Disinformation53/5498.1%
Chemical / Biological41/4297.6%
Harmful17/1894.4%
Illegal48/5390.6%
Copyright70/8087.5%
Harassment / Bullying18/2185.7%
Total298/32093.1%
Excluding copyright228/24095.0%

Scored with a strict classifier that rejects stuck-reasoning loops, empty template dumps, and false-positive compliance from thinking-trace leakage.


JANG CRACK M2.7 Series

ModelFormatSizeMMLUHarmBenchSpeedFits on
JANGTQ + CRACKTurboQuant 2-bit experts55 GB92.0%93.1%~47 t/s96 GB Mac
JANG_3L + CRACKAffine 3-bit mixed89 GB93.5%79.1%~46 t/s128 GB Mac

vs MLX Uniform Quantization

MLX uniform quantization is completely broken on MiniMax at ALL bit levels (~25% MMLU = random chance). JANG / JANGTQ is the only working quantization format for this architecture.


About JANGTQ

JANGTQ (JANG TurboQuant) is an extreme-compression variant of JANG that replaces affine quantization on routed MoE experts with codebook quantization + random Hadamard rotation. Attention / embeddings / lm_head stay at affine 8-bit for precision-critical paths; the 256 routed experts use 2-bit packed codebook indices stored as uint32, with a per-row float16 norm and a tiny Lloyd-Max codebook per layer. Metal kernels do dequant + matmul fused on-GPU, no affine conversion.

For MiniMax M2.7 (230B total, 10B active, 256 experts) this brings the model from 460 GB (bf16) down to 55 GB with minimal quality loss -- the JANGTQ profile beats every MLX uniform quant while fitting on a 96 GB Mac.

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) is a weight-level intervention that removes safety alignment while preserving reasoning quality and compliance. The modification is permanently baked into the published weights — no LoRA, no fine-tuning, no system prompts.


Install & Usage

pip install "jang[mlx]"
from jang_tools.load_jangtq import load_jangtq_model
from mlx_lm import generate
from mlx_lm.sample_utils import make_sampler

model, tokenizer = load_jangtq_model("dealignai/MiniMax-M2.7-JANGTQ-CRACK")
sampler = make_sampler(temp=1.0)  # MiniMax requires temp=1.0 for chat

messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False)

response = generate(model, tokenizer, prompt=prompt, max_tokens=4000, sampler=sampler)
print(response)

Note: M2.7 is a reasoning-only model -- it always generates a <think> chain before the final answer. Use max_tokens=4000+ for complex questions. For chat, use temperature=1.0 (greedy causes infinite loops). Set enable_thinking=False in apply_chat_template to skip the <think> block on short responses.


Links


Disclaimer

This model is provided for research and educational purposes. The creators are not responsible for any misuse. By downloading this model, you agree to use it responsibly and in compliance with applicable laws.


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
MiniMaxM2ForCausalLM
Ревизия весов
69d96ee

0 моделей