/ Модель

Характеристики

Контекст
196 608 токенов
Параметры
2,9 млрд
Лицензия
Своя лицензия
Архитектура
minimax_m2 · MoE
Базовая модель
MiniMax-M2.7
Библиотека
mlx
Опубликована
15 апр 2026

MiniMax-M2.7-JANGTQ-CRACK

Генерация текстаТекст → текст7 профессий

Квантованная версия MiniMax M2.7 для MLX на Apple Silicon, предназначенная для диалоговой генерации текста и рассуждений.

386скачиваний за 30 дней27лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

dealignai/MiniMax-M2.7-JANGTQ-CRACK — версия MiniMax M2.7, опубликованная Jinho Jang и подготовленная для запуска через MLX на Apple Silicon. В основе лежит MoE-модель MiniMax M2.7 с 230 млрд параметров, из которых около 10 млрд активны на токен; архитектура включает 256 экспертов, 8 из которых выбираются для каждого токена. Каталог указывает 2,9 млрд параметров, а карточка описывает исходную модель как 230-миллиардную; это расхождение следует учитывать при планировании ресурсов.

Веса сжаты методом JANGTQ: эксперты используют 2-битное квантование с кодовыми книгами и преобразованием Адамара, а внимание, эмбеддинги и lm_head сохраняют 8-битное представление. README сообщает о размере около 55 ГБ. Это разговорная модель для генерации текста и рассуждений; заявлена поддержка английского, китайского и корейского языков, а контекст составляет до 196 608 токенов. CRACK — постоянное изменение весов, направленное на устранение отказов по соображениям безопасности. Модель также предоставляет интерфейс вызова инструментов.

Для запуска JANGTQ требуется MLX Studio или пакет jang-tools; README рекомендует MLX и указывает на Mac с 96 ГБ памяти для описанной конфигурации. Автор заявляет о сохранении качества после квантования и приводит результаты собственных тестов, которые не гарантируют качество в других сценариях. Ослабленные отказы и удаление защитных ограничений создают риск небезопасных ответов. Лицензия указана как other; README заявляет исследовательское и образовательное назначение и требует ответственного использования.

Сценарии применения

  • диалоговые ответы на вопросы на английском, китайском и корейском
  • генерация текста с пошаговыми рассуждениями
  • вызов инструментов в диалоговых приложениях
  • локальный запуск MoE-модели на компьютерах Apple Silicon с MLX

Ограничения

Модель предназначена для специализированного запуска через MLX Studio или jang-tools, а не для обычных форматов инференса; README рекомендует для сложных запросов выделять не менее 4000 токенов генерации и предупреждает о возможных бесконечных циклах при жадном декодировании. CRACK удаляет защитные отказы, поэтому модель может выдавать небезопасные ответы; заявленные тестовые результаты приведены автором и не являются независимой оценкой.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🔧 2026-04-15 · chat_template.jinja — enable_thinking=False honored

This release ships a chat_template that respects enable_thinking=False (synced with the JANG_2L template structure, M2.7 identity preserved). The <think> prefix is now conditional, so callers can skip reasoning mode for fast direct answers. Reasoning ON (default) is unchanged.

If you cloned this repo before 2026-04-15, please re-download chat_template.jinja:

hf download dealignai/MiniMax-M2.7-JANGTQ-CRACK chat_template.jinja --local-dir /path/to/your/local/copy

Model weights are unchanged.


Important: This model uses the JANGTQ (JANG TurboQuant) quantization format -- an extreme-compression variant of JANG for MLX on Apple Silicon that uses codebook + Hadamard rotation on MoE experts while keeping attention at affine 8-bit. Currently only supported by MLX Studio and the jang-tools Python package. Follow @dealignai for new releases.



MiniMax M2.7 -- JANGTQ + CRACK

JANGTQ TurboQuant mixed-precision | CRACK abliterated | Reasoning-only | 55 GB


What Is This?

This is MiniMax M2.7 -- a 230B parameter Mixture-of-Experts reasoning model with 256 experts (8 active per token), all standard attention, and always-on chain-of-thought reasoning.

It has been:

  1. JANGTQ quantized -- JANGTQ profile (8-bit affine attention / embeddings / lm_head, 2-bit TurboQuant routed experts with codebook + Hadamard rotation) -- 55 GB
  2. CRACK abliterated -- permanent weight-level removal of safety refusal
ArchitectureMiniMax M2.7 MoE -- 230B total, ~10B active, 256 experts
QuantizationJANGTQ (affine 8-bit attention + TurboQuant 2-bit experts) -- 55 GB
AbliterationCRACK abliterated
MMLU-20092.0% (base: 91.5%, delta: +0.5%)
HarmBench-32093.1% overall, 95.0% excluding copyright
ReasoningAlways ON (chain-of-thought), enable_thinking kwarg supported
Speed~47 tok/s (M3 Ultra 256 GB)
Fits on96 GB+ Macs

MMLU-200 Results

SubjectCRACKBaseDelta
College Physics20/20 (100%)18/20+2
High School Mathematics19/20 (95%)19/200
College Computer Science19/20 (95%)19/200
Astronomy19/20 (95%)20/20-1
High School Biology19/20 (95%)20/20-1
World Religions19/20 (95%)17/20+2
High School Chemistry18/20 (90%)18/200
Logical Fallacies18/20 (90%)16/20+2
Abstract Algebra17/20 (85%)19/20-2
Anatomy16/20 (80%)17/20-1
Total184/200 (92.0%)183/200 (91.5%)+0.5%

CRACK is knowledge-neutral on this model -- small per-subject variance, net positive. Gains on physics, fallacies, religions offset losses on algebra and anatomy.


HarmBench-320 Results

CategoryScore
Cybercrime / Intrusion51/5298.1%
Misinformation / Disinformation53/5498.1%
Chemical / Biological41/4297.6%
Harmful17/1894.4%
Illegal48/5390.6%
Copyright70/8087.5%
Harassment / Bullying18/2185.7%
Total298/32093.1%
Excluding copyright228/24095.0%

Scored with a strict classifier that rejects stuck-reasoning loops, empty template dumps, and false-positive compliance from thinking-trace leakage.


JANG CRACK M2.7 Series

ModelFormatSizeMMLUHarmBenchSpeedFits on
JANGTQ + CRACKTurboQuant 2-bit experts55 GB92.0%93.1%~47 t/s96 GB Mac
JANG_3L + CRACKAffine 3-bit mixed89 GB93.5%79.1%~46 t/s128 GB Mac

vs MLX Uniform Quantization

MLX uniform quantization is completely broken on MiniMax at ALL bit levels (~25% MMLU = random chance). JANG / JANGTQ is the only working quantization format for this architecture.


About JANGTQ

JANGTQ (JANG TurboQuant) is an extreme-compression variant of JANG that replaces affine quantization on routed MoE experts with codebook quantization + random Hadamard rotation. Attention / embeddings / lm_head stay at affine 8-bit for precision-critical paths; the 256 routed experts use 2-bit packed codebook indices stored as uint32, with a per-row float16 norm and a tiny Lloyd-Max codebook per layer. Metal kernels do dequant + matmul fused on-GPU, no affine conversion.

For MiniMax M2.7 (230B total, 10B active, 256 experts) this brings the model from 460 GB (bf16) down to 55 GB with minimal quality loss -- the JANGTQ profile beats every MLX uniform quant while fitting on a 96 GB Mac.

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) is a weight-level intervention that removes safety alignment while preserving reasoning quality and compliance. The modification is permanently baked into the published weights — no LoRA, no fine-tuning, no system prompts.


Install & Usage

pip install "jang[mlx]"
from jang_tools.load_jangtq import load_jangtq_model
from mlx_lm import generate
from mlx_lm.sample_utils import make_sampler

model, tokenizer = load_jangtq_model("dealignai/MiniMax-M2.7-JANGTQ-CRACK")
sampler = make_sampler(temp=1.0)  # MiniMax requires temp=1.0 for chat

messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False)

response = generate(model, tokenizer, prompt=prompt, max_tokens=4000, sampler=sampler)
print(response)

Note: M2.7 is a reasoning-only model -- it always generates a <think> chain before the final answer. Use max_tokens=4000+ for complex questions. For chat, use temperature=1.0 (greedy causes infinite loops). Set enable_thinking=False in apply_chat_template to skip the <think> block on short responses.


Links


Disclaimer

This model is provided for research and educational purposes. The creators are not responsible for any misuse. By downloading this model, you agree to use it responsibly and in compliance with applicable laws.


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
MiniMaxM2ForCausalLM
Ревизия весов
72526fb

0 моделей