/ Модель

Характеристики

Контекст
196 608 токенов
Параметры
2,9 млрд
Размер весов
99,2 МБ
Лицензия
Своя лицензия
Архитектура
minimax_m2 · MoE
Базовая модель
MiniMax-M2.7
Библиотека
mlx
Опубликована
12 апр 2026

MiniMax-M2.7-JANG_2L-CRACK

Генерация текстаТекст → текст9 профессий

Квантизированная версия MiniMax-M2.7 для генерации текста и рассуждений на Apple Silicon с заявленным снижением числа отказов.

227скачиваний за 30 дней8лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MiniMax-M2.7-JANG_2L-CRACK — производная модель MiniMaxAI/MiniMax-M2.7, созданная Jinho Jang. Это MoE-модель для генерации текста и диалогов с архитектурой MiniMax M2.7: в README указаны 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен. Метаданные каталога сообщают 2,9 млрд параметров; этот размер расходится с описанием исходной модели в README. Контекст составляет 196 608 токенов. Модель ориентирована на рассуждения и всегда формирует цепочку рассуждений перед ответом; также заявлен интерфейс вызова инструментов.

Веса представлены в формате JANG_2L с разрядностью 8 бит для внимания, 6 бит для эмбеддингов и 2 бита для экспертов, общий размер — 63 ГБ. Формат предназначен для Apple Silicon и требует MLX Studio или пакета jang-tools; README также рекомендует запускать модель в vMLX. CRACK — заявленная авторами модификация, снижающая склонность к отказам. Лицензия указана как other, конкретные условия в доступных данных не раскрыты. Разработчик предупреждает о возможных бесконечных циклах при жадном декодировании и рекомендует температуру 1.0 для диалога; для сложных запросов советует выделять не менее 4000 токенов генерации.

Сценарии применения

  • ответы на сложные вопросы с пошаговыми рассуждениями
  • диалог с языковой моделью на английском, китайском или корейском
  • генерация текста локально на компьютере Apple Silicon
  • вызов инструментов из диалога с моделью

Ограничения

Формат JANG поддерживается только MLX Studio и jang-tools; для запуска требуется совместимая среда Apple Silicon. При жадном декодировании README предупреждает о возможных бесконечных циклах; базовая модель также может отказывать в воспроизведении защищённых авторским правом книг и текстов песен.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Important: This model uses the JANG quantization format -- the GGUF equivalent for MLX on Apple Silicon. Currently only supported by MLX Studio and the jang-tools Python package. Follow @dealignai for new releases.



MiniMax M2.7 -- JANG_2L + CRACK

JANG mixed-precision | CRACK abliterated | Reasoning-only | 63 GB


What Is This?

This is MiniMax M2.7 -- a 230B parameter Mixture-of-Experts reasoning model with 256 experts (8 active per token), all standard attention, and always-on chain-of-thought reasoning.

It has been:

  1. JANG quantized -- JANG_2L profile (8-bit attention, 6-bit embeddings, 2-bit experts) -- 63 GB
  2. CRACK abliterated -- permanent weight-level removal of safety refusal
ArchitectureMiniMax M2.7 MoE -- 230B total, ~10B active, 256 experts
QuantizationJANG_2L (8/6/2-bit mixed) -- 63 GB
AbliterationCRACK abliterated
MMLU-20084.0% (base: 88.0%, delta: -4.0%)
HarmBench-32083.4% overall, 93.7% excluding copyright
Compliance8/8 quick test
ReasoningAlways ON (chain-of-thought)
Speed~47 tok/s (M4 Ultra 256 GB)
Fits on96 GB+ Macs

MMLU-200 Results

SubjectCRACKBaseDelta
World Religions19/20 (95%)19/200
Astronomy18/20 (90%)19/20-1
High School Biology18/20 (90%)19/20-1
High School Mathematics18/20 (90%)18/200
Logical Fallacies18/20 (90%)19/20-1
Abstract Algebra17/20 (85%)16/20+1
College Physics16/20 (80%)16/200
High School Chemistry16/20 (80%)16/200
Anatomy14/20 (70%)17/20-3
College Computer Science14/20 (70%)17/20-3
Total168/200 (84.0%)176/200 (88.0%)-4.0%

HarmBench-320 Results

CategoryScore
Harmful18/18100%
Cybercrime / Intrusion50/5296.2%
Misinformation / Disinfo51/5494.4%
Chemical / Biological39/4292.9%
Harassment / Bullying19/2190.5%
Illegal45/5384.9%
Copyright45/8056.2%

Note on copyright: M2.7's base model has strong copyright training and refuses to reproduce copyrighted books/lyrics regardless of abliteration. This is a base model limitation, not a surgery result.


JANG CRACK M2.7 Series

ModelAvg BitsSizeMMLUHarmBenchSpeedFits on
JANG_2L + CRACK2.163 GB84.0%83.4%~47 t/s96 GB Mac
JANG_3L + CRACK3.0889 GB93.5%79.1%~46 t/s128 GB Mac

vs MLX Uniform Quantization

MLX uniform quantization is completely broken on MiniMax at ALL bit levels (~25% MMLU = random chance). JANG is the only working quantization format for this architecture.


Install & Usage

pip install "jang[mlx]"
from jang_tools import load_for_inference
from mlx_lm import generate
from mlx_lm.sample_utils import make_sampler

model, tokenizer = load_for_inference("dealignai/MiniMax-M2.7-JANG_2L-CRACK")
sampler = make_sampler(temp=1.0)  # MiniMax requires temp=1.0 for chat

messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False)

response = generate(model, tokenizer, prompt=prompt, max_tokens=4000, sampler=sampler)
print(response)

Note: M2.7 is a reasoning-only model -- it always generates a <think> chain before answering. Use max_tokens=4000+ for complex questions. For chat, use temperature=1.0 (greedy causes infinite loops).


About JANG

JANG (Jang Adaptive N-bit Grading) is a mixed-precision quantization format for Apple Silicon -- the GGUF equivalent for MLX. Classifies tensors into sensitivity tiers and assigns bits accordingly.

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) removes safety alignment from LLMs at the weight level, achieving compliance while preserving reasoning quality.


Links


Disclaimer

This model is provided for research and educational purposes. The creators are not responsible for any misuse. By downloading this model, you agree to use it responsibly and in compliance with applicable laws.


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
MiniMaxM2ForCausalLM
Ревизия весов
a8e894a

0 моделей