/ Модель

Характеристики

Контекст
196 608 токенов
Параметры
2,9 млрд
Размер весов
60,7 ГБ
Лицензия
Своя лицензия
Архитектура
minimax_m2 · MoE
Базовая модель
MiniMax-M2.7
Библиотека
mlx
Опубликована
14 апр 2026

MiniMax-M2.7-JANGTQ

Генерация текстаТекст → текст14 профессий

JANGQ-AI/MiniMax-M2.7-JANGTQ — это квантизированная версия MiniMax-M2.7, разработанная JANGQ-AI на базе архитектуры MiniMax M2 от MiniMaxAI.

684скачиваний за 30 дней44лайкавеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста, диалоговых сценариев, задач рассуждения и работы с инструментами. Она ориентирована на запуск в MLX и vMLX на компьютерах Apple Silicon, включая M3 Max с 96 ГБ памяти и более новые M4 Max, M5 Max и Mac Studio с 128 ГБ памяти.

Модель использует архитектуру MoE с 62 слоями, 256 маршрутизируемыми экспертами и выбором 8 экспертов на токен. Заявленный контекст составляет 196K токенов. Размер сборки на диске — около 47 ГБ вместо примерно 230 ГБ у исходной FP8-версии. Маршрутизируемые экспертные веса сжаты до 2 бит методом JANGTQ2, а attention, общие экспертные компоненты, эмбеддинги и lm_head используют 8-битное аффинное квантование; нормализации и маршрутизатор частично сохранены в исходной точности. Поддерживаются reasoning через парсер qwen3 и вызовы инструментов через парсер minimax; режим рассуждения включён по умолчанию и может быть отключён.

К сильным сторонам относятся существенное уменьшение размера, предварительно собранная структура экспертных весов, быстрая загрузка без дополнительной перестановки и заявленная идентичная скорость декодирования по сравнению с предыдущей раскладкой. Ограничения связаны с узкой совместимостью с MLX/vMLX и требованием значительного объёма объединённой памяти Apple Silicon. Язык модели, точные показатели качества и полный набор поддерживаемых языков в README не указаны. Лицензия — minimax-m2.7-non-commercial; сборка предназначена для некоммерческого использования.

Для каких профессий подходит14

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MiniMax-M2.7-JANGTQ

MiniMax M2.7 — 47 GB on disk (down from the ~230 GB FP8 source) — 2-bit JANGTQ2 quantization in JANGTQ-PRESTACK layout (pre-stacked routed experts on disk → instant cold load, no runtime cache sidecar).

  • Source: MiniMaxAI/MiniMax-M2.7 (MiniMax M2 architecture, FP8 E4M3 block-128 native, 196K context, 62 layers, 256 routed experts top-8)
  • Quantization: JANGTQ2 — 2-bit MXTQ codebook (Hadamard-rotated, Lloyd-Max optimized) on routed-expert weights + 8-bit affine on attention / shared expert / embed / lm_head + fp16 passthrough on RMSNorms / router gate / expert_bias
  • Routed-expert layout: pre-stacked along axis 0 (block_sparse_moe.switch_mlp.<proj>.tq_packed shape [256, out, packed_in]) per the JANGTQ-PRESTACK STANDARD — no runtime restacking, no jangtq_stacked.safetensors sidecar
  • Bundle size: 47 GB on-disk across 51 shards
  • Runs on: M3 Max 96 GB+ / M4 Max 128 GB / M5 Max 128 GB / Mac Studio

What's new in this build (2026-05-04)

This bundle is shipped in JANGTQ-PRESTACK layout — the routed-expert TurboQuant tensors are stacked along axis 0 directly in the main shards. Wins vs the previous per-expert layout:

MetricOld (per-expert)This (pre-stacked)
First-load time~5-10s restacking passmx.load() direct (~14 s incl warmup)
Decode tok/sreferenceidentical (same MXTQ codec, same fused decode kernels)
Bundle size~57 GB~47 GB (smaller by virtue of removing per-expert metadata duplication)
Loader pathstreaming hydrate + per-expert restackgeneric loader's prestack branch

What's in the bundle

ModuleSource dtypeBundle dtype
Routed experts (256 × 3 mats × 62 layers, pre-stacked along axis 0)FP8 E4M3 + F32 weight_scale_inv2-bit MXTQ + sidecar codebook
Attention (q/k/v/o, q/k norms)FP8 E4M3 / BF168-bit affine g=64
embed_tokens / lm_headBF168-bit affine g=64
RMSNorm / router gate / e_score_correction_biasBF16 / F32fp16 / fp32 passthrough

jangtq_runtime.safetensors sidecar (~25 KB) for Swift runtimes — covers (in_features={1536, 3072}, seed=42, bits=2) codebooks + sign-flip vectors.

Loading (Python)

pip install jang-tools mlx-lm
from jang_tools.load_jangtq import load_jangtq_model
model, tokenizer = load_jangtq_model("JANGQ-AI/MiniMax-M2.7-JANGTQ")

The loader detects the pre-stacked layout via jang_config.routed_expert_layout == "prestacked" and routes through the generic JANGTQ loader's prestack branch. Decode applies the standard SwitchGLU fused gate+up + P15 router compile + P18 QKV fusion patches automatically.

Reasoning + tools

  • Reasoning parser: qwen3 (extracts <think>...</think> blocks)
  • Tool parser: minimax
  • Default mode: thinking ON (chat template opens <think> for the assistant); pass enable_thinking=False to skip reasoning
  • Cache: kv (standard MLA-free MoE attention cache)

Credits

  • Quantization + MLX runtime: Jinho Jang (eric@jangq.ai)
  • Base model: MiniMaxAI — M2.7 architecture

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
MiniMaxM2ForCausalLM
Ревизия весов
7aac994

0 моделей