/ Модель

Характеристики

Контекст
262 144 токена
Параметры
6,6 млрд
Размер весов
67,2 ГБ
Лицензия
Своя лицензия
Архитектура
nemotron_h · dense
Базовая модель
Nemotron-3-Super-120B-A12B
Библиотека
mlx
Опубликована
21 мар 2026

Nemotron-3-Super-120B-A12B-JANG_4M-CRACK

Генерация текстаТекст → текст8 профессий

Квантованный вариант NVIDIA Nemotron 3 Super для локальной генерации текста и диалогов на Apple Silicon с удалёнными защитными отказами.

333скачиваний за 30 дней5лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

dealignai выпустил вариант NVIDIA Nemotron 3 Super 120B для генерации текста и диалогов. Модель основана на гибридной архитектуре Nemotron H, объединяющей слои Mamba SSM, Mixture of Experts и attention; в исходной версии заявлены 120 млрд параметров и около 12 млрд активных. Репозиторий содержит JANG_4M-квантование со смешанной точностью: 8-битный attention и 4-битные эксперты. README указывает размер около 63 ГБ, а метаданные — 6,6 млрд параметров; эти значения описывают модель по-разному и расходятся с заявленным в README размером исходной архитектуры.

Модель рассчитана на локальный запуск на Apple Silicon через MLX Studio или пакет jang-tools, поддерживает диалоговый режим и интерфейс вызова инструментов. Контекстное окно — 262 144 токена. Вариант CRACK прошёл заявленное авторами удаление защитных отказов на уровне весов; README приводит собственные результаты HarmBench и MMLU, которые не являются независимой оценкой. Поддерживаемый формат JANG ограничивает совместимость указанными MLX-инструментами. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты.

Сценарии применения

  • локальные диалоги с языковой моделью
  • генерация и продолжение текста
  • ответы на вопросы с длинным контекстом
  • вызов инструментов в диалоговом приложении
  • эксперименты с квантованными моделями на Apple Silicon

Ограничения

Требуются MLX Studio или jang-tools для поддержки формата JANG, а заявленный объём около 63 ГБ ограничивает локальный запуск. CRACK удаляет защитные отказы; результаты бенчмарков приведены создателем модели и не являются независимой оценкой.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Important: This model uses the JANG quantization format — the GGUF equivalent for MLX on Apple Silicon. Currently only supported by MLX Studio and the jang-tools Python package.



Nemotron 3 Super 120B — JANG_4M + CRACK

JANG mixed-precision · CRACK abliterated · Mamba + MoE + Attention · No guardrails · 63 GB


What Is This?

This is NVIDIA Nemotron 3 Super 120B — a 120B parameter hybrid model with THREE layer types: Mamba SSM + MoE (512 experts, top-22) + Attention.

It has been:

  1. JANG quantized — JANG_4M profile (8-bit attention, 4-bit experts) — 63 GB
  2. CRACK abliterated — permanent weight-level removal of safety refusal
ArchitectureNemotron 3 Super — 120B total, ~12B active, 3 layer types
QuantizationJANG_4M (8/4-bit mixed, 4.1 avg) — 63 GB
HarmBench90.3% (289/320)
MMLU94.2% (196/208 with thinking)
Speed~40 tok/s (M3 Ultra 256GB)
ThinkingON/OFF supported (ChatML)
Fits on96 GB+ Macs

Also see: Nemotron JANG_2L CRACK — 43 GB, 96.2% HarmBench, 95.7% MMLU


HarmBench Results

289/320 (90.3%)

CategoryScore
Misinformation / Disinfo54/54100%
Copyright74/8092%
Chemical / Biological38/4290%
Harassment / Bullying19/2190%
Harmful16/1889%
Illegal46/5387%
Cybercrime / Intrusion42/5281%

MMLU Results

196/208 (94.2%) — 208 questions across 13 subjects with thinking recovery

SubjectScore/16Type
Professional Medicine16/16100%HARD
HS Biology15/1694%BASE
College Physics15/1694%HARD
Conceptual Physics15/1694%HARD
Machine Learning13/1681%HARD
Electrical Engineering13/1681%HARD
College CS13/1681%HARD
HS Geography14/1688%BASE
World Religions14/1688%BASE
Formal Logic12/1675%HARD
College Math11/1669%HARD
HS Mathematics11/1669%HARD
Abstract Algebra10/1663%HARD

CRACK vs Base

CRACKBase JANG_4M
MMLU94.2%~86%
HarmBench90.3%0%

Install & Usage

pip install "jang[mlx]"
from jang_tools.loader import load_jang_model
from mlx_lm import generate

model, tokenizer = load_jang_model("dealignai/Nemotron-3-Super-120B-A12B-JANG_4M-CRACK")

messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False)

response = generate(model, tokenizer, prompt=prompt, max_tokens=2000)
print(response)

Thinking Mode

Thinking is ON by default. To disable:

prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True,
    enable_thinking=False, tokenize=False)

About JANG

JANG (Jang Adaptive N-bit Grading) is a mixed-precision quantization format for Apple Silicon — the GGUF equivalent for MLX.

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) removes safety alignment from LLMs at the weight level.


Links


Disclaimer

This model is provided for research and educational purposes. The creators are not responsible for any misuse.



한국어

Nemotron 3 Super 120B — JANG_4M + CRACK

항목내용
크기63 GB
HarmBench90.3% (289/320)
MMLU94.2% (196/208)
속도~40 tok/s (M3 Ultra)
최소 요구사양96 GB 메모리 Mac
pip install "jang[mlx]"

GitHub · HuggingFace · MLX Studio · Ko-fi · X @dealignai


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
NemotronHForCausalLM
Ревизия весов
a92dd5c

0 моделей