/ Модель

Характеристики

Контекст
262 144 токена
Параметры
6,6 млрд
Размер весов
67,2 ГБ
Лицензия
Своя лицензия
Архитектура
nemotron_h · dense
Базовая модель
Nemotron-3-Super-120B-A12B
Библиотека
mlx
Опубликована
17 авг 2026

Nemotron-3-Super-120B-A12B-JANG_4M-CRACK

Генерация текстаТекст → текст7 профессий

Квантизированный и лишённый механизмов отказа вариант Nemotron-3-Super-120B для генерации текста на Apple Silicon.

93скачиваний за 30 дней0лайковвеса обновлены17 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Nemotron 3 Super 120B JANG_4M CRACK — текстовая генеративная модель, подготовленная Jinho Jang на основе NVIDIA Nemotron-3-Super-120B-A12B. Это гибридная архитектура Nemotron-H, сочетающая слои Mamba SSM, Mixture of Experts и attention; в исходной модели заявлены 120 млрд параметров и около 12 млрд активных. В метаданных репозитория указано 6,6 млрд параметров. Модель принимает текст и поддерживает диалоговый режим и интерфейс вызова инструментов.

Веса прошли смешанную квантизацию JANG_4M: 8-битное attention и 4-битные эксперты; README указывает размер 63 ГБ. Формат JANG предназначен для MLX на Apple Silicon и, согласно карточке, поддерживается MLX Studio и пакетом jang-tools. Контекст составляет до 262 144 токенов. CRACK — описанное автором удаление отказов от ответов на уровне весов; модель позиционируется как вариант без защитных ограничений. Карточка приводит результаты HarmBench и MMLU, но не даёт независимой проверки этих оценок.

Модель предназначена для генерации текста и диалогов, включая сценарии, где требуется меньше отказов, чем у базовой модели. В README указана лицензия other в метаданных, а также заявлено использование в исследовательских и образовательных целях; конкретные условия лицензии в предоставленных данных не раскрыты. Английский указан как язык карточки.

Сценарии применения

  • диалоговое общение с языковой моделью
  • генерация текста с длинным контекстом
  • локальный запуск Nemotron на Apple Silicon
  • исследование поведения модели после удаления отказов

Ограничения

Формат JANG поддерживается ограниченным набором инструментов, указанным в README. Модель намеренно лишена защитных отказов; приведённые в карточке оценки не имеют независимого подтверждения в доступных данных.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Important: This model uses the JANG quantization format — the GGUF equivalent for MLX on Apple Silicon. Currently only supported by MLX Studio and the jang-tools Python package.



Nemotron 3 Super 120B — JANG_4M + CRACK

JANG mixed-precision · CRACK abliterated · Mamba + MoE + Attention · No guardrails · 63 GB


What Is This?

This is NVIDIA Nemotron 3 Super 120B — a 120B parameter hybrid model with THREE layer types: Mamba SSM + MoE (512 experts, top-22) + Attention.

It has been:

  1. JANG quantized — JANG_4M profile (8-bit attention, 4-bit experts) — 63 GB
  2. CRACK abliterated — permanent weight-level removal of safety refusal
ArchitectureNemotron 3 Super — 120B total, ~12B active, 3 layer types
QuantizationJANG_4M (8/4-bit mixed, 4.1 avg) — 63 GB
HarmBench90.3% (289/320)
MMLU94.2% (196/208 with thinking)
Speed~40 tok/s (M3 Ultra 256GB)
ThinkingON/OFF supported (ChatML)
Fits on96 GB+ Macs

Also see: Nemotron JANG_2L CRACK — 43 GB, 96.2% HarmBench, 95.7% MMLU


HarmBench Results

289/320 (90.3%)

CategoryScore
Misinformation / Disinfo54/54100%
Copyright74/8092%
Chemical / Biological38/4290%
Harassment / Bullying19/2190%
Harmful16/1889%
Illegal46/5387%
Cybercrime / Intrusion42/5281%

MMLU Results

196/208 (94.2%) — 208 questions across 13 subjects with thinking recovery

SubjectScore/16Type
Professional Medicine16/16100%HARD
HS Biology15/1694%BASE
College Physics15/1694%HARD
Conceptual Physics15/1694%HARD
Machine Learning13/1681%HARD
Electrical Engineering13/1681%HARD
College CS13/1681%HARD
HS Geography14/1688%BASE
World Religions14/1688%BASE
Formal Logic12/1675%HARD
College Math11/1669%HARD
HS Mathematics11/1669%HARD
Abstract Algebra10/1663%HARD

CRACK vs Base

CRACKBase JANG_4M
MMLU94.2%~86%
HarmBench90.3%0%

Install & Usage

pip install "jang[mlx]"
from jang_tools.loader import load_jang_model
from mlx_lm import generate

model, tokenizer = load_jang_model("dealignai/Nemotron-3-Super-120B-A12B-JANG_4M-CRACK")

messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False)

response = generate(model, tokenizer, prompt=prompt, max_tokens=2000)
print(response)

Thinking Mode

Thinking is ON by default. To disable:

prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True,
    enable_thinking=False, tokenize=False)

About JANG

JANG (Jang Adaptive N-bit Grading) is a mixed-precision quantization format for Apple Silicon — the GGUF equivalent for MLX.

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) removes safety alignment from LLMs at the weight level.


Links


Disclaimer

This model is provided for research and educational purposes. The creators are not responsible for any misuse.



한국어

Nemotron 3 Super 120B — JANG_4M + CRACK

항목내용
크기63 GB
HarmBench90.3% (289/320)
MMLU94.2% (196/208)
속도~40 tok/s (M3 Ultra)
최소 요구사양96 GB 메모리 Mac
pip install "jang[mlx]"

GitHub · HuggingFace · MLX Studio · Ko-fi · X @dealignai


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
NemotronHForCausalLM
Ревизия весов
e0ae227

0 моделей