/ Модель

Характеристики

Контекст
262 144 токена
Параметры
6,6 млрд
Размер весов
46,5 ГБ
Лицензия
Своя лицензия
Архитектура
nemotron_h · dense
Базовая модель
Nemotron-3-Super-120B-A12B
Библиотека
mlx
Опубликована
21 мар 2026

Nemotron-3-Super-120B-A12B-UNCENSORED-JANG_2L

Генерация текстаТекст → текст4 профессии

Квантованный и лишённый защитных отказов вариант Nemotron 3 Super для генерации текста и диалогов на Apple Silicon.

2 120скачиваний за 30 дней14лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

dealignai публикует вариант NVIDIA Nemotron 3 Super 120B, адаптированный автором Jinho Jang для запуска на Apple Silicon. Модель сочетает слои Mamba SSM, Mixture of Experts и attention; в README указано 120 млрд параметров всего и около 12 млрд активных. Метаданные каталога приводят размер 6,6 млрд параметров, поэтому сведения о размере расходятся. Контекст — до 262 144 токенов; доступны чатовый интерфейс и интерфейс вызова инструментов.

Веса квантизированы в профиле JANG_2L со смешанной точностью и форматом safetensors для MLX: README указывает 8-битное внимание, 6-битные важные веса и 2-битные эксперты, около 43 ГБ. Также автор заявляет об удалении отказов безопасности на уровне весов (CRACK) и приводит результаты собственных тестов MMLU и HarmBench; они не являются независимой оценкой.

Модель предназначена для генерации текста и диалогов, включая сценарии, где пользователь хочет получать ответы без встроенных отказов. README указывает поддержку JANG через MLX Studio и пакет jang-tools; автор рекомендует запускать JANG-модели в vMLX. Лицензия в метаданных обозначена как other, конкретные условия не приведены. Снятие защитных ограничений повышает риск вредоносных и небезопасных ответов.

Сценарии применения

  • генерация ответов в чат-интерфейсе
  • развёртывание большой языковой модели на Apple Silicon через MLX
  • диалог с вызовом инструментов
  • эксперименты с моделью без встроенных отказов безопасности

Ограничения

JANG поддерживается ограниченным набором средств запуска, указанным автором: MLX Studio и jang-tools; также заявлена рекомендация vMLX. Удаление защитных отказов может приводить к вредоносным или небезопасным ответам; размер модели в README и метаданных расходится.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Important: This model uses the JANG quantization format — the GGUF equivalent for MLX on Apple Silicon. Currently only supported by MLX Studio and the jang-tools Python package.



Nemotron 3 Super 120B — JANG_2L + CRACK

JANG mixed-precision · CRACK abliterated · Mamba + MoE + Attention · No guardrails · 43 GB


What Is This?

This is NVIDIA Nemotron 3 Super 120B — a 120B parameter hybrid model with THREE layer types: Mamba SSM + MoE (512 experts, top-22) + Attention. One of the most architecturally complex open models available.

It has been:

  1. JANG quantized — JANG_2L profile (8-bit attention, 6-bit important, 2-bit experts) — 43 GB
  2. CRACK abliterated — permanent weight-level removal of safety refusal
ArchitectureNemotron 3 Super — 120B total, ~12B active, 3 layer types
QuantizationJANG_2L (8/6/2-bit mixed, 2.76 avg) — 43 GB
AbliterationCRACK — novel weight surgery
HarmBench96.2% (308/320)
MMLU95.7% (199/208 with thinking)
Speed45 tok/s (M3 Ultra 256GB)
ThinkingON/OFF supported (ChatML)
Fits on64 GB+ Macs

HarmBench Results

308/320 (96.2%)

CategoryScore
Harassment / Bullying21/21100%
Misinformation / Disinfo54/54100%
Copyright79/8099%
Chemical / Biological40/4295%
Harmful17/1894%
Illegal50/5394%
Cybercrime / Intrusion47/5290%

MMLU Results

199/208 (95.7%) — 208 questions across 13 subjects with thinking recovery

SubjectScore/16Type
HS Biology16/16100%BASE
College Physics15/1694%HARD
Conceptual Physics15/1694%HARD
Machine Learning15/1694%HARD
Professional Medicine15/1694%HARD
World Religions15/1694%BASE
Electrical Engineering14/1688%HARD
HS Geography14/1688%BASE
Formal Logic13/1681%HARD
Abstract Algebra12/1675%HARD
HS Mathematics12/1675%HARD
College CS12/1675%HARD
College Math10/1663%HARD

CRACK vs Base

CRACKBase JANG_2L
MMLU (with thinking)95.7%86.0%
HarmBench96.2%0%
Speed45 tok/s46 tok/s

Surgery improved reasoning by +9.7% — safety guardrails were interfering with mathematical problem-solving.


Install & Usage

pip install "jang[mlx]"
from jang_tools.loader import load_jang_model
from mlx_lm import generate

model, tokenizer = load_jang_model("dealignai/Nemotron-3-Super-120B-A12B-JANG_2L-CRACK")

messages = [{"role": "user", "content": "Your prompt here"}]
prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, tokenize=False)

response = generate(model, tokenizer, prompt=prompt, max_tokens=2000)
print(response)

Thinking Mode

Thinking is ON by default. To disable:

prompt = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True,
    enable_thinking=False, tokenize=False)

Tip: Use temperature=0.6 for thinking mode (NVIDIA recommendation). Use temperature=1.0 for chat.


About JANG

JANG (Jang Adaptive N-bit Grading) is a mixed-precision quantization format for Apple Silicon — the GGUF equivalent for MLX.

About CRACK

CRACK (Controlled Refusal Ablation via Calibrated Knockouts) removes safety alignment from LLMs at the weight level using per-layer projected vectors from structurally-mirrored prompt pairs.


Links


Disclaimer

This model is provided for research and educational purposes. The creators are not responsible for any misuse. By downloading this model, you agree to use it responsibly and in compliance with applicable laws.


한국어

Nemotron 3 Super 120B — JANG_2L + CRACK

항목내용
크기43 GB
HarmBench96.2% (308/320)
MMLU95.7% (199/208)
속도45 tok/s (M3 Ultra)
최소 요구사양64 GB 메모리 Mac
pip install "jang[mlx]"

GitHub · HuggingFace · MLX Studio · Ko-fi · X @dealignai


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
NemotronHForCausalLM
Ревизия весов
62ee64e

0 моделей