Характеристики

Лицензия: Своя лицензия
Базовая модель: NVIDIA-Nemotron-3-Super-120B-A12B-BF16
Библиотека: llama.cpp
Опубликована: 29 апр 2026

Ссылки

Nemotron-3-Super-120B-A12B-GGUF

Генерация текстаТекст → текст

Квантованная GGUF-сборка NVIDIA Nemotron 3 Super для локальных диалогов, рассуждений и агентных задач на мощных компьютерах Mac.

96скачиваний за 30 дней1лайквеса обновлены30 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Nemotron 3 Super 120B-A12B GGUF — квантованная версия языковой модели NVIDIA Nemotron 3 Super, подготовленная BatiAI для локального запуска через llama.cpp и Ollama на компьютерах Mac с большим объёмом памяти. Это MoE-модель на 120 млрд параметров, из которых активны 12 млрд на токен; архитектура NemotronH объединяет слои Mamba и стандартное внимание, а также использует 128 экспертов, 8 из которых активны на токен. В репозитории представлены варианты IQ3_XXS размером 53 ГБ и IQ4_XS размером 62 ГБ; для квантования применена калибровка imatrix на 200 фрагментах wikitext-2.

Модель предназначена для диалогов, рассуждений, генерации кода, структурированных ответов и сценариев с использованием инструментов. Гибридная архитектура рассчитана на работу с длинным контекстом, а локальный запуск позволяет обрабатывать запросы на устройстве. Карточка описывает сборку для Mac с 96 ГБ и более оперативной памяти, причём для IQ4_XS рекомендуются 128 ГБ.

Разработчик исходной модели — NVIDIA, квантование подготовила BatiAI. В метаданных указана лицензия other, а README называет лицензию исходной модели NVIDIA Open Model License и описывает её как допускающую коммерческое использование; условия следует сверять с лицензией исходной модели и файлами репозитория. Указанные языки — английский, корейский, японский и китайский.

Сценарии применения

локальный чат и ответы на вопросы
пошаговое рассуждение над сложными запросами
генерация и объяснение кода
создание структурированных ответов
выполнение задач с использованием инструментов
обработка длинных текстовых запросов на Mac

Ограничения

Для запуска требуются значительные ресурсы памяти: варианты занимают 53–62 ГБ, а README рекомендует Mac с 96 ГБ и более, особенно 128 ГБ для IQ4_XS. Указанные в карточке языки — английский, корейский, японский и китайский.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Nemotron 3 Super 120B-A12B GGUF — Quantized by BatiAI

Quantizations of NVIDIA Nemotron 3 Super 120B-A12B (NemotronH MoE, hybrid Mamba+Attention) for high-end Mac (96GB+). Built and verified by BatiAI for BatiFlow.

Why Nemotron 3 Super?

120B params, 12B active per token — A12B MoE
Hybrid Mamba + Attention — long context with linear scaling
Reasoning + agentic — built for tool use, structured outputs, step-by-step
NVIDIA Open Model License — commercial-friendly
Runs on a 96GB+ Mac with IQ3/IQ4

Quick Start

ollama pull batiai/nemotron3-super:iq4

Available Quantizations

Quant	Size	VRAM target	Recommended For
IQ3_XXS	53GB	~64GB	96GB+ Mac (compact)
IQ4_XS	62GB	~75GB	128GB Mac (recommended)

RAM Requirements

Your Mac RAM	IQ3_XXS (53GB)	IQ4_XS (62GB)
64GB	⚠️ Heavy swap	❌
96GB	✅ Fast	⚠️ Tight
128GB	✅	✅ Recommended
192GB+	✅	✅ Headroom

Nemotron 3 Family

Model	Size	Active	Recommended Mac
Nano 30B-A3B	17GB (iq4)	3B	32GB
Nano Omni text 30B-A3B	17GB (iq4)	3B	32GB (reasoning-tuned)
Super 120B-A12B	62GB (iq4)	12B	128GB

Why NemotronH Architecture?

NemotronH is NVIDIA's hybrid architecture combining Mamba state-space layers with standard attention:

Linear scaling on long context (Mamba) + accuracy at short context (Attention)
A12B MoE: 128 experts, 8 active per token
Trained on reasoning, code, and agentic data

Why BatiAI Quantization?

	BatiAI	Third-party
Source	Quantized from official NVIDIA weights	Re-quantized from other GGUFs
Tested on	Real Mac hardware	Often untested on consumer hardware
imatrix	✅ Calibrated (200 chunks wikitext-2)	Standard or none
Tool Calling	✅ Verified	Often untested

Technical Details

Original Model: nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16
Architecture: NemotronH MoE (Mamba + Attention hybrid, 120B-A12B)
License: NVIDIA Open Model License
Quantized with: llama.cpp — imatrix --chunks 200 calibrated
Quantized by: BatiAI

About BatiFlow

BatiFlow — free, on-device AI automation for Mac. 5MB app, 100% local, unlimited. 57+ built-in tools for calendar, notes, reminders, files, email, browser, messaging.

License

Quantized from nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16. License: NVIDIA Open Model License.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов: 8e034e1