Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Nemotron 3 Nano 30B-A3B GGUF — квантованный вариант NVIDIA Nemotron 3 Nano 30B-A3B, подготовленный BatiAI для локального запуска на компьютерах Mac. Это гибридная языковая модель NemotronH с архитектурой Mamba и attention и смесью экспертов: в README указаны 30 млрд параметров, 128 экспертов и 8 активных на токен. Для выполнения используется llama.cpp; доступны варианты IQ3_XXS, IQ4_XS и Q5_K_M с разными требованиями к памяти.
Модель предназначена для диалогов, рассуждений, программирования и агентных сценариев, включая работу с инструментами и структурированными ответами. README описывает её как рассчитанную на длинный контекст с линейным масштабированием гибридной архитектуры и приводит тесты на Mac с Apple Silicon. В метаданных указана поддержка английского, корейского, японского и китайского языков; сведения базовой модели каталога также упоминают шесть языков.
Репозиторий содержит квантованные GGUF-веса, хотя метаданные форматов обозначают их как «GGUF BF16». Лицензия — NVIDIA Open Model License, названная в README коммерчески ориентированной; перед использованием следует проверить её условия для конкретного применения. Производительность и качество зависят от выбранной квантизации и доступной памяти.
Сценарии применения
локальные диалоги на Mac
решение задач на рассуждение
генерация и разбор кода
создание агентных приложений с вызовом инструментов
формирование структурированных ответов
Ограничения
Для работы требуется значительный объём оперативной памяти: в README варианты весом 17–25 ГБ рассчитаны на Mac с 24 ГБ и более, а Q5_K_M требует около 28 ГБ. Скорость и качество зависят от квантизации и оборудования; детали лицензии следует сверить с NVIDIA Open Model License.
Для каких профессий подходит15
Разделы каталога профессий, в задачах которых используется эта модель
Nemotron 3 Nano 30B-A3B GGUF — Quantized by BatiAI
Quantizations of NVIDIA Nemotron 3 Nano 30B-A3B (NemotronH MoE, hybrid Mamba+Attention) for on-device AI on Mac.
Built and verified by BatiAI for BatiFlow.
Why Nemotron 3 Nano?
30B params, only 3B active per token — A3B MoE architecture
Hybrid Mamba + Attention — long context with linear scaling
Reasoning + agentic — built for tool use, structured outputs
Apache-spirit NVIDIA Open Model License — commercial-friendly
Runs on a 32GB Mac with IQ3/IQ4
Quick Start
ollama pull batiai/nemotron3-nano:iq4
Available Quantizations
Quant
Size
VRAM target
Recommended For
IQ3_XXS
17GB
~20GB
24–32GB Mac
IQ4_XS
17GB
~20GB
32GB Mac (recommended)
Q5_K_M
25GB
~28GB
36GB+ Mac (highest quality)
RAM Requirements
Your Mac RAM
IQ3_XXS (17GB)
IQ4_XS (17GB)
Q5_K_M (25GB)
16GB
⚠️ Heavy swap
⚠️ Heavy swap
❌
24GB
✅
✅
❌
32GB
✅ Fast
✅ Recommended
⚠️ Tight
36GB+
✅
✅
✅ Best quality
48GB+
✅
✅
✅ Headroom
Model Comparison — Which BatiAI Model for Your Mac?
Your Mac
Best Model
Notes
16GB
batiai/gemma4-e4b:q4
Fast, lightweight
24GB
batiai/gemma4-26b:iq4 or batiai/nemotron3-nano:iq3
Reasoning + tools
32GB
batiai/nemotron3-nano:iq4
Hybrid MoE, agentic
36GB
batiai/qwen3.5-35b:iq4
Alibaba MoE
48GB
batiai/gemma4-31b:iq4 or batiai/nemotron3-nano:q5
High quality
128GB
batiai/minimax-m2.7:iq3 (229B)
Frontier on laptop
Why Nemotron-H Architecture?
NemotronH is NVIDIA's hybrid architecture combining Mamba state-space layers with standard attention:
Linear scaling on long context (Mamba) + accuracy at short context (Attention)