/ Модель
Каталог

Характеристики

Контекст
262 144 токена
Лицензия
Своя лицензия
Базовая модель
NVIDIA-Nemotron-3-Nano-30B-A3B-BF16
Библиотека
transformers
Опубликована
18 дек 2025

Ссылки

Hugging Face

Elbaz-NVIDIA-Nemotron-3-Nano-30B-A3B-PRISM-NVFP4

Ex0bit
Генерация текстаТекст → текст12 профессий

Квантизированная в NVFP4 версия гибридной модели NVIDIA Nemotron-3-Nano для диалоговой генерации текста на GPU Blackwell.

51скачиваний за 30 дней6лайковвеса обновлены18 дек 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Elbaz-NVIDIA-Nemotron-3-Nano-30B-A3B-PRISM-NVFP4 — квантизированная версия разговорной языковой модели NVIDIA Nemotron-3-Nano, подготовленная Эриком Эльбазом (Ex0bit) с помощью NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста в диалогах и представлена как вариант без фильтрации ответов.

Это гибридная модель семейства Nemotron с архитектурой Mamba-2 и MoE; базовая версия содержит 30 млрд параметров при 3 млрд активных. Веса сжаты в формат NVFP4, размер чекпойнта около 18 ГБ. Для запуска требуются GPU NVIDIA Blackwell и TensorRT-LLM версии 0.17 или новее. README указывает калибровку на 512 примерах WikiText-2.

Модель подходит для диалогов, ответов на вопросы, рассуждений и задач программирования; метаданные указывают английский язык. Формат несовместим с потребительскими GPU RTX 3000/4000/5000, llama.cpp и стандартным инференсом PyTorch. В карточке базовой модели указана поддержка шести языков, но языки кроме английского для этой версии отдельно не подтверждены. Лицензия в метаданных обозначена как other.

Сценарии применения

  • ведение диалогов с англоязычным чат-ботом
  • ответы на вопросы и выполнение текстовых инструкций
  • генерация и объяснение программного кода
  • решение математических и логических задач
  • развёртывание языковой модели на NVIDIA Blackwell через TensorRT-LLM

Ограничения

Для запуска необходимы GPU NVIDIA Blackwell и TensorRT-LLM 0.17 или новее; модель не совместима с llama.cpp, стандартным PyTorch-инференсом и потребительскими видеокартами RTX 3000/4000/5000. Лицензия указана как other, поэтому условия использования следует уточнить на странице модели.

Для каких профессий подходит12

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Elbaz-NVIDIA-Nemotron-3-Nano-30B-A3B-PRISM-NVFP4 (UNCENSORED)

NVFP4 Quantized Version for NVIDIA Blackwell GPUs

Model Description

This is the NVFP4 (FP4) quantized version of Ex0bit/Elbaz-NVIDIA-Nemotron-3-Nano-30B-A3B-PRISM, created using NVIDIA TensorRT Model Optimizer.

Model Size: ~18 GB (4-bit weights)

Requirements

NVFP4 format is optimized for:

  • NVIDIA Blackwell GPUs (B100, B200, GB200)
  • TensorRT-LLM v0.17+

This format is NOT compatible with:

  • Consumer GPUs (RTX 3000/4000/5000 series)
  • llama.cpp
  • Standard PyTorch inference

Usage

With TensorRT-LLM

Deploying NVIDIA Nemotron-3-Nano with TensorRT LLM

Quantization Details

  • Method: NVIDIA ModelOpt NVFP4_DEFAULT_CFG
  • Calibration: 512 samples from WikiText-2
  • Format: HuggingFace checkpoint with quantized weights

Related Models

Author

Eric Elbaz (Ex0bit)

License

NVIDIA Open Model License

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Ревизия весов
aa9beda

0 моделей

    Создать бенчмарк