NVIDIA-Nemotron-3-Nano-30B-A3B-GGUF — это квантизированная версия модели NVIDIA-Nemotron-3-Nano-30B-A3B-BF16, автоматически преобразованная проектом ggml-org/convert в формат GGUF.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Разработчик исходной модели — NVIDIA; публикацией GGUF-версии занимается ggml-org. Модель предназначена для генерации текста и может запускаться через llama.cpp-совместимый интерфейс, включая llama.app.
Из доступных данных известно, что модель относится к семейству Nemotron-3 Nano и имеет обозначение 30B-A3B, однако подробности об архитектуре, фактическом числе активируемых параметров, поддерживаемых языках, длине контекста и модальностях не указаны. Ключевое преимущество этой версии — возможность локального запуска в формате GGUF с использованием различных уровней квантизации, но конкретные параметры квантизации в README не приведены. Ограничения и результаты оценки также не описаны.
Лицензия указана как other, без уточнения конкретных условий использования. README содержит незавершённые пункты, включая добавление дополнительной информации и поддержки MTP.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Run with https://llama.app
llama serve -hf ggml-org/NVIDIA-Nemotron-3-Nano-30B-A3B-GGUF
[!IMPORTANT] This model is automatically converted using https://github.com/ggml-org/convert
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.