/ Модель
Каталог

Характеристики

Опубликована
28 апр 2026

Ссылки

Hugging Face

Nemotron-3-Nano-Omni-30B-A3B-Reasoning-MXFP4_MOE-GGUF

noctrex
Генерация текстаТекст → текст7 профессий

Квантованная сборка NVIDIA Nemotron 3 Nano Omni 30B A3B Reasoning в GGUF для диалоговой генерации текста и локального запуска через llama.cpp.

139скачиваний за 30 дней1лайквеса обновлены28 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это квантованные файлы модели NVIDIA Nemotron 3 Nano Omni 30B A3B Reasoning, опубликованные noctrex в формате GGUF. Для весов MoE используется MXFP4 на основе imatrix от Unsloth; доступны варианты BF16, F16 и Q8 с различным соотношением качества, скорости и занимаемой памяти. README рекомендует запускать модель через llama.cpp и использовать файл mmproj в формате F32 для наилучших результатов.

Модель предназначена для диалоговой генерации текста и рассуждений. В карточке указана базовая модель NVIDIA Nemotron 3 Nano Omni 30B A3B Reasoning BF16, а метаданные классифицируют репозиторий как text-generation. Лицензия, поддерживаемые языки и длина контекста в предоставленных данных не описаны.

Сценарии применения

  • локальный запуск диалоговой языковой модели
  • генерация ответов в чате
  • получение ответов с рассуждениями
  • сравнение вариантов точности и скорости GGUF-сборки

Ограничения

Производительность BF16 зависит от аппаратной поддержки; на некоторых старых архитектурах этот вариант может работать медленнее F16. Размер файлов и требования к памяти зависят от выбранного варианта квантования.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

These are MXFP4 quantizations of the model NVIDIA-Nemotron-3-Nano-Omni-30B-A3B-Reasoning, based on the imatrix from unsloth.

Quick Start

  1. Download the latest release of llama.cpp.
  2. Download your preferred model variant from below.
  3. For the mmproj file, it is recommended to use the F32 version for the best results.
    F32 > BF16 > F16

Which version should I choose?

All variants use MXFP4 for the MoE (Mixture of Experts) weights to keep the model efficient. The difference lies in how the remaining tensors are handled:

VariantQualityPerformanceSizeRecommendation
BF16⭐⭐⭐Variable*18.66GiBBest for maximum accuracy; original unquantized weights.
F16⭐⭐Fast18.66GiBGreat alternative if BF16 is slow on your hardware.
Q8⭐Fastest17.05GiBBalanced performance and memory usage.

**Note: On some older architectures, BF16 may be slower than F16. Check that your GPU supports native BF16 *

Read the guide from unsloth in order to set up the model's recommended settings:
NVIDIA Nemotron 3 Nano Omni - How To Run Locally

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
318ee2f

0 моделей

    Создать бенчмарк