MLX-конверсия мультимодальной модели NVIDIA Nemotron для диалогового анализа изображений и текста, с возможностями базовой модели для аудио и видео.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это конвертированная в формат MLX версия мультимодальной модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16; конверсию выполнил mlx-community с помощью mlx-vlm 0.4.5. Модель предназначена для диалогового анализа изображений и текста, а описание базовой модели также указывает на работу с аудио и видео, включая транскрибацию, OCR, суммаризацию и обработку документов.
В репозитории указаны архитектура NemotronH_Nano_Omni_Reasoning_V3, формат safetensors и библиотека MLX. Метаданные связывают эту версию с базовой моделью NVIDIA и датасетом Nemotron-Image-Training-v3. Лицензия обозначена как other; подробные условия следует сверять с карточкой базовой модели. Размер параметров и длина контекста в предоставленных данных не указаны.
Описание этой конверсии не приводит подробных оценок качества и сценариев применения; сведения об аудио и видео основаны на кратком описании базовой модели. Условия лицензии обозначены как other, поэтому перед использованием следует проверить оригинальную карточку NVIDIA.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16
using mlx-vlm version 0.4.5.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-bf16 --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon.