Характеристики

Лицензия: openmdw-1.1
Базовая модель: Nemotron-3-Embed-8B-BF16
Опубликована: 21 июл 2026

Ссылки

Nemotron-3-Embed-8B-GGUF

Nemotron-3-Embed-8B-GGUF — мультиязычная модель для создания текстовых эмбеддингов, опубликованная Abiray на основе модели NVIDIA Nemotron-3-Embed-8B-BF16.

143 тыс.скачиваний за 30 дней10лайковвеса обновлены21 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Она предназначена для Retrieval-Augmented Generation (RAG), семантического поиска и кросс-языкового поиска, включая локальные сценарии на потребительском оборудовании с использованием llama.cpp, Ollama или LM Studio.

Модель имеет архитектуру Transformer, содержит около 8 миллиардов параметров и поддерживает контекст длиной до 32 тысяч токенов. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Репозиторий предоставляет варианты квантования в формате GGUF от Q3_K_M до Q8_0 объёмом примерно от 4,01 до 8,46 ГБ; Q4_K_M указан как рекомендуемый вариант, обеспечивающий баланс между качеством и требованиями к памяти.

Сильными сторонами модели являются мультиязычность, поддержка кросс-языкового поиска, возможность локального развёртывания и ориентация на задачи извлечения информации; в README также заявлено первое место в мультиязычном рейтинге RTEB по состоянию на июль 2026 года. Ограничения связаны с потерями качества у более низких уровней квантования и значительными требованиями к памяти. Лицензия — OpenMDW-1.1.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🚀 Nemotron-3-Embed-8B (GGUF Quantizations)

Welcome to the GGUF repository for NVIDIA's Nemotron-3-Embed-8B-BF16.

This model is a state-of-the-art, 8-billion parameter multilingual text embedding model optimized for Retrieval-Augmented Generation (RAG), semantic search, and cross-lingual retrieval workflows. It achieved #1 on the multilingual RTEB leaderboard (as of July 2026).

By converting the model to GGUF (GPT-Generated Unified Format), you can run enterprise-grade retrieval locally on consumer hardware (CPUs and GPUs) using tools like llama.cpp, Ollama, or LM Studio.

📂 Repository Files & Quantization Options

Below is the directory structure of the available .gguf files in this repository. Choose the quantization level that best fits your VRAM/RAM constraints!

📁 nemotron-3-embed-8b-gguf/
│
├── 📄 README.md
├── 📄 config.json
│
├── 📦 Nemotron-3-Embed-8B-Q8_0.gguf    (8.46 GB) 🟢 Near zero quality loss
├── 📦 Nemotron-3-Embed-8B-Q6_K.gguf    (6.53 GB) 🟢 Extremely low quality loss
├── 📦 Nemotron-3-Embed-8B-Q5_K_M.gguf  (5.69 GB) 🟡 Very low quality loss
├── 📦 Nemotron-3-Embed-8B-Q5_K_S.gguf  (5.55 GB) 🟡 Very low quality loss
├── 📦 Nemotron-3-Embed-8B-Q4_K_M.gguf  (4.90 GB) ⭐ RECOMMENDED - Great balance
├── 📦 Nemotron-3-Embed-8B-Q4_K_S.gguf  (4.65 GB) 🟠 Moderate quality loss
└── 📦 Nemotron-3-Embed-8B-Q3_K_M.gguf  (4.01 GB) 🔴 High quality loss (Memory constrained only)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача, поэтому рантайм не знает, как её запускать.

Ревизия весов: 1ffb81e