/ Модель

Характеристики

Лицензия
Своя лицензия
Базовая модель
Nemotron-3-Embed-8B-BF16
Опубликована
21 июл 2026

Nemotron-3-Embed-8B-GGUF

ЭмбеддингиТекст → embedding8 профессий

Nemotron-3-Embed-8B-GGUF — набор GGUF-квантизаций модели Nemotron-3-Embed-8B-BF16, разработанной NVIDIA.

1 591скачиваний за 30 дней0лайковвеса обновлены21 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для создания текстовых эмбеддингов, семантического сходства и задач информационного поиска, включая retrieval и сценарии на базе sentence-transformers.

Это текстовая embedding-модель с размером исходной модели 8B; точные сведения об архитектуре, поддерживаемых языках и длине контекста в README не указаны. Квантизация выполнена с использованием llama.cpp и публичной матрицы важности Wikitext-2. Для корректной работы к запросам требуется добавлять префикс «query: », а к документам — «passage: ». Эмбеддинги формируются посредством mean pooling и нормализуются по L2, что удобно для сравнения векторов.

Сильные стороны модели — наличие GGUF-формата и ориентация на семантический поиск и сопоставление текстов. Ограничения включают необходимость соблюдать специальные префиксы и отсутствие в предоставленных данных подробностей о качестве, конкретных вариантах квантизации, языковом покрытии и контекстном окне. Модель распространяется по лицензии OpenMDW 1.1; README также указывает, что данный репозиторий не связан с NVIDIA, Mistral или другими компаниями и не одобрен ими.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Nemotron-3-Embed-8B-GGUF

GGUF quantizations of nvidia/Nemotron-3-Embed-8B-BF16.

Quantized with llama.cpp using a public Wikitext-2 importance matrix. Queries require the query: prefix and documents require passage: . Embeddings use mean pooling and L2 normalization.

This model is not affiliated with or endorsed by nvidia, mistral, or any other company. These are simply quantized gguf files of the original model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
fa8f131

0 моделей