jina-embeddings-v3-GGUF — GGUF-версия модели jina-embeddings-v3, разработанной jinaai и квантизированной компанией Second State Inc.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это модель для построения векторных представлений текста, предназначенная для семантического поиска, сопоставления текстов, кластеризации и других задач, где требуется сравнивать смысловое сходство документов или запросов. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge; для неё используется шаблон prompt типа embedding.
Доступны варианты размерности эмбеддингов от 32 до 1024: 32, 64, 128, 256, 512, 768 и 1024. Формат GGUF поддерживает различные уровни квантования, позволяя выбирать между размером файла и сохранением качества; среди указанных вариантов Q4_K_M и Q5_K_M отмечены как сбалансированные или рекомендуемые. В README не указаны архитектура исходной модели, поддерживаемые языки, модальности и точный размер контекста; для запуска LlamaEdge приведён контекст 768.
Сильными сторонами модели являются возможность локального запуска, выбор размерности эмбеддингов и нескольких уровней квантования, включая компактные варианты. Более агрессивное квантование может приводить к заметной потере качества, тогда как версии с большим числом бит занимают больше памяти. Лицензия в предоставленном README не указана; условия использования следует уточнять в карточке исходной модели jinaai/jina-embeddings-v3 и соответствующего GGUF-репозитория.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Prompt template
embeddingEmbedding size: 32, 64, 128, 256, 512, 768, 1024
Run as LlamaEdge service
wasmedge --dir .:. --nn-preload default:GGML:AUTO:jina-embeddings-v3-f16.gguf \
llama-api-server.wasm \
--prompt-template embedding \
--ctx-size 768 \
--model-name jina-embeddings-v3
Quantized with llama.cpp b6311
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).