Nomic-embed-text-v1.5-GGUF — модель для создания текстовых embedding-векторов и задач семантического сходства.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Она основана на nomic-ai/nomic-embed-text-v1.5, разработана nomic-ai и предназначена для представления англоязычных текстов в виде векторов, которые можно использовать для поиска, сравнения и семантического сопоставления документов и запросов.
Модель распространяется в формате GGUF и оптимизирована для запуска с llama.cpp; квантизацию выполнила Second State Inc. В конфигурации GaiaNet указан шаблон prompt «embedding» и размер контекста 768 токенов. Сведения о точном размере модели, архитектуре, типе квантизации и поддержке других языков в README не приведены, поэтому возможности модели за пределами англоязычных сценариев не подтверждены.
Модель подходит для локальных и интегрируемых в приложения сценариев семантического поиска и сравнения текстов, однако ограничение контекста в 768 токенов следует учитывать при обработке длинных материалов. Лицензия — Apache-2.0.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
nomic-ai/nomic-embed-text-v1.5
Prompt template
prompt template: embedding
Context size
chat_ctx_size: 768
Run with GaiaNet
Quick start: https://docs.gaianet.ai/node-guide/quick-start
Customize your node: https://docs.gaianet.ai/node-guide/customize
Quantized with llama.cpp b4120
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · sentence-transformers
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).