Характеристики

Контекст: 8 192 токена
Лицензия: Apache 2.0
Архитектура: nomic_bert · dense
Библиотека: sentence-transformers
Опубликована: 15 янв 2024

Ссылки

nomic-embed-text-v1-unsupervised

ЭмбеддингиТекст → embedding7 профессий

Промежуточный англоязычный энкодер NomicBert для получения текстовых эмбеддингов и оценки семантического сходства с контекстом до 8192 токенов.

601скачиваний за 30 дней15лайковвеса обновлены2 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки32

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

CodeSearchNetRetrieval
main_score
Результат
0,8519
Общий результат 0,8498
MTEB
Публичная таблицаревизия совпадает
MassiveScenarioClassification
main_score
Результат
0,4141
Общий результат 0,5063Общий результат 0,4685Общий результат 0,3617
MTEB
Публичная таблицаревизия совпадает
MLQARetrieval
main_score
Результат
0,1163
Общий результат 0,3237Общий результат 0,1291
MTEB
Публичная таблицаревизия совпадает
MultiEURLEXMultilabelClassification
main_score
Результат
0,0212
Общий результат 0,0393
MTEB
Публичная таблицаревизия совпадает
SIB200ClusteringS2S
main_score
Результат
0,1451
Общий результат 0,088Общий результат 0,0675Общий результат 0,0663
MTEB
Публичная таблицаревизия совпадает
STS22
main_score
Результат
0,7071
MTEB
Публичная таблицаревизия совпадает
Tatoeba
main_score
Результат
0,0635
Общий результат 0,2791Общий результат 0,0964
MTEB
Публичная таблицаревизия совпадает
MTOPIntentClassification
main_score
Результат
0,4325
MTEB
Публичная таблицаревизия совпадает
MassiveIntentClassification
main_score
Результат
0,4748
Общий результат 0,4498Общий результат 0,4333
MTEB
Публичная таблицаревизия совпадает
LEMBPasskeyRetrieval
main_score
Результат
0,02
MTEB
Публичная таблицаревизия совпадает
MasakhaNEWSClusteringS2S
main_score
Результат
0,3476
Общий результат 0,4599
MTEB
Публичная таблицаревизия совпадает
Ko-StrategyQA
main_score
Результат
0,0597
MTEB
Публичная таблицаревизия совпадает
RuReviewsClassification
main_score
Результат
0,4495
MTEB
Публичная таблицаревизия совпадает
BUCC.v2
main_score
Результат
0,3443
MTEB
Публичная таблицаревизия совпадает
SICK-R
main_score
Результат
0,7419
MTEB
Публичная таблицаревизия не подтверждена
Touche2020Retrieval.v3
main_score
Результат
0,5612
MTEB
Публичная таблицаревизия совпадает
RuBQRetrieval
main_score
Результат
0,0994
MTEB
Публичная таблицаревизия совпадает
XNLI
main_score
Результат
0,6257
MTEB
Публичная таблицаревизия совпадает
WikipediaRerankingMultilingual
main_score
Результат
0,8178
MTEB
Публичная таблицаревизия совпадает
NusaXBitextMining
main_score
Результат
0,2977
MTEB
Публичная таблицаревизия совпадает
AmazonCounterfactualClassification
main_score
Результат
0,7666
MTEB
Публичная таблицаревизия совпадает
MLSUMClusteringP2P
main_score
Результат
0,4286
MTEB
Публичная таблицаревизия совпадает
AngryTweetsClassification
main_score
Результат
0,4411
MTEB
Публичная таблицаревизия совпадает
MultiHateClassification
main_score
Результат
0,5588
MTEB
Публичная таблицаревизия совпадает
NusaTranslationBitextMining
main_score
Результат
0,6258
MTEB
Публичная таблицаревизия совпадает
BiorxivClusteringP2P.v2
main_score
Результат
0,3878
MTEB
Публичная таблицаревизия совпадает
IndicGenBenchFloresBitextMining
main_score
Результат
0,0654
MTEB
Публичная таблицаревизия совпадает
CodeSearchNetCCRetrieval
main_score
Результат
0,6087
MTEB
Публичная таблицаревизия совпадает
FinancialPhrasebankClassification
main_score
Результат
0,8191
MTEB
Публичная таблицаревизия совпадает
CUREv1
main_score
Результат
0,4322
MTEB
Публичная таблицаревизия совпадает
PublicHealthQA
main_score
Результат
0,7631
MTEB
Публичная таблицаревизия совпадает
MIRACLReranking
main_score
Результат
0,3733
MTEB
Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

nomic-embed-text-v1-unsupervised — текстовый энкодер семейства NomicBert, выпущенный Nomic AI как промежуточный чекпойнт многоэтапного контрастивного обучения. Он предназначен для преобразования текста в эмбеддинги, пригодные для вычисления семантического сходства и других задач поиска по векторному представлению. Модель принимает текст и формирует векторные представления; заявленная длина контекста составляет 8192 токена. В метаданных указаны английский язык, библиотека sentence-transformers и форматы PyTorch и ONNX.

Это артефакт обучения, а не рекомендуемая для обычного извлечения эмбеддингов версия: автор предлагает для практического использования nomic-embed-text-v1. Лицензия Apache-2.0. Карточка не сообщает дополнительных ограничений по качеству или применению.

Сценарии применения

получение эмбеддингов английских предложений
оценка семантического сходства текстов
эксперименты с контрастивным обучением эмбеддеров

Ограничения

Это промежуточный чекпойнт контрастивного обучения; для обычного извлечения эмбеддингов автор рекомендует nomic-embed-text-v1.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

nomic-embed-text-v1-unsupervised: A Reproducible Long Context (8192) Text Embedder

nomic-embed-text-v1-unsupervised is 8192 context length text encoder. This is a checkpoint after contrastive pretraining from multi-stage contrastive training of the final model. The purpose of releasing this checkpoint is to open-source training artifacts from our Nomic Embed Text tech report here

If you want to use a model to extract embeddings, we suggest using nomic-embed-text-v1.

Join the Nomic Community

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: NomicBertModel
Ревизия весов: b53d557