Характеристики

Контекст: 8 192 токена
Архитектура: nomic_bert · dense
Библиотека: sentence-transformers
Опубликована: 15 янв 2024

Ссылки

nomic-embed-text-v1-ablated

ЭмбеддингиТекст → embedding9 профессий

Текстовый энкодер Nomic AI для извлечения эмбеддингов и сравнения сходства текстов, выпущенный как исследовательский контрольный чекпойнт.

192скачиваний за 30 дней4лайкавеса обновлены2 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки30

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

MLQARetrieval
main_score
Результат
0,3447
Общий результат 0,1554Общий результат 0,0868
MTEB
Публичная таблицаревизия совпадает
IndicGenBenchFloresBitextMining
main_score
Результат
0,0397
Общий результат 0,084Общий результат 0,0484Общий результат 0,0475
MTEB
Публичная таблицаревизия совпадает
WikipediaRerankingMultilingual
main_score
Результат
0,5743
MTEB
Публичная таблицаревизия совпадает
MasakhaNEWSClusteringS2S
main_score
Результат
0,4282
Общий результат 0,4541
MTEB
Публичная таблицаревизия совпадает
CUREv1
main_score
Результат
0,3206
Общий результат 0,3991
MTEB
Публичная таблицаревизия совпадает
SNLHierarchicalClusteringS2S
main_score
Результат
0,4979
MTEB
Публичная таблицаревизия совпадает
JSICK
main_score
Результат
0,6767
MTEB
Публичная таблицаревизия совпадает
MultiEURLEXMultilabelClassification
main_score
Результат
0,0239
MTEB
Публичная таблицаревизия совпадает
STSB
main_score
Результат
0,4716
MTEB
Публичная таблицаревизия совпадает
MassiveScenarioClassification
main_score
Результат
0,5643
Общий результат 0,462Общий результат 0,1122
MTEB
Публичная таблицаревизия совпадает
SIB200ClusteringS2S
main_score
Результат
0,0762
Общий результат 0,3886Общий результат 0,1822Общий результат 0,1282
MTEB
Публичная таблицаревизия совпадает
WikiClusteringP2P.v2
main_score
Результат
0,2663
Общий результат 0,2113
MTEB
Публичная таблицаревизия совпадает
Tatoeba
main_score
Результат
0,1351
MTEB
Публичная таблицаревизия совпадает
MassiveIntentClassification
main_score
Результат
0,0474
Общий результат 0,4156
MTEB
Публичная таблицаревизия совпадает
MTOPDomainClassification
main_score
Результат
0,9347
MTEB
Публичная таблицаревизия не подтверждена
AfriSentiClassification
main_score
Результат
0,3331
MTEB
Публичная таблицаревизия совпадает
WebLINXCandidatesReranking
main_score
Результат
0,1604
MTEB
Публичная таблицаревизия совпадает
NusaXBitextMining
main_score
Результат
0,3609
MTEB
Публичная таблицаревизия совпадает
StatcanDialogueDatasetRetrieval
main_score
Результат
0,0648
MTEB
Публичная таблицаревизия совпадает
MalteseNewsClassification
main_score
Результат
0,2177
MTEB
Публичная таблицаревизия совпадает
CQADupstackRetrieval
main_score
Результат
0,3847
MTEB
Публичная таблицаревизия совпадает
SentimentAnalysisHindi
main_score
Результат
0,3972
MTEB
Публичная таблицаревизия совпадает
NusaTranslationBitextMining
main_score
Результат
0,9592
MTEB
Публичная таблицаревизия совпадает
CQADupstackGisRetrieval
main_score
Результат
0,3803
MTEB
Публичная таблицаревизия не подтверждена
AmazonReviewsClassification
main_score
Результат
0,2966
MTEB
Публичная таблицаревизия совпадает
SummEvalSummarization.v2
main_score
Результат
0,3114
MTEB
Публичная таблицаревизия совпадает
PawsXPairClassification
main_score
Результат
0,5293
MTEB
Публичная таблицаревизия совпадает
PSC
main_score
Результат
0,971
MTEB
Публичная таблицаревизия совпадает
OpusparcusPC
main_score
Результат
0,8075
MTEB
Публичная таблицаревизия совпадает
RTE3
main_score
Результат
0,8451
MTEB
Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

nomic-embed-text-v1-ablated — текстовый энкодер для создания векторных представлений предложений и текстов, разработанный Nomic AI. Это контрольный чекпойнт семейства Nomic Embed Text, обученный на изменённом наборе данных, отличавшемся от данных финальной модели; его выпустили, чтобы изучать влияние частей обучающего набора на результаты. Архитектура — NomicBert, доступны форматы PyTorch и ONNX, контекстное окно составляет 8192 токена.

Модель подходит для извлечения эмбеддингов и вычисления сходства между текстами, например, для поиска по смыслу и оценки близости предложений. Разработчики рекомендуют для практического извлечения эмбеддингов использовать nomic-embed-text-v1. README не сообщает поддерживаемые естественные языки или лицензию, поэтому эти сведения не включены.

Сценарии применения

создание эмбеддингов текстов для семантического поиска
сравнение смысловой близости предложений
подготовка векторных представлений для поиска по документам
изучение влияния обучающих данных на качество эмбеддингов

Ограничения

Это изменённый контрольный чекпойнт для анализа влияния обучающих данных; разработчики рекомендуют nomic-embed-text-v1 для практического извлечения эмбеддингов. Поддерживаемые естественные языки и лицензия в предоставленных источниках не описаны.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

nomic-embed-text-v1-ablated: A Reproducible Long Context (8192) Text Embedder

nomic-embed-text-v1-ablated is 8192 context length text encoder. This is a checkpoint trained after modifying the training dataset to be different from the dataset used to train our final model. The purpose of releasing this checkpoint is to understand the impact that subsets of our training data had on model outcomes. This release is part of our commitment to open-source training artifacts from our Nomic Embed Text tech report here

If you want to use a model to extract embeddings, we suggest using nomic-embed-text-v1.

Join the Nomic Community

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: NomicBertModel
Ревизия весов: 7d94890