Характеристики

Контекст: 512 токенов
Параметры: 40 млн
Размер весов: 167 МБ
Лицензия: Apache 2.0
Архитектура: bert · dense
Опубликована: 7 авг 2023

Ссылки

e5-small-v2-onnx

ЭмбеддингиТекст → embedding9 профессий

nixiesearch/e5-small-v2-onnx — это ONNX-версия модели intfloat/e5-small-v2, преобразованная с помощью инструмента onnx-convert.

5 908скачиваний за 30 дней1лайквеса обновлены10 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель разработана для преобразования предложений и абзацев в плотные векторы фиксированной размерности, пригодные для семантического поиска, кластеризации и задач определения сходства текстов.

Модель относится к семейству sentence-transformers и предназначена прежде всего для англоязычных текстов. В составе доступны вариант Float32 с оптимизацией уровня 2 и вариант model_opt2_QInt8.onnx с 8-битным квантованием QInt8 и той же оптимизацией. Размерность эмбеддингов в README не указана; сведения об архитектуре, максимальной длине контекста и точной поддерживаемой мультимодальности отсутствуют. Модель работает только с текстовыми входами.

К сильным сторонам относятся формат ONNX, наличие оптимизированной и квантованной версии, а также возможность использовать модель в системах семантического поиска и кластеризации. Ограничения включают отсутствие заявленной поддержки других языков и нехватку данных о производительности, размере векторов и контекстном окне. Модель распространяется по лицензии Apache 2.0.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ONNX version of intfloat/e5-small-v2

This is a sentence-transformers model: It maps sentences & paragraphs to a N dimensional dense vector space and can be used for tasks like clustering or semantic search.

The model conversion was made with onnx-convert tool with the following parameters:

python convert.sh --model_id intfloat/e5-small-v2 --quantize QInt8 --optimize 2

There are two versions of model available:

model.onnx - Float32 version, with optimize=2
model_opt2_QInt8.onnx - QInt8 quantized version, with optimize=2

License

Apache 2.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры: BertModel
Ревизия весов: 99e53fa