Характеристики

Контекст: 512 токенов
Параметры: 124 млн
Лицензия: Apache 2.0
Архитектура: bert · dense
Опубликована: 16 янв 2024

Ссылки

Hugging Face

paraphrase-multilingual-MiniLM-L12-v2-onnx-Q

Qdrant

Сходство предложенийТекст → score10 профессий

Квантизированная ONNX-версия многоязычной MiniLM для эмбеддингов предложений и поиска семантического сходства.

297 тыс.скачиваний за 30 дней8лайковвеса обновлены15 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qdrant подготовила ONNX-порт модели sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 с квантизацией. Это плотная модель на архитектуре BERT с 124,3 млн параметров, предназначенная для получения эмбеддингов предложений, поиска семантически близких текстов и текстовой классификации. Репозиторий предлагает запуск через FastEmbed. Модель поддерживает многоязычные сценарии, включая поиск сходства между предложениями; максимальная длина контекста — 512 токенов.

Лицензия — Apache-2.0. Квантизированный ONNX-формат предназначен для эффективного инференса, но качество на задачах классификации зависит от используемого метода и данных.

Сценарии применения

поиск похожих предложений на нескольких языках
семантический поиск по коллекции текстов
поиск дубликатов и перефразировок
классификация текстов на основе эмбеддингов

Ограничения

Максимальная длина входа — 512 токенов. README не приводит оценок качества и указывает на классификацию без описания отдельной обученной классификационной головы.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Quantized ONNX port of sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 for text classification and similarity searches.

Usage

Here's an example of performing inference using the model with FastEmbed.

from fastembed import TextEmbedding

documents = [
    "You should stay, study and sprint.",
    "History can only prepare us to be surprised yet again.",
]

model = TextEmbedding(model_name="sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2")
embeddings = list(model.embed(documents))

# [
#     array([1.96449570e-02, 1.60677675e-02, 4.10149433e-02...]),
#     array([-1.56669170e-02, -1.66313536e-02, -6.84525725e-03...])
# ]

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры: BertModel
Ревизия весов: faf4aa4