Характеристики

Контекст: 512 токенов
Параметры: 25,9 млн
Размер весов: 45,4 МБ
Лицензия: Apache 2.0
Архитектура: bert · dense
Библиотека: sentence-transformers
Опубликована: 2 апр 2025

Ссылки

all-MiniLM-L6-v2-bf16

ЭмбеддингиТекст → embedding9 профессий

Компактная англоязычная MLX-модель для создания нормализованных эмбеддингов предложений и оценки их семантического сходства.

363скачиваний за 30 дней1лайквеса обновлены2 апр 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mlx-community/all-MiniLM-L6-v2-bf16 — компактная модель для получения векторных представлений предложений, созданная сообществом mlx-community путём конвертации sentence-transformers/all-MiniLM-L6-v2 в формат MLX. Модель основана на архитектуре MiniLM и содержит 25,9 млн параметров.

Она предназначена для оценки семантического сходства текстов, поиска похожих предложений и построения систем семантического поиска, кластеризации и retrieval-компонентов. Модель принимает англоязычные тексты и возвращает нормализованные embeddings, между которыми можно вычислять сходство через скалярное произведение. Поддерживается контекст длиной до 512 токенов и использование через библиотеку sentence-transformers и инструменты MLX.

Сильные стороны модели — небольшой размер, специализированность на sentence embeddings и удобство применения на устройствах и в окружениях, совместимых с MLX. Модель не предназначена для генерации текста, плохо подходит для текстов за пределами английского языка, а входы длиннее 512 токенов требуют усечения или предварительной обработки. Лицензия — Apache-2.0.

Сценарии применения

семантический поиск по англоязычным документам
поиск дубликатов и похожих предложений
кластеризация текстов по смыслу
ранжирование результатов поиска
сопоставление вопросов и ответов
построение retrieval-компонента для RAG

Ограничения

Модель ориентирована на английский язык и ограничена контекстом до 512 токенов. Она создаёт эмбеддинги и не предназначена для генерации текста.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/all-MiniLM-L6-v2-bf16

The Model mlx-community/all-MiniLM-L6-v2-bf16 was converted to MLX format from sentence-transformers/all-MiniLM-L6-v2 using mlx-lm version 0.0.3.

Use with mlx

pip install mlx-embeddings

from mlx_embeddings import load, generate
import mlx.core as mx

model, tokenizer = load("mlx-community/all-MiniLM-L6-v2-bf16")

# For text embeddings
output = generate(model, processor, texts=["I like grapes", "I like fruits"])
embeddings = output.text_embeds  # Normalized embeddings

# Compute dot product between normalized embeddings
similarity_matrix = mx.matmul(embeddings, embeddings.T)

print("Similarity matrix between texts:")
print(similarity_matrix)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: BertModel
Ревизия весов: b669170