/ Модель

Характеристики

Контекст
512 токенов
Параметры
25,9 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Базовая модель
all-MiniLM-L6-v2
Опубликована
15 мар 2024

all-MiniLM-L6-v2-GGUF

ЭмбеддингиТекст → embedding9 профессий

leliuga/all-MiniLM-L6-v2-GGUF — это квантизированные файлы модели all-MiniLM-L6-v2 в формате GGUF.

190 тыс.скачиваний за 30 дней11лайковвеса обновлены15 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Исходную модель разработала команда Sentence Transformers, а репозиторий с GGUF-файлами подготовлен пользователем Leliuga. Модель предназначена для получения векторных представлений предложений и оценки семантического сходства текста, а также может применяться в задачах поиска, сопоставления и извлечения признаков.

Модель основана на архитектуре BERT и относится к семейству Sentence Transformers; её название указывает на использование компактного варианта MiniLM с шестью слоями. Поддерживаемый язык — английский. В README не указаны точный размер модели, доступные уровни квантования, длина контекста и перечень модальностей; по представленным данным модель является текстовой.

К сильным сторонам относятся компактность архитектуры и формат GGUF, удобный для локального инференса в совместимых инструментах. Ограничениями являются англоязычная специализация и отсутствие в README подробностей о производительности, точности, контексте и конкретных вариантах квантования. Исходная модель распространяется по лицензии Apache-2.0; для GGUF-репозитория также указана лицензия Apache-2.0.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Класс архитектуры
BertModel
Ревизия весов
ddf2e25

0 моделей