/ Модель

Характеристики

Контекст
512 токенов
Параметры
40 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Базовая модель
all-MiniLM-L12-v2
Опубликована
15 мар 2024

all-MiniLM-L12-v2-GGUF

ЭмбеддингиТекст → embedding8 профессий

leliuga/all-MiniLM-L12-v2-GGUF — это квантованные файлы модели all-MiniLM-L12-v2 в формате GGUF.

805скачиваний за 30 дней5лайковвеса обновлены15 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Исходную модель разработала команда Sentence Transformers, а данный вариант подготовлен пользователем Leliuga на основе sentence-transformers/all-MiniLM-L12-v2.

Модель предназначена для получения эмбеддингов предложений и задач сравнения семантического сходства текста, включая sentence similarity, поиск и извлечение признаков. Она относится к семейству BERT и использует архитектуру MiniLM; в README указано, что поддерживается английский язык. Формат GGUF ориентирован на использование в совместимых локальных инструментах инференса, однако конкретные параметры квантования и требования к ресурсам не указаны.

Сильными сторонами модели являются компактный формат распространения и специализация на семантическом представлении предложений. В качестве ограничений следует учитывать англоязычную направленность, отсутствие сведений о размере модели, длине контекста, точных вариантах квантования и готовых характеристиках производительности. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Класс архитектуры
BertModel
Ревизия весов
f048c4f

0 моделей