lm-kit/bge-m3-gguf — репозиторий с квантизированными версиями embedding-модели BGE-M3, базовая модель которой опубликована BAAI.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для получения векторных представлений текста и связанных задач поиска и семантического сопоставления. Формат распространения — GGUF, что позволяет использовать модель в совместимых инструментах и приложениях.
Квантизация выполнена с помощью LM-Kit.NET версии 2024.9.0, а конвертация — посредством llama.cpp с указанной ревизией. README не содержит сведений о размере модели, архитектуре, поддерживаемых языках, длине контекста, модальностях и конкретных вариантах квантования, поэтому эти характеристики нельзя достоверно уточнить. Лицензия — MIT.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This repository hosts quantized versions of the bge-m3 embedding model.
Format: GGUF
Converter: llama.cpp 82e3b03c11826d20a24ab66d60f4de58f48ddcdb
Quantizer: LM-Kit.NET 2024.9.0
For more detailed information on the base model, please visit the following links
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
У модели не указана задача, поэтому рантайм не знает, как её запускать.