bge-m3-gguf

Это не генеративная языковая модель, а многоязычная модель текстовых представлений для семантического поиска, поиска по сходству, гибридного retrieval и RAG-систем.

Модель построена на архитектуре XLM-RoBERTa, содержит около 568–569 млн параметров, формирует векторы размерности 1024 и поддерживает контекст до 8192 токенов. Она рассчитана более чем на 100 языков и объединяет три режима поиска: dense retrieval, sparse retrieval и multi-vector retrieval в стиле ColBERT. Репозиторий CompendiumLabs содержит файлы GGUF в форматах F16 и F32; размер F16-файла составляет около 1,16 ГБ, F32-файла — около 2,27 ГБ.

Сильные стороны модели — многоязычность, обработка длинных документов и возможность получать несколько типов retrieval-представлений из одной модели, что удобно для гибридного поиска. Ограничение состоит в том, что модель предназначена для эмбеддингов и извлечения признаков, а не для генерации текста; для максимальной точности поиска рекомендуется дополнительно применять отдельный reranker. Качество может различаться между языками, поскольку объём и баланс обучающих данных неодинаковы. В карточке CompendiumLabs указана лицензия MIT.