BAAI-bge-reranker-v2-m3-mlx-fp16

Это не генеративная модель общего назначения, а многоязычный reranker для оценки релевантности пары «запрос—документ» и переупорядочивания результатов поиска, например в системах семантического поиска и Retrieval-Augmented Generation. На вход подаются запрос и текстовый фрагмент, на выходе — числовой score релевантности; при необходимости его можно преобразовать в значение от 0 до 1 с помощью sigmoid-функции.

Модель содержит около 0,6 млрд параметров и основана на семействе BGE-M3 с архитектурой XLM-RoBERTa; исходная модель позиционируется как multilingual и поддерживает несколько языков, но точный перечень языков для этой производной версии в её карточке не указан. В примерах исходной модели используется ограничение длины входа 512 токенов. Репозиторий flaglow содержит MLX-представление в формате Safetensors; карточка указывает совместимость с MLX и размер около 2,27 ГБ, однако собственная документация производной версии отсутствует, поэтому детали конвертации и фактического числового формата следует проверять по файлам модели.

Сильные стороны модели — многоязычное ранжирование, сравнительно небольшой размер и возможность эффективного локального запуска на совместимом оборудовании. Ограничения — модель предназначена для оценки релевантности, а не для самостоятельной генерации ответов; качество зависит от языка, домена и длины входных текстов. Для исходной BAAI/bge-reranker-v2-m3 указана лицензия Apache-2.0; отдельная лицензия производного репозитория flaglow в доступной карточке явно не описана.