Многоязычный 8-битный MLX-переранжировщик на базе BGE-Reranker-v2-m3 для оценки релевантности и улучшения порядка результатов поиска.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
soichisumi публикует версию BAAI/bge-reranker-v2-m3, преобразованную для MLX и квантованную до 8 бит методом affine с размером группы 64. Модель основана на XLM-RoBERTa с архитектурой классификатора последовательностей и содержит 658,7 млн параметров; указанный в карточке объём файлов — 607 МБ. Она оценивает релевантность пары «запрос — фрагмент» и подходит для переранжирования результатов поиска. Модель многоязычная, с контекстом до 8194 токенов.
В README приведена проверка на 30 запросах и 897 парах из набора mteb/scidocs-reranking: Kendall τ составила 0,9797, а изменение nDCG@10 — −0,0002; автор характеризует результат как практически без потерь. Это ограниченная оценка на одном наборе данных, поэтому она не гарантирует аналогичное качество на других доменах и языках. Лицензия — Apache-2.0.
В README приведена оценка только на 30 запросах набора SciDocs reranking; результаты на других наборах, доменах и языках не описаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
BAAI/bge-reranker-v2-m3 の MLX 変換 + affine 8bit 量子化 (group_size=64)。607 MB。
mlx_lm convert --hf-path BAAI/bge-reranker-v2-m3 --mlx-path . --quantize --q-mode affine --q-bits 8 --q-group-size 64mteb/scidocs-reranking 30 クエリ / 897 ペアНа своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…