Характеристики

Контекст: 32 768 токенов
Параметры: 1,5 млрд
Размер весов: 3,1 ГБ
Лицензия: Apache 2.0
Архитектура: qwen2 · dense
Базовая модель: mxbai-rerank-large-v2
Библиотека: mlx
Опубликована: 23 июл 2025

Ссылки

mxbai-rerank-large-v2

Генерация текстаТекст → текст9 профессий

Конвертированная в MLX многоязычная модель на базе Qwen2 для переоценки и сортировки результатов поиска по релевантности запросу.

72скачиваний за 30 дней3лайкавеса обновлены23 июл 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mlx-community/mxbai-rerank-large-v2 — версия модели mixedbread-ai/mxbai-rerank-large-v2, преобразованная сообществом mlx-community в формат MLX для запуска на устройствах Apple Silicon. Это плотная авторегрессионная модель Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов; базовая модель предназначена для переоценки и сортировки результатов поиска по релевантности запросу. Карточка указывает библиотеку MLX и формат safetensors, а также лицензию Apache-2.0.

Модель подходит для включения в конвейеры поиска и RAG, где нужно пересортировать найденные документы или фрагменты по соответствию запросу. Метаданные Hugging Face помечают её задачей text-generation и разговорной моделью, хотя базовая модель предназначена для ранжирования; README описывает конвертацию весов, но не содержит подробностей о вызове реранкера или оценках качества. Языковые теги и карточка базовой модели указывают на многоязычность, но русский язык среди перечисленных языков карточки не указан.

Сценарии применения

пересортировка результатов поисковой выдачи по запросу
ранжирование фрагментов документов для RAG
выбор наиболее релевантных ответов из набора кандидатов

Ограничения

README не приводит инструкций по использованию модели как реранкера или результатов оценки качества. Русский язык не указан среди языков карточки базовой модели.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/mxbai-rerank-large-v2

This model mlx-community/mxbai-rerank-large-v2 was converted to MLX format from mixedbread-ai/mxbai-rerank-large-v2 using mlx-lm version 0.26.0.

Use with mlx

pip install mlx-lm

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/mxbai-rerank-large-v2")

prompt = "hello"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: Qwen2ForCausalLM
Ревизия весов: 7600124