Характеристики

Контекст: 40 960 токенов
Параметры: 7,6 млрд
Размер весов: 16,4 ГБ
Лицензия: Apache 2.0
Архитектура: qwen3 · dense
Базовая модель: Qwen3-8B-Base
Библиотека: transformers
Опубликована: 11 фев 2026

Ссылки

Hugging Face

Qwen3-Reranker-8B-mxfp8

mlx-community

Генерация текстаТекст → текст9 профессий

Конвертированная в MLX модель Qwen3 на 7,6 млрд параметров для ранжирования текстов по релевантности запросу.

232скачиваний за 30 дней0лайковвеса обновлены11 фев 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen3-Reranker-8B-mxfp8 — конвертированная в формат MLX модель reranker из семейства Qwen3, опубликованная сообществом mlx-community на основе Qwen/Qwen3-Reranker-8B. Она предназначена для ранжирования текстовых кандидатов по релевантности запросу, например для сортировки результатов поиска или отбора фрагментов для RAG. Модель имеет плотную авторегрессионную архитектуру Qwen3 и 7,6 млрд параметров; базовый контекст составляет 40 960 токенов.

Метаданные указывают поддержку генерации текста и ранжирования, но основное пользовательское назначение — reranking. Репозиторий содержит веса safetensors, а README описывает конверсию в MLX с помощью mlx-embeddings 0.0.3. Лицензия Apache-2.0.

Сценарии применения

переранжирование результатов поисковой выдачи
выбор наиболее релевантных документов для RAG
сортировка фрагментов документов по соответствию вопросу

Ограничения

README описывает конверсию и способ использования с MLX, но не приводит оценок качества или подробных ограничений применения. Указанная в метаданных поддержка генерации текста не меняет основного назначения модели — ранжирования.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/Qwen3-Reranker-8B-mxfp8

The Model mlx-community/Qwen3-Reranker-8B-mxfp8 was converted to MLX format from Qwen/Qwen3-Reranker-8B using mlx-embeddings version 0.0.3.

Use with mlx

pip install mlx-embeddings

from mlx_embeddings import load, generate
import mlx.core as mx

model, tokenizer = load("mlx-community/Qwen3-Reranker-8B-mxfp8")

# For text embeddings
output = generate(model, processor, texts=["I like grapes", "I like fruits"])
embeddings = output.text_embeds  # Normalized embeddings

# Compute dot product between normalized embeddings
similarity_matrix = mx.matmul(embeddings, embeddings.T)

print("Similarity matrix between texts:")
print(similarity_matrix)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: a8947a5