Характеристики

Контекст: 40 960 токенов
Параметры: 7,6 млрд
Размер весов: 4,3 ГБ
Лицензия: Apache 2.0
Архитектура: qwen3 · dense
Базовая модель: Qwen3-Embedding-8B
Библиотека: mlx
Опубликована: 8 июн 2025

Ссылки

Qwen3-Embedding-8B-4bit-DWQ

Генерация текстаТекст → текст10 профессий

mlx-community/Qwen3-Embedding-8B-4bit-DWQ — модель для получения признаковых представлений текста, задач sentence similarity и feature extraction.

2 465скачиваний за 30 дней11лайковвеса обновлены23 июн 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Она основана на Qwen/Qwen3-Embedding-8B и преобразована сообществом mlx-community в формат MLX с использованием mlx-lm 0.25.1.

Модель имеет размер 8B параметров и 4-битное квантование DWQ, что предназначено для снижения требований к памяти при сохранении возможности локального запуска в экосистеме MLX. В карточке указана поддержка библиотек Transformers и Sentence Transformers, а также тип конвейера feature-extraction. Конкретные языки, размер контекста и перечень поддерживаемых модальностей не указаны; по представленным данным модель предназначена для работы с текстом.

Лицензия модели — Apache-2.0. README не содержит подробных сведений о качестве, ограничениях, языковом покрытии и результатах тестирования, поэтому эти характеристики нельзя оценить точнее.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/Qwen3-Embedding-8B-4bit-DWQ

This model mlx-community/Qwen3-Embedding-8B-4bit-DWQ was converted to MLX format from Qwen/Qwen3-Embedding-8B using mlx-lm version 0.25.1.

Use with mlx

pip install mlx-lm

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/Qwen3-Embedding-8B-4bit-DWQ")

prompt = "hello"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: 885642d