Характеристики

Контекст: 32 768 токенов
Параметры: 508 млн
Размер весов: 335 МБ
Лицензия: Apache 2.0
Архитектура: qwen3 · dense
Базовая модель: Qwen3-Embedding-0.6B
Библиотека: mlx
Опубликована: 6 июн 2025

Ссылки

Qwen3-Embedding-0.6B-4bit-DWQ

Генерация текстаТекст → текст8 профессий

Qwen3-Embedding-0.6B-4bit-DWQ — это 4-битная квантованная версия модели Qwen3-Embedding-0.6B, разработанная сообществом mlx-community и преобразованная в формат MLX из исходной модели Qwen/Qwen3-Embedding-0.6B с использованием mlx-lm 0.24.1.

25 862скачиваний за 30 дней15лайковвеса обновлены6 июн 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для задач feature extraction и вычисления семантического сходства текстов; в метаданных также указана совместимость с Transformers и sentence-transformers.

Модель содержит около 0,6 млрд параметров и ориентирована на запуск в экосистеме MLX. Квантование 4-bit DWQ должно снижать требования к памяти по сравнению с полноразмерной версией, однако README не содержит количественных данных о качестве, поддерживаемых языках, размере контекста, точной архитектуре эмбеддингов или доступных модальностях. В примере показан текстовый ввод и загрузка через mlx-lm; дополнительные сценарии применения и ограничения не описаны.

Модель распространяется по лицензии Apache-2.0. Для использования требуется установка пакета mlx-lm; README демонстрирует интерфейс генерации текста, хотя основное назначение модели по метаданным связано с получением признаков и оценкой сходства предложений.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/Qwen3-Embedding-0.6B-4bit-DWQ

This model mlx-community/Qwen3-Embedding-0.6B-4bit-DWQ was converted to MLX format from Qwen/Qwen3-Embedding-0.6B using mlx-lm version 0.24.1.

Use with mlx

pip install mlx-lm

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/Qwen3-Embedding-0.6B-4bit-DWQ")

prompt = "hello"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: 6c3ae70