/ Модель

Характеристики

Контекст
262 144 токена
Параметры
2,4 млрд
Размер весов
17,2 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_moe · MoE
Базовая модель
Qwen3-Coder-30B-A3B-Instruct
Библиотека
mlx
Опубликована
9 авг 2025

Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2

Генерация текстаТекст → текст13 профессий

Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2 — это инструкционная языковая модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX.

1 201скачиваний за 30 дней10лайковвеса обновлены9 авг 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель создана на основе Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm на совместимом оборудовании Apple MLX.

Модель имеет конфигурацию 30B-A3B и использует 4-битное квантование, что снижает требования к памяти по сравнению с полноразмерной версией. Она поддерживает текстовую генерацию и диалоговый режим через chat template. README не содержит достоверных сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре, мультимодальности, результатах тестирования или конкретных сценариях применения.

Преимуществами модели являются специализация семейства Qwen3-Coder на задачах программирования, инструкционный режим и оптимизация для экосистемы MLX. Ограничения включают зависимость от совместимого окружения MLX и возможные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2

This model mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2 was converted to MLX format from Qwen/Qwen3-Coder-30B-A3B-Instruct using mlx-lm version 0.26.3.

Use with mlx

pip install mlx-lm
from mlx_lm import load, generate

model, tokenizer = load("mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2")

prompt = "hello"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
Qwen3MoeForCausalLM
Ревизия весов
561f984

0 моделей