Характеристики

Контекст: 262 144 токена
Параметры: 2,4 млрд
Размер весов: 17,2 ГБ
Лицензия: Apache 2.0
Архитектура: qwen3_moe · MoE
Базовая модель: Qwen3-Coder-30B-A3B-Instruct
Библиотека: mlx
Опубликована: 31 июл 2025

Ссылки

Qwen3-Coder-30B-A3B-Instruct-4bit

Генерация текстаТекст → текст10 профессий

MLX-совместимая 4-битная версия Qwen3-Coder-30B-A3B-Instruct — инструкционная языковая модель для генерации текста и решения задач, связанных с программированием.

31 042скачиваний за 30 дней46лайковвеса обновлены6 авг 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Исходная модель разработана командой Qwen, а конвертацию в формат MLX выполнил проект mlx-community с использованием mlx-lm версии 0.26.3.

Модель предназначена для локального запуска через библиотеку mlx-lm и поддерживает диалоговый сценарий с применением chat template. Обозначение 30B-A3B указывает на конфигурацию исходной модели, а 4bit — на 4-битное квантование, уменьшающее требования к памяти по сравнению с полноформатными весами. В README не указаны точные архитектурные параметры, размер контекста, поддерживаемые языки и перечень модальностей; по имеющимся данным модель относится к текстовым моделям.

К сильным сторонам относятся специализация исходной Qwen3-Coder на задачах программирования, инструкционная настройка и возможность использования в MLX-окружении. К ограничениям относятся зависимость от совместимого программного стека и потенциальные потери качества, связанные с 4-битным квантованием; конкретные показатели производительности в README не приведены. Модель распространяется по лицензии Apache 2.0.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit

This model mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit was converted to MLX format from Qwen/Qwen3-Coder-30B-A3B-Instruct using mlx-lm version 0.26.3.

Use with mlx

pip install mlx-lm

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/Qwen3-Coder-30B-A3B-Instruct-4bit")

prompt = "hello"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры: Qwen3MoeForCausalLM
Ревизия весов: 6e302ea