Характеристики

Контекст: 262 144 токена
Параметры: 2,4 млрд
Лицензия: Apache 2.0
Архитектура: qwen3_moe · MoE
Базовая модель: Qwen3-Coder-30B-A3B-Instruct
Библиотека: transformers
Опубликована: 20 авг 2025

Ссылки

Qwen3-Coder-30B-A3B-Instruct-GGUF

Генерация текстаТекст → текст10 профессий

Qwen3-Coder-30B-A3B-Instruct-GGUF — квантованная GGUF-версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen и подготовленной Second State Inc.

4 268скачиваний за 30 дней0лайковвеса обновлены20 авг 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и работы с задачами программирования в формате инструкций; конкретные поддерживаемые языки программирования и естественные языки в README не указаны. Модель рассчитана на использование с LlamaEdge и совместима с шаблоном запросов chatml.

Указан контекст размером до 256 000 токенов. Доступны варианты квантования GGUF от Q2_K до Q8_0, а также f16; рекомендуемыми названы Q4_K_M, Q5_K_M и Q5_K_S, обеспечивающие различный баланс между размером файла и потерей качества. Описанная конфигурация использует Q5_K_M размером около 5,85 ГБ. Архитектура, точное число активируемых параметров, поддержка мультимодальности и фактические характеристики качества в README не раскрыты. Ограничения связаны с потерями качества при низкобитном квантовании и необходимостью совместимого окружения для запуска.

Модель распространяется по лицензии Apache-2.0. Для запуска через LlamaEdge требуется соответствующая версия LlamaEdge и GGUF-файл модели; в README указано, что поддержка LlamaEdge находится в стадии подготовки.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-Coder-30B-A3B-Instruct-GGUF

Original Model

Qwen/Qwen3-Coder-30B-A3B-Instruct

Run with LlamaEdge

LlamaEdge version: coming soon

Prompt template

Prompt type: chatml

Prompt string

<|im_start|>system
{system_message}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

Context size: 256000

Run as LlamaEdge service

wasmedge --dir .:. --nn-preload default:GGML:AUTO:Qwen3-Coder-30B-A3B-Instruct-Q5_K_M.gguf \
  llama-api-server.wasm \
  --model-name Qwen3-Coder-30B-A3B-Instruct \
  --prompt-template chatml \
  --ctx-size 256000

Quantized with llama.cpp b6209

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Класс архитектуры: Qwen3MoeForCausalLM
Ревизия весов: 7f28939