/ Модель
Каталог

Характеристики

Лицензия
Своя лицензия
Базовая модель
Qwen3-Coder-30B-A3B-Instruct
Библиотека
gguf
Опубликована
16 мая 2026

Ссылки

Hugging Face

Qwen3-Coder-30B-A3B-MXFP4-MOE-GGUF

FreedomAISVR
Генерация текстаТекст → текст7 профессий

Квантизированная в MXFP4 GGUF MoE-модель Qwen3-Coder для генерации кода и диалогового использования, рассчитанная на локальный запуск через llama.cpp.

247скачиваний за 30 дней2лайкавеса обновлены16 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FreedomAISVR публикует GGUF-квантизацию MXFP4 модели Qwen3-Coder-30B-A3B-Instruct. Это разреженная MoE-архитектура Qwen3MoE с 30 млрд параметров, из которых при обработке активны около 3,6 млрд; в составе 128 экспертов, одновременно активируются 8. Модель предназначена для генерации текста в диалоговом формате и задач программирования, включая агентные сценарии, описанные для базовой модели Qwen3-Coder.

Веса экспертов квантизированы в MXFP4 с блоками по 32 элемента, веса внимания — в Q8_0, прочие веса сохранены в F32/F16. Репозиторий использует формат GGUF и библиотеку llama.cpp для локального запуска. Базовая модель рассчитана на длинный контекст до 262 144 токенов. Карточка не приводит отдельной оценки качества этой квантизации; уменьшенная точность может влиять на качество вывода. Лицензия указана как other, поэтому условия использования следует сверить с лицензией базовой модели и файлами репозитория.

Сценарии применения

  • генерация кода по текстовому описанию
  • помощь программисту в диалоге
  • выполнение задач программирования в агентных сценариях
  • локальный запуск кодовой LLM в llama.cpp

Ограничения

MXFP4-квантизация снижает точность весов экспертов и может повлиять на качество ответов; отдельные результаты оценки в карточке не приведены. Условия лицензии обозначены как other и требуют проверки.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиII.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764моделиII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-Coder-30B-A3B-Instruct-GGUF

MXFP4_MOE Quantization

This repository contains MXFP4_MOE quantized GGUF of Qwen3-Coder-30B-A3B-Instruct.

Model Details

PropertyValue
Base ModelQwen3-Coder-30B-A3B-Instruct
ArchitectureQwen3MoE
Parameters30B (3.6B active, 128 experts, 8 activated)
QuantizationMXFP4_MOE (OCP MXFP4 E2M1, block 32, shared 8-bit block exponents)
BPW4.47
File Size~17.1 GB
Context Length32K

Download

huggingface-cli download FreedomAISVR/Qwen3-Coder-30B-A3B-MXFP4-MOE-GGUF qwen3-coder-30b-a3b-mxfp4_moe.gguf --local-dir . --local-dir-use-symlinks False

Quantization Information

This model uses MXFP4 (Microscaling FP4) quantization via llama.cpp's MXFP4_MOE type:

  • E2M1 format: 1 sign bit, 2 exponent bits, 1 mantissa bit
  • Block size: 32 elements sharing an 8-bit block exponent
  • Expert weights: Quantized to MXFP4 (3 ffn_exps tensors per layer)
  • Attention weights: Quantized to Q8_0 (8-bit block quantization)
  • Other weights: Kept in F32/F16

Verification

After download, verify the file:

echo "9f5a07e402df2aa16b9b4fcee22b5132 *qwen3-coder-30b-a3b-mxfp4_moe.gguf" | md5sum -c

Credits

  • Qwen Team for the base model
  • llama.cpp for the GGUF format and quantization tools
  • MXFP4 is an OCP standard microscaling FP4 format backed by AMD, NVIDIA, Microsoft, Meta, and OpenAI

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
44ae81f

0 моделей

    Создать бенчмарк