Характеристики

Базовая модель: Qwen3.6-35B-A3B
Опубликована: 16 мая 2026

Ссылки

Hugging Face

Qwen3.6-35B-A3B-MTP-MXFP4_MOE-GGUF

noctrex

Изображение и текст → текст3 профессии

Квантизированные варианты Qwen3.6-35B-A3B в GGUF с поддержкой MTP для мультимодальных диалогов и анализа изображений.

2 203скачиваний за 30 дней4лайкавеса обновлены16 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

noctrex публикует MXFP4-квантизированные варианты Qwen3.6-35B-A3B с поддержкой multi-token prediction (MTP). Это мультимодальная MoE-модель на базе Qwen/Qwen3.6-35B-A3B, предназначенная для диалогов и анализа изображений; в карточке Hugging Face указана задача image-text-to-text и возможность vision. Репозиторий содержит варианты GGUF в форматах BF16 и F16; README также описывает вариант Q8 и рекомендует запуск через llama.cpp с режимом draft-mtp. Варианты различаются обработкой тензоров помимо MoE-весов MXFP4 и компромиссом между качеством, скоростью и размером.

Модель подходит для ответов на вопросы по изображениям и мультимодальных диалогов. README приводит размеры вариантов BF16 и F16 — 21,39 ГиБ, Q8 — 19,71 ГиБ, но не сообщает размерность параметров, длину контекста или поддерживаемые языки. Лицензия в предоставленных данных не указана.

Сценарии применения

ответы на вопросы по изображениям
описание содержимого изображений в диалоге
мультимодальный чат с текстовыми и графическими запросами

Ограничения

Для запуска описан формат GGUF и использование llama.cpp; для MTP README рекомендует режим draft-mtp. Поддерживаемые языки, длина контекста и лицензия в предоставленных данных не определены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953модели I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

These are MXFP4 quantizations of the model Qwen3.6-35B-A3B

This is the multi-token prediction (MTP) version.

Quick Start

Download the latest release of llama.cpp.
Download your preferred model variant from below.

Which version should I choose?

All variants use MXFP4 for the MoE (Mixture of Experts) weights to keep the model efficient. The difference lies in how the remaining tensors are handled:

Variant	Quality	Performance	Size	Recommendation
BF16	⭐⭐⭐	Variable*	21.39GiB	Best for maximum accuracy; original unquantized weights.
F16	⭐⭐	Fast	21.39GiB	Great alternative if BF16 is slow on your hardware.
Q8	⭐	Fastest	19.71GiB	Balanced performance and memory usage.

**Note: On some older architectures, BF16 may be slower than F16. Check that your GPU supports native BF16 *

Read the guide from unsloth in order to set up the model's recommended settings for MTP:
Qwen3.6 - MTP Guide

On my system it works very well with the commands:

--spec-type draft-mtp
--spec-draft-p-min 0.75
--spec-draft-n-max 3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: de693c8