Характеристики

Архитектура: qwen3_5_mtp · dense
Базовая модель: Qwen3.6-27B
Библиотека: mlx
Опубликована: 23 мая 2026

Ссылки

Hugging Face

Qwen3.6-27B-MTP-MLX

inferencerlabs

Изображение и текст → текст3 профессии

Черновая MTP-модель на базе Qwen3.6-27B для ускорения генерации при спекулятивном декодировании в MLX.

55скачиваний за 30 дней0лайковвеса обновлены27 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen3.6-27B MTP — модель чернового предсказания от Inferencer Labs на основе Qwen/Qwen3.6-27B. Она содержит извлечённые слои Multi-Token Prediction (MTP) и предназначена для совместной работы с Qwen3.6-27B-MLX в режиме спекулятивного декодирования, чтобы ускорять генерацию токенов. Карточка сообщает о тестировании на компьютере с M3 Ultra и 512 ГБ памяти через приложение Inferencer; в тесте программирования вариант с квантованием Q4.5 обеспечивал более высокую пропускную способность без потери качества и с меньшими требованиями к памяти.

Модель относится к семейству Qwen3.5 MTP, имеет плотную архитектуру и опубликована в формате safetensors для библиотеки MLX. Метаданные указывают поддержку изображений и задачу image-text-to-text; базовая Qwen3.6-27B описана как мультимодальная модель на 27 млрд параметров для программирования, агентных задач и работы с изображениями. Язык карточки — английский. Лицензия в предоставленных данных не указана.

Сценарии применения

ускорение генерации текста в связке с Qwen3.6-27B-MLX
спекулятивное декодирование в приложениях на MLX
ускорение генерации кода на Apple Silicon

Ограничения

Предназначена для совместного использования с Qwen3.6-27B-MLX, а не как самостоятельная модель. Сообщение о приросте скорости основано на тесте программирования и конкретной конфигурации M3 Ultra с приложением Inferencer.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.6-27B MTP

See Qwen3.6-27B with MTP in action: demonstration videos

This draft model contains the extracted Multi-Token Prediction (MTP) layers from Qwen/Qwen3.6-27B for use alongside the Qwen3.6-27B-MLX model as a speculative decoder for improved performance.

Q4.5-bit quant typically achieves higher throughput at no loss in quality with less RAM usage in our coding test

Tested on a M3 Ultra 512GB RAM using Inferencer app v1.11.5

Disclaimer

We are not the creator, originator, or owner of any model listed. Each model is created and provided by third parties. Models may not always be accurate or contextually appropriate. You are responsible for verifying the information before making important decisions. We are not liable for any damages, losses, or issues arising from its use, including data loss or inaccuracies in AI-generated content.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Ревизия весов: a0320ca