Характеристики

Контекст: 262 144 токена
Размер весов: 7,3 ГБ
Лицензия: Apache 2.0
Архитектура: qwen3_5 · dense
Библиотека: mtplx
Опубликована: 7 июн 2026

Ссылки

Qwen3.5-9B-MTPLX-Optimized-Speed-FP16

Генерация текстаТекст → текст12 профессий

Youssofal/Qwen3.5-9B-MTPLX-Optimized-Speed-FP16 — языковая модель для генерации текста, опубликованная пользователем Youssofal и основанная на семействе Qwen3.5-9B.

888скачиваний за 30 дней2лайкавеса обновлены17 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Она предназначена для локального запуска на компьютерах Apple с чипами Apple Silicon через MTPLX, включая сценарии интерактивного общения, генерации текста и работы локального сервера с OpenAI-совместимым API. Модель оптимизирована для Multi-Token-Prediction speculative decoding.

Основная часть модели использует 6-битное MLX affine-представление, а боковой модуль MTP применяется для спекулятивного декодирования. Упакованные квантованные тензоры сохраняются без повторной квантизации, а плавающие тензоры BF16 преобразованы в FP16 для совместимости с предпочтительным режимом работы на Mac с чипами M1 и M2. Рекомендуемый профиль — sustained, глубина по умолчанию — D2, бэкенд — qwen3-next-mtp. Заявленные показатели исходного артефакта достигают 101,32 токена в секунду в режиме D2, однако для FP16-варианта эти значения приведены как ориентир, а не как гарантированный результат.

Сильная сторона модели — сочетание компактного квантованного представления, ускоренного декодирования и адаптации к старым поколениям Apple Silicon. Ограничения включают неполноценную точность по сравнению с full-precision checkpoint, зависимость производительности от устройства и среды MTPLX, а также отсутствие в README сведений о поддерживаемых языках, размере контекстного окна и точной архитектуре базовой модели. Лицензия — Apache 2.0.

Для каких профессий подходит12

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.5-9B MTPLX Optimized Speed FP16

FP16 compatibility sibling for Youssofal/Qwen3.5-9B-MTPLX-Optimized-Speed, packaged for MTPLX native Multi-Token-Prediction speculative decoding on older Apple Silicon.

This variant keeps the same release model family as Qwen3.5-9B Optimized Speed. Packed quantized tensors stay packed; BF16 floating tensors are converted to FP16 so M1 and M2 Macs can use the FP16-friendly path without changing the artifact's intended speed/quality tier.

Run It

brew install youssofal/mtplx/mtplx
mtplx start
mtplx run "hello" --model Youssofal/Qwen3.5-9B-MTPLX-Optimized-Speed-FP16

For an OpenAI-compatible local server:

mtplx serve --model Youssofal/Qwen3.5-9B-MTPLX-Optimized-Speed-FP16 --profile sustained --max --port 8000 --no-stats-footer

Device Routing

M1/M2 Apple Silicon: MTPLX may prefer this FP16 sibling.
M3/M4/M5 Apple Silicon: MTPLX keeps the normal optimized artifact by default.
Explicit --model always wins.

Recommended Runtime Defaults

Setting	Value
Backend	`qwen3-next-mtp`
Default depth	`D2`
Profile	`sustained`
Precision policy	preserve packed tensors; convert BF16 floats to FP16

Source Performance Baseline

These are the source artifact numbers used as the regression baseline. The FP16 variant should stay close, but it is primarily a device-compatibility release.

Mode	TPS	Verify time	Acceptance
AR baseline	64.96	-	-
D1 comparison	92.87	6.83s	0.9120
D2 promoted default	101.32	4.13s	0.9398, 0.8102
D3 comparison	96.30	4.58s	0.9278, 0.7732, 0.6443

Model Build

Component	Format
Main body	6-bit MLX affine body with BF16 float leaves converted to FP16
MTP sidecar	same MTP policy as source; BF16 float leaves converted to FP16
Packed quantized tensors	preserved without requantization
Manifest	`MTPLX_FP16_CONVERSION_MANIFEST.json` records tensor-level conversions

This is not a full-precision checkpoint. It is built for fast local use on Apple Silicon through MTPLX.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mtplx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры: Qwen3_5ForConditionalGeneration
Ревизия весов: abd7bc6