/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
15,2 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Базовая модель
Qwopus3.8-27B-Flash
Библиотека
mlx
Опубликована
4 сен 2026

qwopus3.8-27b-flash-mxfp4-vision-mtplx

Изображение и текст → текст13 профессий

Qwopus3.8 27B Flash MXFP4 Vision MTPLX — это релиз для Apple Silicon на базе модели Jackrong/Qwopus3.8-27B-Flash, подготовленный Shiftedx с использованием MLX и MTPLX.

558скачиваний за 30 дней6лайковвеса обновлены4 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и обработки изображений с текстовыми инструкциями, включая мультимодальные сценарии и локальное развертывание через OpenAI-совместимый endpoint.

Текстовая часть представлена в формате MXFP4, а vision tower и native MTP sidecar сохранены в формате BF16. Sidecar имеет глубину 3 и предназначен для speculative decoding, ускоряющего генерацию. В README заявлена поддержка английского, китайского, испанского, русского и японского языков. Точный размер контекста и подробная архитектура не указаны. В комплект входят tokenizer, processor, vision-веса, chat template и runtime-контракт MTP.

Сильными сторонами являются сочетание мультимодальности, MXFP4-квантизации для текстовой части и ускоренной генерации на совместимом оборудовании. В локальной квалификации на M4 Max 64 GB заявлены скорости 26,43 токена в секунду для обычной авторегрессивной генерации и 56,74 токена в секунду с MTP глубины 3, однако это результаты одного узкого теста и не универсальный бенчмарк. Квантизация может повлиять на качество, а производительность зависит от оборудования и runtime. Модель распространяется по лицензии Apache-2.0; при использовании производного варианта необходимо также учитывать лицензию и ограничения исходной модели.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwopus3.8 27B Flash · MXFP4 Vision MTPLX

Apple-Silicon MLX release of Jackrong/Qwopus3.8-27B-Flash: an MXFP4 text body paired with the source model's exact BF16 vision tower and exact native BF16 MTP sidecar.

Artifact

ComponentFormat
Text bodyMXFP4
Vision towerBF16, 333 tensors
Native MTP sidecarBF16, 15 tensors, depth 3
Source revision44d24e8cb20ceb3cdf4fe200b5a0afd970ee748a
Qualified runtimeMTPLX 2.11.1 / MLX 0.32.2

The conversion used the pinned BF16 safetensors source—not a requantization of the GGUF release.

Run

mtplx serve --model Shiftedx/qwopus3.8-27b-flash-mxfp4-vision-mtplx \
  --download --profile sustained --depth 3 --no-auth

This starts the local OpenAI-compatible endpoint. The packaged tokenizer, processor, vision weights, chat template, and MTP runtime contract are included.

Local qualification

One cold 192-token code row, seed 42, on an M4 Max 64 GB with automatic fan control:

ARMTP D3D3 / AR
26.43 tok/s56.74 tok/s2.15×

AR/D1/D2/D3 output checks passed. MTPLX inspection reported verified, runnable, and 15/15 MTP tensors. Strict text load returned the expected 42; vision identified the test shape/color exactly. These are narrow local qualification results, not a cross-hardware benchmark.

Integrity and notes

  • Vision SHA-256: 7a252e5c7bb02ed6533f905a566ab037356ffb4949d04df8d6d2a3fa5e3af6b9
  • MTP SHA-256: 4468f39621de68a19ffd0bcb2e2e2f352205def7436a625b3427e3752866c287
  • SHA256SUMS covers every packaged artifact file except itself.
  • The upstream tokenizer's Mistral-regex warning is preserved for exact source lineage. The packaged chat template expects string-valued message content.
  • Quantization can change quality. Apply the source model's license and limitations to this derivative.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
Qwen3_5ForConditionalGeneration
Ревизия весов
1ce5aed

0 моделей