Характеристики

Контекст: 262 144 токена
Размер весов: 8,2 ГБ
Лицензия: Apache 2.0
Архитектура: qwen3_5 · dense
Базовая модель: Qwen3.8-9B-Distill-uncensored-heretic
Опубликована: 11 сен 2026

Ссылки

Hugging Face

Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64

xy10086

Изображение и текст → текст15 профессий

Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64 — мультимодальная модель семейства Qwen3.8, опубликованная xy10086.

2 014скачиваний за 30 дней3лайкавеса обновлены11 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Она создана на основе petruhonk/Qwen3.8-9B-Distill-uncensored-heretic, который, в свою очередь, происходит от empero-ai/Qwen3.8-9B-Distill. Модель предназначена для обработки текста и изображений, включая понимание скриншотов и распознавание текста на изображениях, а также для генерации ответов на английском и китайском языках.

Основная языковая часть содержит около 9 миллиардов параметров и сжата методом аффинной 6-битной квантизации с размером группы 64. Зрительная башня и компоненты MTP для speculative decoding сохранены в формате BF16; поддерживаются 15 MTP-тензоров и рекомендованная глубина MTP 2. Модель оптимизирована для Apple Silicon и формата MLX/MTPLX. Рекомендуемое окно контекста — 32768 токенов, максимальная длина ответа — 8192 токена.

Сильными сторонами являются мультимодальность, поддержка ускоренного speculative decoding, совместимость с Apple Silicon и высокая скорость генерации в заявленных тестах. Ограничения включают зависимость от MTPLX и MLX, а также требования к памяти и соответствующему программному окружению. Модель имеет пониженный уровень отказов вследствие удаления ограничений цензуры, но это не означает большей фактической точности; результаты в медицинских, юридических, финансовых и других критически важных сценариях необходимо проверять независимо.

Модель распространяется по лицензии Apache-2.0; для использования следует также учитывать требования к атрибуции и лицензированию исходных моделей.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64

MTPLX / Apple Silicon optimized Q6G64 conversion of:

petruhonk/Qwen3.8-9B-Distill-uncensored-heretic

Repository:

xy10086/Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64

Highlights

Qwen3.8 9B multimodal architecture
Q6 affine quantization, group size 64
Native BF16 MTP head preserved
15/15 MTP tensors
BF16 vision tower preserved
333 vision tensors
Image input verified
MTP speculative decoding verified
Recommended MTP depth: 2
Tested on Apple M5 Pro, 48 GB unified memory

Provenance

Source model:

petruhonk/Qwen3.8-9B-Distill-uncensored-heretic

Upstream model:

empero-ai/Qwen3.8-9B-Distill

The source repository did not include the vision preprocessing sidecars required by MTPLX. Matching preprocessor_config.json and video_preprocessor_config.json were restored from the upstream empero-ai/Qwen3.8-9B-Distill repository.

The source vision weights were preserved by MTPLX Forge and stored in model-vision.safetensors.

Quantization

Main language-model trunk:

6-bit
Group size 64
Affine quantization

MTP:

BF16
15 tensors
Not requantized

Vision:

BF16
333 tensors
About 870 MiB on disk

Forge recipe: forge-recipe.json

Tested software

MTPLX 2.11.2
MLX 0.32.2
mlx-lm 0.31.3

Recommended configuration

Profile: sustained
MTP depth: 2
Context window: 32768
Max response tokens: 8192

Benchmarks

MTPLX Forge verification

Mode	Decode tok/s
AR	32.42
D1	58.91
D2	71.70
D3	70.90

Real Chinese chat

Depth	Avg decode tok/s	Avg TTFT
D1	49.41	0.159 s
D2	50.73	0.134 s
D3	46.38	0.135 s

Vision test

869 prompt tokens
336 completion tokens
65.30 decode tok/s
Successful screenshot understanding and OCR
Approx. 10.53 GB peak runtime memory

See benchmarks.json for the machine-readable summary.

Usage

Pull:

mtplx pull xy10086/Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64

Serve:

mtplx serve \
  --model xy10086/Qwen3.8-9B-Distill-Uncensored-Heretic-MTPLX-Q6G64 \
  --host 127.0.0.1 \
  --port 8000 \
  --profile sustained \
  --generation-mode mtp \
  --depth 2 \
  --context-window 32768 \
  --max-tokens 8192 \
  --reasoning off \
  --reasoning-effort low \
  --no-auth \
  --yes

OpenAI-compatible endpoint:

http://127.0.0.1:8000/v1

Behavior

This model is derived from a low-refusal / censorship-ablated checkpoint. Lower refusal behavior does not imply higher factual accuracy.

Medical, legal, financial and other high-stakes outputs should be independently verified.

Credits

petruhonk/Qwen3.8-9B-Distill-uncensored-heretic
empero-ai/Qwen3.8-9B-Distill
MTPLX

License

Apache-2.0. Review the upstream repositories for their attribution and license requirements as well.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры: Qwen3_5ForConditionalGeneration
Ревизия весов: 8aab4ee