/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
28,7 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Библиотека
mlx
Опубликована
16 авг 2026

qwen3.8-27b-aeon-ultimate-uncensored-mxfp8-vision-mtplx

Изображение и текст → текст9 профессий

Shiftedx/qwen3.8-27b-aeon-ultimate-uncensored-mxfp8-vision-mtplx — экспериментальная независимая конверсия модели AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 в формат MLX, созданная сообществом, а не официальными разработчиками AEON-7 или Qwen.

451скачиваний за 30 дней2лайкавеса обновлены16 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и задач image-to-text, включая описание изображений, и ориентирована на запуск в экосистеме MLX и mlx-vlm. Для использования требуется локальный инференс; README также указывает поддержку speculative decoding через MTPLX и multi-token prediction.

Модель имеет плотную архитектуру семейства Qwen3.5 с гибридным attention/GDN, 64 языковых слоя и заявленный контекст до 262 144 токенов. Языковые веса квантизированы в MXFP8 с 8-битными группами размера 32, а 333 исходных BF16-тензора визуальной части сохранены; размер индексированного артефакта составляет 27,50 ГиБ. В пакет включены 15 BF16-тензоров MTP, а локально выбранная глубина D3 показала 24,36 токена в секунду и ускорение 1,540 раза относительно авторегрессионного декодирования, однако фактическая производительность зависит от оборудования, запроса, контекста и версии MTPLX.

К сильным сторонам относятся поддержка изображений, большой заявленный контекст, снижение требований к памяти благодаря MXFP8 и возможность ускоренного декодирования. Ограничения включают экспериментальный статус, необходимость локальной проверки загрузки и производительности, а также отсутствие исчерпывающей квалификации работы на полном контексте. Модель является abliterated и намеренно не обладает стандартным выравниванием безопасности; разработчики предупреждают о возможной генерации небезопасных или незаконных материалов, поэтому необходимы контроль доступа, журналирование, модерация и проверка человеком.

Лицензия указана как Apache-2.0; при этом ответственность за соблюдение законодательства и безопасность применения возлагается на операторов модели.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

qwen3.8-27b-aeon-ultimate-uncensored-mxfp8-vision-mtplx

Independent MXFP8 MLX conversion of AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, pinned at a6775a9a8ebb65cab3f707b4ab087fc7aa698634. This is a community conversion, not an official AEON-7 or Qwen release.

Format

  • Language quantization: MXFP8, 8-bit, group size 32
  • Vision: 333 source BF16 tensors preserved; patch embedding converted to MLX axes
  • Indexed artifact size: 27.50 GiB
  • Architecture: dense Qwen3.5-family hybrid attention/GDN, 64 language layers
  • Configured context: 262,144 tokens (not exhaustively qualified here)
  • Tokenizer, chat template, processor metadata, and Apache-2.0 lineage preserved

MTPLX

This package adds the pinned source checkpoint's 15 native BF16 MTP tensors to the paired vision MLX body. Tensor parity, strict MTPLX inspection, a local AR/D1/D2/D3 tune, and deterministic text/vision smokes passed.

  • Local selected depth: D3; decode: 24.36 tok/s; multiplier vs AR: 1.540x; verdict: mtp-faster-than-ar Runtime speed and acceptance depend on host, prompt, context, and MTPLX version; benchmark locally before selecting speculative depth.
mtplx inspect --json --require-mtp <local-path-or-repo-id>
mtplx tune --model <local-path-or-repo-id> --depths 1,2,3 --json

Qualification and limitations

  • Pinned source metadata and all safetensors headers were checked.
  • Quantization used the fixture-matched Qwen3.5 streaming adapter from MLX-LM 0.31.3.
  • MXFP4 and MXFP8 were each produced directly from the same BF16 parent.
  • Structural inspection and strict local load are required release gates.

This is an experimental quantization of an abliterated, intentionally unaligned checkpoint. Quantization does not restore safety alignment. The source publisher warns that the model can produce unsafe or illegal material and places downstream safety and legal responsibility on operators. Review the source model card before use and add access controls, logging, moderation, and human review appropriate to your deployment.

Basic use

python -m mlx_vlm.generate --model <repo-or-path> --image image.jpg --prompt "Describe this image." --max-tokens 256

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
Qwen3_5ForConditionalGeneration
Ревизия весов
148854d

0 моделей