/ Модель

Характеристики

Лицензия
Своя лицензия
Базовая модель
Qwen3.8-Flash-Next
Библиотека
gguf
Опубликована
1 сен 2026

Qwen3.8-Flash-Next-Uncensored-Q4_K_M-MTP

Генерация текстаТекст → текст3 профессии

Qwen3.8-Flash-Next-Uncensored-Q4_K_M-MTP — квантованная GGUF-модель, созданная на базе Qwen3.8-Flash-Next и производной orcarouter/Qwen3.8-Flash-Next-Uncensored.

2 930скачиваний за 30 дней2лайкавеса обновлены1 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель разработана для локального запуска и исследовательских задач, включая интерпретируемость, изучение механизмов отказа, тестирование безопасности и оценку устойчивости моделей. Она предназначена для генерации текста и поддерживает английский и китайский языки; в метаданных также указана vision-language направленность, однако подробности о поддерживаемых визуальных входах не приведены.

Модель использует архитектуру qwen4exp с Gated DeltaNet, QSA, HyperConnections и PLE. Она содержит полный 48-слойный основной блок и один слой Multi-Token Prediction (MTP), интегрированный непосредственно в четыре GGUF-фрагмента, поэтому отдельный файл для черновой головы не требуется. Применена квантизация Q4_K_M для основной части и MTP-головы. Общий размер составляет около 113,7 ГиБ, а заявленный нативный контекст — 262 тысячи токенов. Интегрированный MTP рассчитан на ускорение генерации при использовании совместимого llama.cpp.

Ключевая особенность модели — abliteration, то есть удаление механизмов отказа исходной модели. Благодаря этому она может отвечать на вредоносные, неэтичные и незаконные запросы, от которых базовая модель отказалась бы. Это делает её пригодной для контролируемого red-teaming и исследований, но создаёт существенные риски при практическом использовании; для развёртывания необходимы собственные фильтры безопасности и модерации. Для запуска требуется llama.cpp с поддержкой qwen4exp и соответствующих функций speculative decoding.

Модель распространяется по Qwen Community License 1.0, унаследованной от базовой модели. Для коммерческого использования в формате Model as a Service или AI Work Assistant, согласно указанным условиям, требуется отдельная лицензия от Qwen.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.8-Flash-Next-Uncensored Q4_K_M (Integrated MTP)

An integrated MTP (Multi-Token Prediction) GGUF build of the abliterated Qwen3.8-Flash-Next-Uncensored model, quantized to Q4_K_M with the MTP draft head merged into the same 4-shard split — no sidecar file needed.

Model Details

PropertyValue
Base modelQwen/Qwen3.8-Flash-Next
Abliterationorcarouter/Qwen3.8-Flash-Next-Uncensored
QuantQ4_K_M (main trunk) + Q4_K_M (MTP head)
Split4 shards (3 trunk + 1 MTP), integrated
Total size~113.7 GiB
Context262K native
Architectureqwen4exp (Gated DeltaNet + QSA + HyperConnections + PLE)
MTP1 draft layer, integrated as blk.48

Usage (llama.cpp with qwen4exp support)

./build-vulkan/bin/llama-server \
  --model Qwen3.8-Flash-Next-Uncensored-Q4_K_M-MTP-00001-of-00004.gguf \
  --flash-attn on \
  --spec-type draft-mtp \
  --spec-draft-adaptive \
  --spec-draft-n-min 0 \
  --spec-draft-n-max 7 \
  --spec-draft-p-min 0.75

What's inside

This repo contains the MTP head tensors fused into the main GGUF:

  • blk.48.nextn.* — MTP embedding/hidden projections + norms
  • blk.48.nextn.hc_head_* — draft head output mixer
  • Full 48-layer trunk with nextn_predict_layers = 1

⚠️ Disclaimer

This model is an abliterated (refusal-removed) build. It will comply with harmful, unethical, or illegal requests the original Qwen3.8-Flash-Next would refuse. Released strictly for legitimate research — interpretability, AI-safety / refusal-mechanism study, red-teaming, and robustness evaluation. You assume full responsibility for how you use it and everything it generates; add your own safety and moderation layers before any deployment.

License

Qwen Community License 1.0 (see LICENSE), inherited from the base model Qwen/Qwen3.8-Flash-Next. Abliteration and quantization do not change the underlying license obligations.

Note: per the Qwen Community License, if you operate a Model as a Service or AI Work Assistant business commercially, you must obtain a separate license from Qwen before using this model or its derivatives for commercial purposes. See LICENSE for full terms.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
54fc513

0 моделей