Характеристики

Контекст: 262 144 токена
Размер весов: 38,1 ГБ
Лицензия: Своя лицензия
Архитектура: qwen3_5 · dense
Базовая модель: Qwen3.5-9B
Библиотека: transformers
Опубликована: 21 мая 2026

Ссылки

QwenPaw-Flash-9B-heretic

Генерация текстаТекст → текст7 профессий

Дообученная на базе Qwen3.5-9B плотная модель на 9 млрд параметров для диалоговой генерации текста с дополнительной MTP-головой для ускорения декодирования.

438скачиваний за 30 дней5лайковвеса обновлены3 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

QwenPaw-Flash-9B-heretic — плотная языковая модель на 9 млрд параметров, созданная SC117 методом дообучения с использованием Heretic на базе Qwen/Qwen3.5-9B. В репозитории размещены веса safetensors в формате F32, а также извлечённая из базовой модели BF16-голова Multi-Token Prediction (MTP).

Модель предназначена для диалоговой генерации текста. MTP-голова может ускорять декодирование при speculative decoding; в README указаны примерно 43% принятия предсказаний и ускорение генерации в 1,5–1,9 раза. Для работы с Transformers приведён пример загрузки, а для llama.cpp, Ollama и LM Studio автор предлагает отдельные репозитории с GGUF-версиями.

Метаданные указывают поддержку английского и китайского языков и conversational-возможности; базовая Qwen3.5-9B также описана в каталоге как мультимодальная. Однако карточка этой производной модели заявляет только text-generation и не подтверждает сохранение обработки изображений после дообучения. Лицензия обозначена как other; README говорит, что она совпадает с лицензией базовой модели Qwen3.5-9B.

Сценарии применения

генерация ответов в диалоговом интерфейсе
написание и продолжение текстов по запросу
создание прототипа чат-бота на базе Qwen3.5-9B
ускорение декодирования при speculative decoding с поддержкой MTP

Ограничения

README не приводит оценки качества и не уточняет, какие эффекты Heretic методики проверялись. Обработка изображений не подтверждена для этой версии, а условия лицензии следует сверить с лицензией базовой модели.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MTP acceptance rate: ~43%
Speedup: ~1.5-1.9x decode throughput

For MTP-enabled GGUF inference, see the MTP GGUF repo below.

Standard GGUF (no MTP): SC117/QwenPaw-Flash-9B-heretic-GGUF
MTP GGUF (with Multi-Token Prediction head): SC117/QwenPaw-Flash-9B-heretic-MTP-GGUF

model = AutoModelForCausalLM.from_pretrained( "SC117/QwenPaw-Flash-9B-heretic", torch_dtype=torch.float32, device_map="auto", ) tokenizer = AutoTokenizer.from_pretrained("SC117/QwenPaw-Flash-9B-heretic")

</div>
</div>
<div style="border: 1px solid #cbd5e1; border-radius: 12px; overflow: hidden; background: #ffffff; box-shadow: 0 2px 4px rgba(0,0,0,0.02); margin-bottom: 20px;">
<div style="background: linear-gradient(135deg, #ff6b35 0%, #f7931e 100%); padding: 12px 16px; color: white; font-weight: 700; font-size: 14px; display: flex; align-items: center; gap: 8px;"><span>📄</span> License</div>
<div style="padding: 16px; font-size: 13px; color: #334155; line-height: 1.7;">
Same as base model (Qwen3.5-9B).
</div>
</div>

<!-- SC117_SUPPORT_START -->
<div align="center">
  <a href="https://ko-fi.com/sc117">
    <img
      src="https://huggingface.co/SC117/Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF/resolve/main/assets/support-sc117.png"
      alt="Support SC117 on Ko-fi — support is optional and all releases remain freely available."
      width="100%"
    />
  </a>
</div>
<!-- SC117_SUPPORT_END -->

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen3_5ForConditionalGeneration
Ревизия весов: cc233ba