Характеристики

Контекст: 40 960 токенов
Параметры: 1,6 млрд
Лицензия: Apache 2.0
Архитектура: qwen3 · dense
Базовая модель: Qwen3-8B
Библиотека: transformers
Опубликована: 2 сен 2026

Ссылки

Hugging Face

PPCM

Xinmu7

Генерация текстаТекст → текст3 профессии

Черновая модель PPCM для ускорения генерации Qwen3-8B с помощью speculative decoding.

142скачиваний за 30 дней3лайкавеса обновлены3 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Xinmu7/PPCM — вспомогательная черновая модель PPCM для ускорения генерации текста моделью Qwen3-8B методом speculative decoding. Разработчик описывает PPCM как небольшой энкодер, который ранжирует причинно согласованные пути среди семи кандидатов за один проход; целевая модель проверяет лучший путь. Репозиторий содержит класс PPCMDraftModel и веса в формате safetensors. Метаданные указывают 1,6 млрд параметров и контекст до 40 960 токенов; README сообщает о семи спекулятивных токенах и результате τ = 5,97 с ускорением 5,18× на Qwen3-8B и GSM8K при T = 0 и L = 7.

Модель предназначена для совместного использования с Qwen/Qwen3-8B через PPCM-совместимый код vLLM. Она не является самостоятельной чат-моделью и сама по себе не заменяет целевую модель. Производная от Qwen/Qwen3-8B; распространяется по лицензии Apache-2.0. Описанные показатели относятся к указанным условиям эксперимента.

Сценарии применения

ускорение генерации текста моделью Qwen3-8B
ускорение ответов Qwen3-8B на математические задачи GSM8K
черновое предсказание следующих токенов для speculative decoding

Ограничения

Не является самостоятельной чат-моделью: для работы требуется целевая Qwen/Qwen3-8B и совместимый PPCM-код vLLM. Заявленное ускорение измерено на GSM8K при конкретных настройках и может не переноситься на другие задачи или конфигурации.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.7Разработка и данныеDevOps, облако и эксплуатация IT-системAI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру.20 задач7 196моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-8B-PPCM

PPCM is a ~9M three-layer encoder (CCEL → CTIL → CPRL) over Top-7 candidates. It ranks causally consistent paths in one pass, then the target model verifies the top path.

This repo is not a standalone chat model. Load Qwen3-8B as the target.


Code	github.com/Xinmu-Tantai/PPCM
Target	Qwen/Qwen3-8B
Speculative length	7 (`block_size = 8`), Top-7 candidates
Extra params	8.8M

On Qwen3-8B / GSM8K (T = 0, L = 7): τ = 5.97, 5.18× speedup.

Files

model.safetensors — 5-layer causal draft + ppcm.ccel / ppcm.ctil / ppcm.cprl / ppcm.score
config.json — PPCMDraftModel, num_speculative_tokens: 7
ppcm.py — Hugging Face AutoModel class

Usage

Serve with the PPCM vLLM code:

TARGET_MODEL=Qwen/Qwen3-8B
DRAFT_MODEL=Xinmu7/PPCM
NUM_SPECULATIVE_TOKENS=7

License

Apache License 2.0.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: PPCMDraftModel
Ревизия весов: d74e5c4