Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Kimi-K2.7-Code DFlash draft — черновая модель для ускорения генерации в режиме speculative decoding, разработанная для moonshotai/Kimi-K2.7-Code и обученная с помощью SpecForge на NVIDIA Nemotron-Post-Training-Dataset-v2 с данными по STEM, диалогам, математике и программированию. Она предназначена для работы как draft-модель в SGLang вместе с целевой Kimi-K2.7-Code, а не как самостоятельный генератор ответов.
Модель использует шестислойную архитектуру Qwen3-style DFlashDraftModel с размером скрытого состояния 7168 и блоком из 8 токенов. Она принимает скрытые состояния целевой модели на слоях 1, 12, 24, 35, 47 и 58; словарь и токенизатор соответствуют Kimi-K2.7-Code. Контекст составляет до 262144 токенов. Чекпойнт отмечен как промежуточный снимок обучения, причём обучение на момент публикации продолжалось. Для загрузки требуется trust_remote_code=True и код модели из dflash.py. Лицензия указана как other, конкретные условия в доступных данных не раскрыты.
Сценарии применения
ускорение генерации кода моделью Kimi-K2.7-Code через speculative decoding
использование в SGLang как draft-модели для целевой Kimi-K2.7-Code
эксперименты с DFlash и спекулятивным декодированием для диалоговых и математических запросов
Ограничения
Это промежуточный снимок обучения, предназначенный для парной работы с Kimi-K2.7-Code в SGLang, а не для самостоятельного использования. Для загрузки требуется trust_remote_code=True; доступные данные не содержат конкретных условий лицензии.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
DFlash speculative-decoding draft model for moonshotai/Kimi-K2.7-Code,
trained with SpecForge (PR #593) on NVIDIA Nemotron-Post-Training-Dataset-v2 (stem+chat+math+code).
6-layer Qwen3-style draft (hidden 7168); consumes target hidden states at layers [1,12,24,35,47,58]; block_size 8.
Checkpoint: epoch_4_step_334000 — Work-in-progress snapshot (epoch_4_step_334000) — training still running.
Load with trust_remote_code=True (model code in dflash.py). Intended as the draft in SGLang DFlash speculative decoding paired with the Kimi-K2.7-Code target.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров