Qwen3.8-27B-DFlash2-FP16

deepsweet/Qwen3.8-27B-DFlash2-FP16 — преобразованная в FP16 версия черновой модели Qwen3.8-27B-DFlash2 от z-lab, предназначенная для ускорения генерации текста методом спекулятивного декодирования. Модель используется как вспомогательный черновик совместно с целевой моделью Qwen3.8-27B в совместимом сервере, а не как самостоятельная основная модель для ответов.

DFlash 2 предсказывает блок токенов за один проход и сохраняет несколько кандидатов для каждой позиции; лёгкий селектор выбирает согласованный путь. В основе используются динамические свёртки с двумя точками. По карточке модели, жадное декодирование сохраняет точное совпадение с целевой моделью, а при сэмплировании сохраняется её распределение. Репозиторий содержит веса safetensors; метаданные указывают архитектуру DFlash2DraftModel семейства Qwen3, 2,9 млрд параметров и контекст 262 144 токена.

Версия FP16 описана как оптимизация для Apple Silicon M1/M2, ускоряющая обработку промпта; для M3 и новее автор рекомендует исходную модель. Модель распространяется по лицензии MIT.