Черновая диффузионная модель DFlash предлагает продолжения для ускорения спекулятивного декодирования meta-llama/Llama-3.1-8B-Instruct.
Подходит для: Ускорение генерации ответов Llama 3.1 8B в SGLang · Параллельное черновое декодирование продолжений текста · Ускорение генерации при решении математических задач