Вспомогательная модель Eagle для ускорения генерации текста Llama 3.3 70B с помощью спекулятивного декодирования в TensorRT-LLM.
Подходит для: ускорение ответов чат-бота на базе Llama 3.3 70B · ускорение генерации ответов в RAG-системе · ускорение ответов AI-агента