Черновая модель PARD на базе Llama 3.2 с 1,2 млрд параметров для ускорения генерации текста методом спекулятивного декодирования.
Подходит для: ускорение генерации ответов чат-моделью · ускорение инференса Llama в vLLM · ускорение авторегрессионной генерации в Transformers+