Protylopus — компактная GPTBigCode-модель для ускорения генерации текста в совместимых с токенизатором LLaMA моделях.

Подходит для: ускорение жадной генерации в моделях семейства LLaMA · ускорение генерации в Alpaca, Vicuna и Guanaco · использование как вспомогательной модели в assisted generation