Компактная двухслойная Mamba2, дистиллированная для ускорения спекулятивного декодирования гибридных моделей и генерации текста.

Подходит для: черновая генерация токенов для спекулятивного декодирования · ускорение вывода гибридных языковых моделей · эксперименты с Mamba2 и гибридными моделями