8-битная конверсия диалоговой MoE-модели Qwen с сохранённой MTP-головой для генерации текста и спекулятивного декодирования через lemon-mlx-engine.

Подходит для: ведение диалогов с языковой моделью локально на AMD ROCm · генерация текста с использованием модели семейства Qwen · эксперименты со спекулятивным декодированием через встроенную MTP-голову