Квантованный смешанно-точный чекпойнт Muse Glimmer для компактного диалогового сервинга через SGLang.
Подходит для: локальный запуск диалоговой модели на GPU с 32 ГБ памяти · генерация ответов в сервисе на базе SGLang · вызов инструментов в диалогах с моделью