inferencerlabs выпустила MLX-версию вспомогательной модели Gemma 4 26B A4B MTP. Она содержит слои Multi-Token Prediction из google/gemma-4-26B-A4B-it-assistant и предназначена для совместной работы с Gemma-4-26B-A4B-MLX в режиме спекулятивного декодирования, чтобы ускорять генерацию. Это черновая модель, а не самостоятельный диалоговый чекпойнт.

Модель рассчитана на запуск через MLX на компьютерах Apple с соответствующей основной моделью. В README сообщается о тестировании на M3 Ultra с 512 ГБ оперативной памяти; также приводится оценка, что квантование Q4.5 может повысить пропускную способность и снизить расход памяти без потери качества в тесте программирования. Репозиторий содержит веса safetensors. Базовая модель Gemma 4 поддерживает диалог, рассуждения, программирование и анализ изображений с выдачей текста, однако эта MTP-модель используется как компонент ускорения, а не как отдельная мультимодальная модель. Условия лицензии в предоставленных данных не описаны.