gemma-4-E4B-it-qat-mobile

Она предназначена для локального запуска на устройствах Apple с MLX, включая сценарии генерации текста и анализа изображений с текстовым ответом.

Модель имеет около 3 млрд параметров, использует формат Safetensors и 8-битное представление; размер файлов на странице модели составляет около 3,46 ГБ. Вариант создан с применением Quantization-Aware Training и мобильной схемы оптимизации wNa8o8, включающей целевое 2-битное декодирование, оптимизированный KV-кэш и статические активации для снижения требований к памяти. Карточка указывает английский язык и поддержку image-text-to-text; для семейства Gemma 4 заявлены обработка текста и изображений, контекст до 256K токенов и поддержка более 140 языков.

Сильная сторона модели — сочетание мультимодальности и уменьшенных требований к памяти, что делает её подходящей для локального инференса на мобильном и периферийном оборудовании. Ограничения связаны с квантованием, меньшим размером по сравнению с полноразмерными вариантами Gemma 4 и отсутствием подробного описания бенчмарков или ограничений в карточке данной производной версии. Лицензия на странице mlx-community явно не указана; условия базовой модели Gemma 4 следует проверять в официальной карточке Google.