Gemma-4-E2B-it-4bit — это 4-битная MLX-конверсия модели Google Gemma-4-E2B-it, подготовленная сообществом mlx-community для работы на устройствах Apple с Apple silicon.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель относится к мультимодальному классу image-text-to-text и предназначена для обработки текстовых запросов, связанных с изображениями, включая их описание и визуальный анализ.
Ключевые характеристики включают поддержку мультимодального ввода текста и изображений, 4-битное квантование и формат MLX, оптимизированный для Apple silicon. В README не указаны точный размер модели, архитектурные параметры, поддерживаемые языки и размер контекстного окна. Для запуска рекомендуется пакет mlx-vlm; пример использования предусматривает передачу текстового запроса и изображения.
Модель удобна для локального мультимодального инференса на совместимых устройствах Apple, а 4-битное представление может снизить требования к памяти. Ограничения и точные показатели качества в README не приведены. Модель распространяется по лицензии Gemma.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
MLX conversion of google/gemma-4-E2B-it for Apple silicon.
70af34e20bd4b7a91f0de6b22675850c43922a034bitmlx_vlm.convert from the local mlx-vlm checkout.pip install mlx-vlm
python -m mlx_vlm.generate --model mlx-community/gemma-4-e2b-it-4bit --prompt "Describe this image." --image path/to/image.jpg
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.