mlx-community/gemma-4-e4b-it-8bit — это 8-битная конверсия модели google/gemma-4-E4B-it, подготовленная сообществом mlx-community для работы на устройствах Apple с Apple silicon.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель основана на Gemma 4 и предназначена для задач image-text-to-text, то есть обработки изображений и текста с генерацией текстовых ответов.
Модель подходит для локального запуска мультимодальных сценариев, например описания изображений, визуального вопросно-ответного взаимодействия и других задач, где требуется анализ изображения по текстовой инструкции. Конкретные сведения об архитектуре, количестве параметров, поддерживаемых языках и размере контекстного окна в README не указаны. Доступен 8-битный вариант, ориентированный на более эффективное использование памяти при запуске на Apple silicon через MLX и mlx-vlm.
README не содержит результатов бенчмарков или подробного описания сильных сторон и ограничений модели, поэтому её качество и область практической применимости следует оценивать отдельно. Модель распространяется по лицензии Gemma; исходной моделью указана google/gemma-4-E4B-it.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
MLX conversion of google/gemma-4-E4B-it for Apple silicon.
fee6332c1abaafb77f6f9624236c63aa2f1d01878bitmlx_vlm.convert from the local mlx-vlm checkout.pip install mlx-vlm
python -m mlx_vlm.generate --model mlx-community/gemma-4-e4b-it-8bit --prompt "Describe this image." --image path/to/image.jpg
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.