MLX-квантованная версия Gemma 3 4B IT, преобразованная сообществом mlx-community из модели google/gemma-3-4b-it с использованием mlx-vlm 0.1.18.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для запуска в формате MLX, в частности через mlx-vlm, и поддерживает сценарии мультимодальной генерации текста по изображениям, например их описания. В README указано, что исходная модель имеет размер 4 млрд параметров и относится к instruction-tuned версии Gemma 3; квантование выполнено в формате 4-bit.
Модель относится к классу image-text-to-text и рассчитана на работу с текстом и изображениями. README не содержит сведений об архитектуре, поддерживаемых языках, размере контекста, конкретных ограничениях производительности или сильных сторонах, поэтому эти характеристики нельзя достоверно уточнить. Для доступа на Hugging Face требуется принять лицензию Google Gemma; точные условия использования определяются этой лицензией.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from google/gemma-3-4b-it using mlx-vlm version 0.1.18.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/gemma-3-4b-it-4bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.