mlx-community/gemma-4-31B-it-qat-bf16
Use with mlx
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/gemma-4-31B-it-qat-bf16 --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
Мультимодальная Gemma 4 31B Instruct в формате для MLX отвечает на вопросы по изображениям и ведёт диалог на английском языке.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
mlx-community/gemma-4-31B-it-qat-bf16 — конверсия Gemma 4 31B Instruct для запуска с библиотекой MLX на системах Apple Silicon. Это плотная мультимодальная модель с архитектурой Gemma4ForConditionalGeneration и поддержкой диалогового режима и обработки изображений. Она принимает текст и изображения и генерирует текст, поэтому подходит для вопросов об изображениях и диалоговых сценариев с визуальным вводом. В README приведена инструкция по установке mlx-vlm; репозиторий содержит веса safetensors.
Модель ориентирована на английский язык. Обозначение QAT в названии указывает на обучение с учётом квантования, однако метаданные не содержат сведений о фактической точности весов. Лицензия, размер контекста и ограничения качества в предоставленных данных не описаны.
Модель подготовлена для запуска через MLX и предназначена прежде всего для систем Apple Silicon. Данных о лицензии, длине контекста и измеренных ограничениях качества в предоставленных источниках нет.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/gemma-4-31B-it-qat-bf16 --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon.