Версия DiffusionGemma, преобразованная для MLX, предназначена для диалога и анализа графических входов с выдачей текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это версия DiffusionGemma 26B A4B Instruct, подготовленная сообществом mlx-community для запуска в формате MLX на устройствах Apple с помощью библиотеки mlx-vlm. Репозиторий преобразован из google/diffusiongemma-26B-A4B-it; в метаданных модель отнесена к семейству diffusion_gemma и архитектуре DiffusionGemmaForBlockDiffusion, а файлы представлены в формате safetensors.
Модель предназначена для диалогового взаимодействия с текстовыми и графическими входами и выдачи текстовых ответов. Карточка рекомендует использовать mlx-vlm; подробности о возможностях, языках и ограничениях следует сверять с исходной карточкой Google. Лицензия репозитория — Apache 2.0.
В README нет подробных сведений о качестве, поддерживаемых языках и ограничениях; для этих характеристик следует обратиться к исходной карточке Google.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from google/diffusiongemma-26B-A4B-it
using mlx-vlm version 0.6.3.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/diffusiongemma-26B-A4B-it-bf16 --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon.