Характеристики

Лицензия: Apache 2.0
Архитектура: diffusion_gemma · dense
Базовая модель: diffusiongemma-26B-A4B-it
Библиотека: mlx
Опубликована: 30 сен 2026

Ссылки

diffusiongemma-26B-A4B-it-gemma4swift-8bit

Изображение и текст → текст

Предварительно квантованные до 8 бит веса мультимодальной DiffusionGemma для запуска через gemma-4-swift-mlx на Apple Silicon.

120скачиваний за 30 дней0лайковвеса обновлены30 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Этот репозиторий содержит предварительно квантованные 8-битные веса DiffusionGemma 26B-A4B-it, подготовленные Vincent GOURBIN для библиотеки gemma-4-swift-mlx и устройств Apple Silicon. Это вариант модели Google на архитектуре DiffusionGemma с поддержкой текстовых и графических входов и текстового диалога; размер исходного набора весов в формате bf16 составляет 48 ГБ, а данного пакета — 28 ГБ.

Квантование аффинное, с группами по 64 значения, применяется ко всем линейным слоям декодера и экспертам MoE. Пакет предназначен для запуска и измерения производительности DiffusionGemma через gemma-4-swift-mlx, а не для загрузки в обычные mlx-lm или mlx-vlm. README сообщает о совпадении выхода с квантованием bf16-модели на лету и приводит замеры на M3 Max с 96 ГБ памяти.

Лицензия — Apache-2.0. Модель рассчитана на экосистему MLX и Apple Silicon; характеристики производительности в README относятся к указанной конфигурации оборудования.

Сценарии применения

диалоговые ответы на текстовые запросы
анализ изображений в диалоге
локальный запуск DiffusionGemma на Apple Silicon
сравнение производительности 8-битной модели

Ограничения

Пакет использует формат gemma4-diffusion-prequantized-v1 и предназначен для gemma-4-swift-mlx; он не является универсальным чекпойнтом для mlx-lm или mlx-vlm. Замеры производительности приведены только для M3 Max с 96 ГБ памяти.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

DiffusionGemma 26B-A4B-it — 8 bits (gemma-4-swift-mlx)

Pack pré-quantifié de google/diffusiongemma-26B-A4B-it pour la bibliothèque Swift gemma-4-swift-mlx (MLX, Apple Silicon). C'est le poids du profil de référence a4bdiff/8bit-fast / a4bdiff/8bit-lean.

Format propre à gemma-4-swift-mlx (gemma4-diffusion-prequantized-v1) : ce pack n'est pas un checkpoint mlx-lm / mlx-vlm générique, et les packs mlx-community/diffusiongemma-* ne se chargent pas à sa place. Il garde une seule copie des modules partagés entre encodeur et décodeur, et prequantized.json décrit la quantification de chaque module et la SHA-256 de chaque fichier.

Quantification

Affine 8 bits, groupes de 64, toutes les couches linéaires du décodeur et des experts MoE (SwitchLinear).

Mesures (M3 Max 96 Go, 2026-09-28/29)

	bf16 (Google)	ce pack
Taille	48 Go	28,0 Go
Chargement (disque USB)	58 s	32 s
Pic au chargement	51,0 Go	26,7 Go
Mémoire active	49,3 Go	26,7 Go
Débit texte (d1)	32,7 tok/s	28,9 tok/s
ScreenSpot-100	80	78

Sortie identique à la quantification à la volée depuis le bf16.

Détail et lignes brutes : BENCHMARKS.md du dépôt, section « DiffusionGemma 26B-A4B ».

Utilisation

hf download VincentGOURBIN/diffusiongemma-26B-A4B-it-gemma4swift-8bit --local-dir <dossier>
gemma4-cli diffusion --model-path <dossier> "Votre prompt"   # pack reconnu via prequantized.json
gemma4-cli bench-diffusion --model-path <dossier> --reference a4bdiff/8bit-fast --workload d1

En Swift, passer le dossier comme modelPath du pipeline de diffusion avec le profil a4bdiff/8bit-fast. Le pack est reproductible depuis le bf16 de Google : gemma4-cli export-diffusion --model-path <bf16> --reference a4bdiff/8bit-fast --out <pack>.

Licence

Apache-2.0, comme le modèle d'origine de Google. Seule la représentation des poids change (quantification affine MLX).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: DiffusionGemmaForBlockDiffusion
Ревизия весов: e2e5001