Характеристики

Размер весов: 10,8 ГБ
Лицензия: Gemma
Архитектура: gemma4 · dense
Базовая модель: gemma-4-E4B-it-qat-q4_0-unquantized
Библиотека: mlx
Опубликована: 9 июн 2026

Ссылки

Hugging Face

gemma-4-E4B-it-qat-JANG_4M

OsaurusAI

Изображение и текст → текст11 профессий

Квантованный MLX-вариант Gemma 4 для диалога и мультимодальной работы с текстом и изображениями.

51скачиваний за 30 дней0лайковвеса обновлены31 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OsaurusAI/gemma-4-E4B-it-qat-JANG_4M — это мультимодальная модель семейства Gemma 4 в формате MLX, подготовленная OsaurusAI на основе google/gemma-4-E4B-it-qat-q4_0-unquantized. В ней 42 текстовых слоя; эмбеддинги, нормализации и компоненты обработки медиа сохранены в fp16, проекции внимания и маршрутизатор MoE представлены в 8-битном аффинном формате, а основная часть декодера и экспертов — в 4-битном. Модель принимает текст и поддерживает обработку изображений; в исходной конфигурации также сохранены настройки аудио и видео.

Модель предназначена для диалога и мультимодальных сценариев, включая вопросы по изображениям. Для запуска требуется совместимый с Gemma 4 загрузчик MLX/vMLX, поддерживающий конфигурацию квантования JANG и файлы процессора и шаблона чата Gemma 4. Репозиторий не содержит весов MTP для спекулятивного декодирования. Лицензия — Gemma; применимость аудио- и видеовхода зависит от поддержки конкретного загрузчика.

Сценарии применения

диалог с мультимодальным ассистентом
ответы на вопросы по изображениям
описание содержимого изображения
запуск Gemma 4 на Apple Silicon через MLX
интеграция чат-модели в приложения с совместимым загрузчиком MLX

Ограничения

Для запуска нужен Gemma 4-совместимый MLX/vMLX-загрузчик с поддержкой параметров квантования JANG и файлов процессора и шаблона чата. Наличие настроек аудио и видео в конфигурации само по себе не гарантирует поддержку этих входов выбранным загрузчиком.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

OsaurusAI/gemma-4-E4B-it-qat-JANG_4M

JANG_4M MLX affine bundle converted from google/gemma-4-E4B-it-qat-q4_0-unquantized.

This bundle keeps Gemma 4 bookends and media-sensitive components coherent: token embeddings/output projection, norms, media towers/embedders, and Gemma 4 per-layer embedding/gate/projector tensors are fp16 passthrough; self-attention and MoE router projections are 8-bit affine; decoder MLP/expert bulk is 4-bit affine.

Bundle

Field	Value
Source	`google/gemma-4-E4B-it-qat-q4_0-unquantized`
Architecture	`gemma4` / `Gemma4ForConditionalGeneration`
Text layers	42
Hidden size	2560
Weight format	`jang_affine`
Top-level quantization	bits=8, group_size=32, mode=affine
Tier bits	attention=8, router=8, mlp=4, embed=16, per_layer_media=16
Quantized modules	259 affine bases with `.scales` and `.biases` sidecars
Shards	6 safetensors shards
Capabilities	`multimodal`

Modalities

Modality	Status
Text	supported
Vision	source config present and preserved
Audio	`audio_config` is present and preserved.
Video	No `video_config` is present, so this card does not claim a verified video runtime path.

Runtime support depends on a Gemma 4 compatible MLX/vMLX loader that understands config.json quantization overrides, jang_config.json, and Gemma 4 processor/chat-template files.

Runtime Metadata

config.json has source-derived has_vision, has_audio, has_video, modalities, and capabilities.
tokenizer_config.json includes bos_token_id, eos_token_id, pad_token_id, and the patched Gemma 4 chat template.
processor_config.json is preserved for Gemma 4 multimodal processing.
MTP/speculative drafter weights are not present in the source checkpoint; metadata is mtp: none / mtp_policy: none.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: Gemma4ForConditionalGeneration
Ревизия весов: d4716a4