Характеристики

Лицензия: Apache 2.0
Архитектура: gemma4_unified · dense
Базовая модель: gemma-4-12Bit
Библиотека: mlx
Опубликована: 22 июл 2026

Ссылки

Hugging Face

gemma-4-12B-Q9

inferencerlabs

Мультимодальная модель3 профессии

Квантованная сборка Gemma 4 Unified на 12 млрд параметров для текстовых и мультимодальных сценариев с MLX.

22скачиваний за 30 дней0лайковвеса обновлены22 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

inferencerlabs/gemma-4-12B-Q9 — квантованная сборка Gemma 4 Unified на 12 млрд параметров, подготовленная для запуска с библиотекой MLX. README сообщает о проверке в приложении Inferencer на системе M3 Ultra с 512 ГБ оперативной памяти и упоминает текстовый и мультимодальный вывод, но не приводит измерений скорости или расхода памяти.

Модель предназначена для генерации текста и мультимодальных сценариев в среде MLX. Метаданные указывают на архитектуру Gemma4UnifiedForConditionalGeneration и базовую модель google/gemma-4-12Bit; связь с ней помечена как finetune. В тегах карточки указан английский язык. Лицензия — Apache-2.0.

README не описывает конкретные поддерживаемые модальности, контекстное окно, набор задач или качество. Создатель исходной модели — третья сторона; автор репозитория отдельно указывает, что не является её создателем или владельцем. Результаты могут быть неточными или неуместными, поэтому их следует проверять перед важными решениями.

Сценарии применения

генерация текста на устройстве Apple с MLX
мультимодальный инференс в приложении Inferencer
эксперименты с архитектурой Gemma 4 Unified

Ограничения

README не приводит характеристик скорости и потребления памяти, несмотря на упоминание тестирования; поддерживаемые модальности и контекстное окно не описаны. Автор предупреждает, что ответы могут быть неточными или неуместными и требуют проверки перед важными решениями.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gemma-4-12B

See gemma-4-12B in action: demonstration video

Tested on a M3 Ultra 512GB RAM using Inferencer app

Text inference: ~ tokens/s @ 1000 tokens ~x GiB
Multimodal inference: ~ tokens/s ~x GiB

Perplexity: Measures the confidence for predicting base tokens (lower is better)
Token Accuracy: The percentage of correctly generated base tokens
Missed Divergence: Measures severity of misses; how much the token was missed by

Quantized with a modified version of MLX

For more details see demonstration video or visit google/gemma-4-12B-it.

Disclaimer

We are not the creator, originator, or owner of any model listed. Each model is created and provided by third parties. Models may not always be accurate or contextually appropriate. You are responsible for verifying the information before making important decisions. We are not liable for any damages, losses, or issues arising from its use, including data loss or inaccuracies in AI-generated content.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: Gemma4UnifiedForConditionalGeneration
Ревизия весов: 9bfa140