/ Модель
Каталог

Характеристики

Лицензия
Apache 2.0
Архитектура
gemma4_unified · dense
Базовая модель
gemma-4-12B-it
Библиотека
transformers
Опубликована
5 июн 2026

Ссылки

Hugging Face

gemma-4-12B-it-GGUF

prithivMLmods
Изображение и текст → текст15 профессий

gemma-4-12B-it-GGUF — это GGUF-сборка мультимодальной модели Google DeepMind gemma-4-12B-it, опубликованная prithivMLmods.

2 076скачиваний за 30 дней2лайкавеса обновлены7 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации и понимания текста, анализа изображений, видео и аудио, категоризации контента, сжатия контекста и локальных AI-приложений без зависимости от API. Она также ориентирована на агентские сценарии и многошаговое рассуждение.

Модель имеет 12 млрд параметров и унифицированную encoder-free архитектуру: текстовые, визуальные и аудиоданные поступают непосредственно в основу LLM без отдельных vision- и audio-энкодеров. Заявлены сниженные задержка и потребление памяти, поддержка Multi-Token Prediction для ускорения вывода и работа на устройствах примерно с 16 ГБ памяти. В README указан английский язык и мультимодальный режим image-text-to-text; размер контекста не указан. Доступны варианты GGUF от Q2_K до Q8_0, а также BF16 и F16, с размерами основных файлов от 4,83 до 23,8 ГБ.

Сильными сторонами являются мультимодальность с нативной поддержкой аудио, возможность локального запуска и широкий выбор уровней квантования. Ограничения README не описывает; в частности, отсутствуют подробности о фактической производительности, поддерживаемых языках кроме английского, максимальном контексте и требованиях к конкретному оборудованию. Модель распространяется по лицензии Apache 2.0.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельI.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gemma-4-12B-it-GGUF

google/gemma-4-12B-it from Google DeepMind is a 12B-parameter unified, encoder-free multimodal model released June 3, 2026, as the first mid-sized Gemma 4 to feature native audio inputs alongside text, image, and video, processing all modalities by flowing directly into the LLM backbone without separate vision/audio encoders for reduced latency and memory footprint. It delivers performance nearing Gemma 4 26B MoE on standard benchmarks while requiring less than half the total memory (~16GB VRAM or unified memory), making it laptop-ready for consumer hardware with 16GB RAM, Multi-Token Prediction (MTP) drafters for lower latency, and strong agentic reasoning for multi-step workflows. Released under Apache 2.0 with support across the developer ecosystem (Ollama, vLLM, LM Studio), Gemma 4 12B excels at real-time audio/visual understanding, image analysis, content categorization, context compression, and local-first AI applications without API dependency.

Model Files

File NameQuant TypeFile SizeFile Link
gemma-4-12B-it.BF16.ggufBF1623.8 GBDownload
gemma-4-12B-it.F16.ggufF1623.8 GBDownload
gemma-4-12B-it.Q2_K.ggufQ2_K4.83 GBDownload
gemma-4-12B-it.Q3_K_L.ggufQ3_K_L6.57 GBDownload
gemma-4-12B-it.Q3_K_M.ggufQ3_K_M6.09 GBDownload
gemma-4-12B-it.Q3_K_S.ggufQ3_K_S5.53 GBDownload
gemma-4-12B-it.Q4_0.ggufQ4_06.98 GBDownload
gemma-4-12B-it.Q4_K_M.ggufQ4_K_M7.38 GBDownload
gemma-4-12B-it.Q4_K_S.ggufQ4_K_S7.02 GBDownload
gemma-4-12B-it.Q5_0.ggufQ5_08.34 GBDownload
gemma-4-12B-it.Q5_K_M.ggufQ5_K_M8.55 GBDownload
gemma-4-12B-it.Q5_K_S.ggufQ5_K_S8.34 GBDownload
gemma-4-12B-it.Q6_K.ggufQ6_K9.79 GBDownload
gemma-4-12B-it.Q8_0.ggufQ8_012.7 GBDownload
gemma-4-12B-it.mmproj-bf16.ggufmmproj-bf16175 MBDownload
gemma-4-12B-it.mmproj-f16.ggufmmproj-f16175 MBDownload
gemma-4-12B-it.mmproj-q8_0.ggufmmproj-q8_0159 MBDownload

llama.cpp

LLM inference in C/C++ — https://github.com/ggml-org/llama.cpp

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
b77f85f

0 моделей

    Создать бенчмарк