Характеристики

Лицензия: Gemma
Базовая модель: Gemma4-12B-Uncensored
Библиотека: llama.cpp
Опубликована: 11 июн 2026

Ссылки

Gemma4-12B-Uncensored-GGUF

Изображение и текст → текст5 профессий

Gemma4-12B-Uncensored-GGUF — это GGUF-версия модели toandev/Gemma4-12B-Uncensored, разработанная Toan Doan на основе google/gemma-4-12B-it.

892скачиваний за 30 дней3лайкавеса обновлены11 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для локального запуска в совместимых с llama.cpp средах и исследовательских или контролируемых сценариев оценки.

Релиз включает квантованную языковую модель Gemma 4 с 12 млрд параметров в формате Q4_K_M и отдельный мультимодальный проектор в формате BF16. При совместном использовании модель поддерживает обработку изображений и генерацию текста по визуальному контексту; README также указывает на поддержку аудиоконтекстов в режиме unified inference. Для корректной работы требуется современная сборка llama.cpp, а мультимодальная поддержка находится в активной разработке. Заявленный контекст и полный перечень поддерживаемых языков в README не указаны.

К сильным сторонам относятся возможность локального запуска, практичная для инференса квантизация Q4_K_M и мультимодальная обработка с использованием отдельного проектора. Ограничениями являются зависимость от актуальной версии llama.cpp, необходимость загружать два файла для мультимодальных сценариев и отсутствие подробных данных о производительности, языках и контекстном окне. Модель предназначена для исследований и контролируемой оценки. Использование регулируется лицензией Gemma и соответствующими условиями upstream-модели; также необходимо соблюдать применимые правила платформ и местное законодательство.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Также подходит для

II.10Разработка и эксплуатация AI/ML-систем

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gemma4-12B-Uncensored-GGUF

GGUF release of toandev/Gemma4-12B-Uncensored for llama.cpp-compatible runtimes.

This repository includes a quantized language-model GGUF and a separate multimodal projector GGUF. Use both files together to preserve image-conditioned generation.

Files

File	Role	Notes
`Gemma4-12B-Uncensored-Q4_K_M.gguf`	Main language model	Q4_K_M quantization, practical default for local inference
`mmproj-Gemma4-12B-Uncensored-BF16.gguf`	Multimodal projector	Required for image/audio-conditioned Gemma 4 unified inference

Usage

Recommended with a recent llama.cpp build:

llama-mtmd-cli \
  -m Gemma4-12B-Uncensored-Q4_K_M.gguf \
  --mmproj mmproj-Gemma4-12B-Uncensored-BF16.gguf \
  --image image.png \
  --jinja \
  -p "Describe the image." \
  -n 256

With Hugging Face auto-download:

llama-mtmd-cli -hf toandev/Gemma4-12B-Uncensored-GGUF:Q4_K_M --image image.png --jinja -p "Describe the image."

llama.cpp multimodal support is under active development. For Gemma 4, prefer current llama.cpp builds and keep --jinja enabled so the model-specific chat template is used correctly.

Smoke Test

Local conversion and smoke test used llama.cpp commit 18ef86e. The Q4_K_M model loaded successfully with the BF16 mmproj, processed a red-rectangle image, and identified the red visual content during generation.

Notes

This model is intended for research and controlled evaluation. Users are responsible for complying with the Gemma license, applicable platform policies, and local regulations.

Copyright

This model is a derivative of google/gemma-4-12B-it and remains subject to the upstream Gemma license and terms.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · llama.cpp

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: dffa748