Характеристики

Базовая модель: gemma-4-26B-A4B-it-uncensored-heretic
Опубликована: 3 мая 2026

Ссылки

gemma-4-26B-A4B-it-uncensored-heretic-MXFP4_MOE-GGUF

Изображение и текст → текст3 профессии

Квантизированный GGUF-вариант Gemma 4 26B A4B-it uncensored heretic для диалогов по тексту и изображениям через llama.cpp.

3 375скачиваний за 30 дней11лайковвеса обновлены4 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это конверсия Gemma 4 26B A4B-it uncensored heretic в формате GGUF с квантизацией MXFP4 для весов Mixture of Experts. Репозиторий подготовлен noctrex; в качестве исходной модели указана llmfan46/gemma-4-26B-A4B-it-uncensored-heretic. Модель предназначена для диалогов по тексту и изображениям, а GGUF-варианты рассчитаны на запуск через llama.cpp.

Варианты отличаются точностью хранения тензоров помимо MXFP4-квантованных MoE-весов: README приводит BF16, F16 и Q8, а также размеры для этих вариантов. Для обработки изображений рекомендуется использовать файл mmproj в F32. Карточка и метаданные не сообщают лицензию, языки или длину контекста; базовое семейство — Gemma 4. Слово uncensored указывает на модификацию с более редкими отказами, но README не описывает её метод или гарантии поведения.

Сценарии применения

диалоги с ассистентом по текстовым запросам
вопросы и ответы по содержимому изображений
запуск мультимодальной Gemma локально через llama.cpp

Ограничения

Для обработки изображений рекомендуется использовать mmproj в F32; поддержка BF16 на старых архитектурах может быть медленнее F16. Лицензия и языковая поддержка в предоставленных данных не описаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

These are MXFP4 quantizations of the model gemma-4-26B-A4B-it-uncensored-heretic

Quick Start

Download the latest release of llama.cpp.
Download your preferred model variant from below.
For the mmproj file, it is recommended to use the F32 version for the best visual processing results. F32 > BF16 > F16

Which version should I choose?

All variants use MXFP4 for the MoE (Mixture of Experts) weights to keep the model efficient. The difference lies in how the remaining tensors are handled:

Variant	Quality	Performance	Size	Recommendation
BF16	⭐⭐⭐	Variable*	15.80GiB	Best for maximum accuracy; original unquantized weights.
F16	⭐⭐	Fast	15.80GiB	Great alternative if BF16 is slow on your hardware.
Q8	⭐	Fastest	14.36GiB	Balanced performance and memory usage.

Note: On some older architectures, BF16 may be slower than F16.
Check that your GPU supports native BF16

Read the guide from unsloth in order to set up the model's recommended settings:

The official chat template has been updated from Google. If you do not want to download the model again, you can just tell llama.cpp to use the new chat template.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: 70e2c6f