Характеристики

Лицензия: Apache 2.0
Архитектура: gemma4 · dense
Базовая модель: gemma-4-E4B-it
Библиотека: transformers
Опубликована: 23 сен 2026

Ссылки

Gemma4-E4B-8B-Heretic-Ultra

Мультимодальная модель15 профессий

Мультимодальная производная Gemma 4 E4B Instruct со сниженной склонностью к отказам для диалога, рассуждений и анализа текста, изображений и аудио.

104скачиваний за 30 дней0лайковвеса обновлены23 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Gemma4 E4B 8B Heretic Ultra — версия Gemma 4 E4B Instruct от Google DeepMind, обработанная llmfan46 с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA) для снижения склонности к отказам. Это плотная мультимодальная модель семейства Gemma 4 для диалога и генерации ответов по тексту, изображениям и аудио. В репозитории доступны исходные веса fp16 в формате safetensors; в отдельной ветке размещена конверсия MLX 4-bit для mlx-lm на Apple Silicon.

Модель подходит для диалоговых сценариев, рассуждений, программирования, анализа изображений и обработки аудио. В приведённых автором тестах доля отказов составила 3 из 100 против 99 из 100 у исходной модели; точность на PIQA составила 85,85%, а на MMLU — 68,60%. Эти результаты относятся к указанным тестам и не гарантируют качество в других задачах. Ablation немного снизила результаты относительно исходной Gemma 4 E4B Instruct.

Лицензия — Apache 2.0. Поскольку модель специально изменена для снижения отказов, она может отвечать на запросы, которые исходная модель отклоняла; следует учитывать это при выборе сценариев применения.

Сценарии применения

диалоговый помощник с меньшей частотой отказов
ответы на вопросы по изображениям
рассуждение и ответы на общие вопросы
помощь с программированием
обработка аудиовходов

Ограничения

В тестах PIQA и MMLU модель немного уступила исходной Gemma 4 E4B Instruct. Снижение отказов означает, что модель может выдавать ответы на запросы, которые базовая модель отклоняла.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gemma4 E4B 8B Heretic Ultra

A decensored version of google/gemma-4-E4B-it, abliterated using Heretic v1.2.0 with the Arbitrary-Rank Ablation (ARA) method.

Credits

Base model: google/gemma-4-E4B-it by Google DeepMind.
Abliteration / decensoring: this specific Heretic Ultra abliteration was created by llmfan46 using the Heretic tool. All credit for the decensoring work goes to them.
This repo: hosts the original fp16 weights (main) and an MLX 4-bit quantized conversion (MLX-4Bit branch) for use with mlx-lm on Apple Silicon.

Abliteration parameters

Parameter	Value
start_layer_index	7
end_layer_index	36
preserve_good_behavior_weight	0.5783
steer_bad_behavior_weight	0.0001
overcorrect_relative_weight	0.9986
neighbor_count	15

Targeted components

attn.o_proj

Performance

Metric	This model	Original model (gemma-4-E4B-it)
KL divergence	0.0076	0 (by definition)
Refusals	3/100	99/100

PIQA

	Original	Heretic
Total questions	1838	1838
Correct	1581	1578
Accuracy	86.02%	85.85%

MMLU

	Original	Heretic
Total questions	14042	14042
Correct	9753	9633
Accuracy	69.46%	68.60%

Branches

Branch	Contents
`main`	Original fp16 weights (safetensors)
`MLX-4Bit`	MLX 4-bit quantized version, converted for mlx-lm

Usage

from transformers import AutoProcessor, AutoModelForCausalLM

MODEL_ID = "dopaemon/Gemma4-E4B-8B-Heretic-Ultra"

processor = AutoProcessor.from_pretrained(MODEL_ID)
model = AutoModelForCausalLM.from_pretrained(
    MODEL_ID,
    dtype="auto",
    device_map="auto"
)

See google/gemma-4-E4B-it for the full base model card, architecture details, and license terms.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Any-to-any модели пока не поддерживаются.

Класс архитектуры: Gemma4ForConditionalGeneration
Ревизия весов: 81813de