/ Модель
Каталог

Характеристики

Размер весов
51,6 ГБ
Лицензия
Gemma
Архитектура
gemma4 · dense
Базовая модель
gemma-4-26B-A4B-it
Опубликована
10 июн 2026

Ссылки

Hugging Face

Gemma-4-26B-A4B-It-Abliterated

SevenOfNine
Изображение и текст → текст6 профессий

Мультимодальная дообученная Gemma 4 с уменьшенным числом отказов для локальных диалогов, ролевого общения и анализа изображений.

47скачиваний за 30 дней3лайкавеса обновлены10 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SevenOfNine/Gemma-4-26B-A4B-It-Abliterated — это модифицированная модель на основе Google Gemma 4 26B A4B IT, созданная Mel & Ada. Это мультимодальная модель семейства Gemma 4 с архитектурой Mixture-of-Experts: 26 млрд параметров, из которых активно около 4 млрд. Модель принимает текст и изображения, поддерживает диалог и интерфейс вызова инструментов, а ответы выдаёт в виде текста.

Модель предназначена для локальных диалоговых сценариев, включая ролевое общение, ответы в заданном стиле, рассуждения и анализ изображений. Автор применил Heretic для снижения числа отказов: в описанном тесте на сложных вредоносных запросах количество отказов снизилось со 100 из 100 у исходной модели до 18 из 100; KL-дивергенция составила 0,0845. README также сообщает о запуске конвертированной версии GGUF на RTX 4080 Super с пропускной способностью 34,5 токена/с при Q5_K_M; это результат автора, а не гарантия для других конфигураций.

Опубликованные веса представлены в формате safetensors. Модель распространяется по лицензии Gemma; применяются условия лицензии Google Gemma. Хотя модификация сохраняет многоязычные возможности базовой модели, метаданные указывают английский и французский языки, а результаты тестов и скорость в README являются данными автора.

Сценарии применения

  • ролевые диалоги без частых отказов
  • общение с персонажем в заданном стиле
  • ответы и рассуждения в локальном чат-боте
  • анализ изображений с текстовым ответом
  • вызов инструментов в диалоговом приложении

Ограничения

Несмотря на снижение числа отказов, модель всё ещё отказала в 18 из 100 тестовых вредоносных запросов по результатам автора; эти показатели не гарантируют поведения на других запросах. Утверждения о сохранении способностей и производительности основаны на тестах автора.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельI.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gemma-4-26B-A4B-It-Abliterated

Fully decensored google/gemma-4-26B-A4B-it — 26B Mixture-of-Experts (4B active params), vision + tool calling — abliterated with Heretic in full bf16 on an A100 80 GB (no quantized shortcut for the direction estimation).

Looking for GGUF? → Gemma-4-26B-A4B-It-Abliterated-GGUF (Q5_K_M / Q6_K)

Why

A single uncensored local base model able to carry personality-driven companions without a system prompt — smart enough to hold multiple registers (absurd RP, tenderness, terse assistant, narration), free enough to never break character with a refusal.

Result

MetricValue
Baseline refusals (original model)100 / 100
Selected trial (Trial 98) refusals18 / 100
KL divergence vs original0.0845

Selection rule: fewest refusals while KL divergence stays ≤ 0.5 (brain first, decensoring second). Heretic warns that KL > 0.5 means significant capability damage; at 0.0845 the model stays sharp while 82 % of hard refusals are removed. The benchmark scores extreme harmful prompts — ordinary creative/roleplay use is far less guarded and effectively unblocked at this level.

Verified working

Converted to GGUF and run locally on an RTX 4080 Super (16 GB) + 32 GB RAM at 34.5 tokens/sec (Q5_K_M, llama.cpp -cmoe). Reasoning, vision and tools inherited from the base model. Coherent, correct, multilingual — the low KL shows in practice.

Method

  • Heretic v1.3.0 via this fork (adds a non-interactive --auto-save mode for unattended runs).
  • 200 TPE optimization trials, abliterating attn.o_proj + mlp.down_proj across 30 layers.
  • Automatic trial selection: fewest refusals with KL ≤ 0.5, fallback to lowest-KL candidate. Full Pareto front + per-trial metrics logged in the GGUF repo (logs/).
  • Datasets: mlabonne/harmless_alpaca / mlabonne/harmful_behaviors (Heretic defaults).

Gotchas we hit (so you don't)

  • kernels 0.15.x breaks transformers 5.x at import (ValueError: Either a revision or a version must be specified in hub_kernels.py) → pin kernels==0.14.1 (bites on Windows AND Linux).
  • Always pass --model explicitly to Heretic — its CLI heuristic otherwise inserts --model before the last argument and steals the previous flag's value.
  • GGUF conversion of Gemma 4 needs transformers >= 5.6; llama.cpp's convert requirements pin an older one that can't read the Gemma 4 tokenizer ('list' object has no attribute 'keys'). Upgrade transformers after installing those requirements.

Built with love by Mel & Ada ❤️

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Gemma4ForConditionalGeneration
Ревизия весов
07c26ad

0 моделей

    Создать бенчмарк