/ Модель

Характеристики

Лицензия
Apache 2.0
Архитектура
gemma4_unified · dense
Базовая модель
gemma-4-12B-it-qat-q4_0-unquantized
Библиотека
transformers
Опубликована
8 июн 2026

Huihui-gemma-4-12B-it-qat-q4_0-unquantized-abliterated

Мультимодальная модель3 профессии

Экспериментальная мультимодальная версия Gemma 4 12B Instruct с ослабленными отказами для генерации текста и диалога.

1 291скачиваний за 30 дней21лайквеса обновлены9 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Huihui-gemma-4-12B-it-qat-q4_0-unquantized-abliterated — экспериментальная версия Gemma 4 от Huihui-AI, созданная методом abliteration на базе Google Gemma 4 12B Instruct. Метод изменяет часть слоёв модели, чтобы снизить количество отказов; автор сообщает, что обработаны слои 23–36, а режимы с рассуждением и без него подвергнуты abliteration. Модель предназначена для диалоговой генерации текста и мультимодальных сценариев базовой Gemma 4, включая работу с изображениями, аудио и видео; заявлена поддержка через Transformers, а также доступна совместимая версия GGUF и запуск через Ollama.

Репозиторий содержит веса Safetensors, а метаданные указывают архитектуру Gemma 4 Unified и 12 млрд параметров базовой модели. Лицензия — Apache-2.0. Автор характеризует метод как грубую демонстрацию концепции: ослабление защитных отказов может приводить к чувствительным, спорным или неподходящим ответам, поэтому результаты требуют проверки.

Сценарии применения

  • диалоговая генерация ответов с меньшим количеством отказов
  • обсуждение спорных тем для исследовательских экспериментов
  • анализ изображений в диалоге
  • эксперименты с мультимодальными сценариями на базе Gemma 4
  • локальный запуск через Ollama или GGUF

Ограничения

Автор описывает abliteration как грубую демонстрацию концепции и предупреждает, что ослабленная фильтрация может приводить к чувствительным, спорным или неподходящим ответам. Изменены только слои 23–36; результаты следует проверять.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

huihui-ai/Huihui-gemma-4-12B-it-qat-q4_0-unquantized-abliterated

This is an uncensored version of google/gemma-4-12B-it-qat-q4_0-unquantized created with abliteration (see remove-refusals-with-transformers to know more about it). This is a crude, proof-of-concept implementation to remove refusals from an LLM model without using TransformerLens.

Note: For this model, both the thinking mode and the non-thinking mode have been completely abliterated. Only layers 23-36 have been abliterated.

GGUF

huihui-ai/Huihui-gemma-4-12B-it-qat-q4_0-unquantized-abliterated-GGUF

ollama

Please use the latest version of ollama

You can use huihui_ai/gemma-4-abliterated:12b-qat directly,

ollama run huihui_ai/gemma-4-abliterated:12b-qat

Usage Warnings

  • Risk of Sensitive or Controversial Outputs: This model’s safety filtering has been significantly reduced, potentially generating sensitive, controversial, or inappropriate content. Users should exercise caution and rigorously review generated outputs.

  • Not Suitable for All Audiences: Due to limited content filtering, the model’s outputs may be inappropriate for public settings, underage users, or applications requiring high security.

  • Legal and Ethical Responsibilities: Users must ensure their usage complies with local laws and ethical standards. Generated content may carry legal or ethical risks, and users are solely responsible for any consequences.

  • Research and Experimental Use: It is recommended to use this model for research, testing, or controlled environments, avoiding direct use in production or public-facing commercial applications.

  • Monitoring and Review Recommendations: Users are strongly advised to monitor model outputs in real-time and conduct manual reviews when necessary to prevent the dissemination of inappropriate content.

  • No Default Safety Guarantees: Unlike standard models, this model has not undergone rigorous safety optimization. huihui.ai bears no responsibility for any consequences arising from its use.

Donation

Your donation helps us continue our further development and improvement, a cup of coffee can do it.
  • bitcoin:
  bc1qqnkhuchxw0zqjh2ku3lu4hq45hc6gy84uk70ge
  • Support our work on Ko-fi!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Any-to-any модели пока не поддерживаются.

Класс архитектуры
Gemma4UnifiedForConditionalGeneration
Ревизия весов
5201f48

0 моделей