/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
gemma-4-E4B-it-uncensored
Опубликована
4 апр 2026

gemma-4-E4B-it-uncensored-GGUF

Генерация текстаТекст → текст7 профессий

TrevorJS/gemma-4-E4B-it-uncensored-GGUF — это набор GGUF-квантизаций инструкционной модели TrevorJS/gemma-4-E4B-it-uncensored, основанной на google/gemma-4-E4B-it.

8 420скачиваний за 30 дней96лайковвеса обновлены5 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и диалогового использования, включая локальный запуск через llama-server. В README указано, что это версия с удалённым типичным отказным поведением, полученная методом norm-preserving biprojected abliteration.

Доступны варианты Q4_K_M размером 5,3 ГБ и Q8_0 размером 8,0 ГБ. Заявленный язык — английский. В качестве примеров запуска используется контекст 8192 токена, однако максимальный размер контекста и подробные характеристики архитектуры в README не указаны. Формат GGUF удобен для локального инференса и позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации.

К сильным сторонам относятся локальный запуск, наличие двух уровней квантизации и сниженное количество отказов на запросы. Ограничения связаны с отсутствием подробных данных о производительности, мультимодальности, фактическом размере модели, качестве после abliteration и поддерживаемых языках помимо английского. README указывает лицензию Apache-2.0.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gemma-4-E4B-it-uncensored (GGUF)

GGUF quantizations of TrevorJS/gemma-4-E4B-it-uncensored.

Files

FileQuantSize
gemma-4-E4B-it-uncensored-Q4_K_M.ggufQ4_K_M5.3 GB
gemma-4-E4B-it-uncensored-Q8_0.ggufQ8_08.0 GB

Usage

# From HuggingFace (auto-downloads)
llama-server -hf TrevorJS/gemma-4-E4B-it-uncensored-GGUF -c 8192

# From local file
llama-server -m gemma-4-E4B-it-uncensored-Q4_K_M.gguf -c 8192

Then open http://localhost:8080 for the chat UI.

Details

These are GGUF quantizations of TrevorJS/gemma-4-E4B-it-uncensored, an abliterated (uncensored) version of google/gemma-4-E4B-it. Refusal behavior has been removed using norm-preserving biprojected abliteration.

See the bf16 model card for full method details, before/after refusal rates, and cross-dataset validation results.

Source code: TrevorJS/gemma-4-abliteration

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
771f130

0 моделей