/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
gemma-4-31B-it-uncensored
Опубликована
5 апр 2026

gemma-4-31B-it-uncensored-GGUF

Генерация текстаТекст → текст4 профессии

TrevorJS/gemma-4-31B-it-uncensored-GGUF — это квантизированная GGUF-версия модели gemma-4-31B-it-uncensored, разработанной TrevorJS.

6 369скачиваний за 30 дней50лайковвеса обновлены5 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

В её основе лежит Google Gemma 4 31B Instruct, к которой применена abliteration — метод удаления отказов в ответах с использованием norm-preserving biprojected abliteration. Модель предназначена для генерации текста и диалогового использования, включая локальный запуск через llama.cpp или совместимые инструменты.

Доступны варианты Q4_K_M размером 18,7 ГБ и Q8_0 размером 32,6 ГБ. README указывает поддержку английского языка, текстовую модальность и контекст до 8192 токенов в примерах запуска. Квантизация снижает требования к ресурсам по сравнению с полноточной моделью, а версия Q8_0 должна лучше сохранять точность, чем Q4_K_M, ценой большего объёма памяти. При этом удаление отказов может повышать риск генерации небезопасного или нежелательного содержимого; подробные характеристики качества, аппаратные требования и результаты тестирования в карточке не приведены.

Модель распространяется по лицензии Apache-2.0. Для полной информации о методе преобразования, показателях отказов и валидации рекомендуется обращаться к карточке базовой модели и исходному коду abliteration.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gemma-4-31B-it-uncensored (GGUF)

GGUF quantizations of TrevorJS/gemma-4-31B-it-uncensored.

Files

FileQuantSize
gemma-4-31B-it-uncensored-Q4_K_M.ggufQ4_K_M18.7 GB
gemma-4-31B-it-uncensored-Q8_0.ggufQ8_032.6 GB

Usage

# From HuggingFace (auto-downloads)
llama-server -hf TrevorJS/gemma-4-31B-it-uncensored-GGUF -c 8192

# From local file
llama-server -m gemma-4-31B-it-uncensored-Q4_K_M.gguf -c 8192

Then open http://localhost:8080 for the chat UI.

Details

These are GGUF quantizations of TrevorJS/gemma-4-31B-it-uncensored, an abliterated (uncensored) version of google/gemma-4-31B-it. Refusal behavior has been removed using norm-preserving biprojected abliteration.

See the bf16 model card for full method details, before/after refusal rates, and cross-dataset validation results.

Source code: TrevorJS/gemma-4-abliteration

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
9df23c7

0 моделей