/ Модель

Характеристики

Размер весов
62,5 ГБ
Лицензия
Apache 2.0
Архитектура
gemma4 · dense
Базовая модель
gemma-4-31B-it-heretic
Библиотека
mlx
Опубликована
8 апр 2026

Gemma-4-31B-Heretic-MLX-bf16

Изображение и текст → текст6 профессий

Мультимодальная чат-модель Gemma 4 на 31 млрд параметров в формате MLX, предназначенная для диалогов и анализа изображений с меньшей склонностью к отказам.

82скачиваний за 30 дней2лайкавеса обновлены8 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TheCluster/Gemma-4-31B-Heretic-MLX-bf16 — мультимодальная чат-модель семейства Gemma 4 на 31 млрд параметров, представленная в формате MLX и точности bfloat16. Это конверсия модели coder3101/gemma-4-31B-it-heretic, созданной на основе google/gemma-4-31B-it методом ablation: по данным карточки, она реже отказывается отвечать, чем исходная версия. Поддержка изображений позволяет использовать модель для диалогов с визуальным содержимым и анализа изображений.

Модель предназначена для разговорных сценариев и обработки запросов, включающих изображения. В метаданных перечислены английский, китайский, русский, испанский, французский, итальянский, японский, корейский, немецкий, арабский, турецкий, польский, шведский, нидерландский, иврит, индонезийский, украинский, персидский, португальский и финский. Репозиторий распространяется по лицензии Apache-2.0.

README приводит сравнительный замер отказов: 15 из 100 запросов для этой версии против 99 из 100 у исходной модели; условия теста и качество на других задачах не описаны. Для запуска в указанном формате требуется совместимая среда MLX; карточка не сообщает длину контекста.

Сценарии применения

  • диалог с моделью на русском языке
  • ответы на вопросы по загруженному изображению
  • описание содержимого фотографии
  • анализ визуальных материалов в чате

Ограничения

В README приведён только замер отказов на 100 запросах; он не характеризует качество ответов на других задачах. Длина контекста не указана в доступных источниках.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Gemma-4-31B Heretic

Quality: original (bfloat16)

This is a abliterated (uncensored) version of google/gemma-4-31B-it, made using Heretic v1.2.0 with the Arbitrary-Rank Ablation (ARA) method (with row-norm preservation)

Performance

MetricThis modelOriginal model (google/gemma-4-31B-it)
KL divergence0.04340 (by definition)
Refusals15/10099/100

Abliteration parameters

ParameterValue
start_layer_index1
end_layer_index59
preserve_good_behavior_weight0.8438
steer_bad_behavior_weight0.0002
overcorrect_relative_weight1.0760
neighbor_count15

Source

This model was converted to MLX format from coder3101/gemma-4-31B-it-heretic using mlx-vlm version 0.4.4.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
Gemma4ForConditionalGeneration
Ревизия весов
5f55fba

0 моделей