Характеристики

Лицензия: Apache 2.0
Базовая модель: G4-MeroMero-v2-31B-Heretic-ARA-LoRA
Библиотека: transformers
Опубликована: 6 авг 2026

Ссылки

Hugging Face

G4-MeroMero-v2-31B-Heretic-ARA-LoRA-GGUF

kabachuha

Изображение и текст → текст3 профессии

GGUF-версия G4-MeroMero-v2-31B-Heretic-ARA-LoRA с уменьшенным числом отказов для диалогов с текстом и изображениями.

489скачиваний за 30 дней2лайкавеса обновлены6 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это GGUF-квантованная версия модели G4-MeroMero-v2-31B-Heretic-ARA-LoRA, опубликованная kabachuha. Она предназначена для диалогового взаимодействия с текстом и изображениями; автор описывает её как вариант с меньшим числом отказов при сохранении близости к исходной модели. В приведённом сравнении указаны 8 отказов из 100 запросов и KL-дивергенция 0,0785 относительно исходной модели.

Модель создана с применением 4-битной техники ARA LoRA и распространяется в формате GGUF для использования, в частности, через llama.cpp. Размер модели, длина контекста и поддерживаемые языки в доступных данных не приведены. Лицензия — Apache-2.0. Снижение числа отказов означает, что модель может выдавать ответы на запросы, которые исходная модель отклоняет; качество и безопасность её ответов в других сценариях отдельно не охарактеризованы.

Сценарии применения

диалоговые ответы на текстовые запросы
ответы на вопросы по загруженным изображениям
обсуждение изображений в ролевых сценариях

Ограничения

В README приведены ограниченные результаты сравнения по отказам и KL-дивергенции; они не характеризуют качество на широком наборе задач. Языки и длина контекста не указаны в доступных источниках.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

G4-MeroMero-v2-31B - Heretic - LoRA - GGUF

91% fewer refusals (8/100 This vs 97/100 Original) while preserving model quality (0.0785 KL divergence).

Made with the new 4bit ARA LoRA (use_ara_lora) technique at home.

FAQ - How to use this model?

llama.cpp example command:

./llama-server <your current command> --lora-scaled "/media/kabachuha/doc/G4-MeroMero-v2-31B-Heretic-ARA-LoRA.gguf:1.0"

For unquantized: https://huggingface.co/kabachuha/G4-MeroMero-v2-31B-Heretic-ARA-LoRA.

Performance

Metric	This model	Original model (G4-MeroMero-v2-31B)
KL divergence	0.0785	0 (by definition)
Refusals	8/100	97/100

Lower refusals indicate fewer content restrictions, while lower KL divergence indicates more closeness to the original model's baseline. Higher refusals cause more rejections, objections, pushbacks, lecturing, censorship, softening and deflections.

Abliteration parameters

Parameter	Value
start_layer_index	26
end_layer_index	52
preserve_good_behavior_weight	0.8949
steer_bad_behavior_weight	0.0025
overcorrect_relative_weight	0.9535
neighbor_count	15

Targeted components

attn.o_proj
mlp.down_proj

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: a1d7632