DuoNeural/Qwen3-8B-Abliterated-GGUF — набор GGUF-квантизаций модели DuoNeural/Qwen3-8B-Abliterated, разработанный DuoNeural и основанный на архитектуре Qwen3.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации текста и локального запуска языковой модели, в том числе через Ollama. В README она описывается как abliteration- и uncensored-версия, однако подробности применённых изменений не приведены.
Доступны варианты Q3_K_L размером около 6,2 ГБ, Q4_K_M около 7,5 ГБ, Q5_K_M около 9,2 ГБ и Q8_0 около 12,7 ГБ; рекомендуемым указан Q4_K_M. Вариант Q3_K_L рассчитан минимум на 8 ГБ VRAM, а Q5_K_M и Q8_0 ориентированы на более высокое качество при больших требованиях к памяти. Число параметров базовой модели указано в её названии как 8B. Сведения о поддерживаемых языках, модальностях и размере контекста в README отсутствуют.
Модель удобна для развёртывания в формате GGUF и предлагает компромисс между потреблением памяти и качеством благодаря нескольким уровням квантизации. Заявлены очень низкое значение KL и подтверждение 2/5 CoT dissociation, но методика и практическая интерпретация этих оценок не раскрыты, поэтому их нельзя считать полноценной независимой оценкой качества. Лицензия — Apache-2.0.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
DuoNeural | 2026-06-05
GGUF quantizations of DuoNeural/Qwen3-8B-Abliterated.
| Quant | Size | For |
|---|---|---|
| Q3_K_L | ~6.2GB | 8GB VRAM minimum |
| Q4_K_M | ~7.5GB | Recommended |
| Q5_K_M | ~9.2GB | High quality |
| Q8_0 | ~12.7GB | Near-lossless |
Ollama: ollama run hf.co/DuoNeural/Qwen3-8B-Abliterated-GGUF:Q4_K_M
KL=1.6e-07 (EXCELLENT), 2/5 CoT dissociation confirmed. Part of DuoNeural P34 cross-arch study.
DuoNeural | HuggingFace | @DuoNeural
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.