Характеристики

Лицензия: Apache 2.0
Базовая модель: Qwen3.8-2B
Опубликована: 27 авг 2026

Ссылки

Qwen3.8-2B-Uncensored-GGUF

Генерация текстаТекст → текст4 профессии

Qwen3.8-2B-Uncensored-GGUF — квантованная GGUF-версия модели empero-ai/Qwen3.8-2B, созданная на базе Qwen/Qwen3.5-2B от команды Alibaba Qwen.

8 786скачиваний за 30 дней22лайкавеса обновлены27 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Дистилляцию выполнил empero-ai, удаление отказов методом abliteration с использованием Heretic v1.4.0 — insraq, а конвертацию в GGUF — llama.cpp. Модель содержит около 2 млрд параметров и использует гибридную архитектуру Qwen3.5 с Gated DeltaNet и полным attention.

Модель предназначена для генерации текста и локального запуска на смартфонах, одноплатных компьютерах и обычных CPU через llama.cpp или совместимые приложения, включая PocketPal AI. Доступна текстовая версия без vision projector; поддержка изображений отсутствует. Контекстное окно и набор поддерживаемых языков в карточке не указаны. Используется встроенный chat template, а ответы модели открываются блоком рассуждений. Для работы требуется сборка llama.cpp с поддержкой архитектуры qwen35; размер файла Q4_K_M составляет около 1,27 ГБ, заявленная скорость на Apple Silicon CPU — 31,7 токена в секунду.

К сильным сторонам относятся небольшой размер, возможность CPU-only запуска и удобство локального использования. Модель является uncensored: направление отказов было удалено, поэтому она может не отказывать в потенциально вредных или незаконных запросах. Также отсутствует MTP head, что исключает соответствующую возможность спекулятивной генерации. В карточке указано, что модель предназначена для исследовательского и личного использования. Лицензия Apache-2.0 унаследована от базовой Qwen3.5-2B.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.8-2B Uncensored — GGUF (Q4_K_M)

GGUF quantization of empero-ai/Qwen3.8-2B with refusals removed via Heretic v1.4.0 abliteration. Built from insraq/Qwen3.5-2B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated (Heretic v1.4.0 decensored build, reproducible recipe included in that repo). 2B parameters, Qwen3.5-architecture hybrid (Gated DeltaNet + full attention).

File

File	Quant	Size	SHA256
Qwen3.8-2B-Uncensored-Q4_K_M.gguf	Q4_K_M	1.27 GB	`61713f6d29b507f0ddd2ed989683e3a5e997b920b0c4901ee8f332321d4b0cc9`

Recommended for phones / PocketPal / SBCs. CPU-only is fine at this size.

Runtime requirements

llama.cpp >= b1-0379a19 (Qwen3.5 / Gated DeltaNet architecture support; May 2026+ build).
PocketPal AI: needs a build new enough for the qwen35 architecture.
No vision projector (text-only GGUF). No MTP head (converted with --no-mtp; the abliterated source does not include the speculative head).

Usage (llama.cpp)

llama-cli -m Qwen3.8-2B-Uncensored-Q4_K_M.gguf \
  --temp 0.6 --top-p 0.95 --top-k 20 -c 2048 -n 512

Use the embedded chat template (conversation mode). This is a reasoning model: answers open with a think block. Verified output on Apple Silicon CPU: 31.7 t/s generation.

Model card note

This is an uncensored model — the refusal direction was removed. It will not refuse harmful or illegal requests. Research / personal use only. Apache-2.0 inherited from the Qwen3.5-2B base.

Credits

Base: Qwen/Qwen3.5-2B (Alibaba Qwen team)
Distillation: empero-ai/Qwen3.8-2B (Qwen3.8 2.4T A95B -> Qwen3.5-2B)
Abliteration: insraq (Heretic v1.4.0)
GGUF conversion: llama.cpp convert_hf_to_gguf.py --no-mtp, Q4_K_M quantization

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 649ee94