/ Модель

Характеристики

Лицензия
Apache 2.0
Опубликована
17 мая 2026

Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop-GGUF

Генерация текстаТекст → текст11 профессий

Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop-GGUF — набор GGUF-квантизаций модели, опубликованный KevinJK51 на основе модели DavidAU/Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop.

12 501скачиваний за 30 дней111лайковвеса обновлены22 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель относится к семейству Qwen, имеет размер 12B и предназначена для генерации текста и рассуждений в локальных и совместимых с GGUF системах инференса.

Указанные языки — английский и китайский. Доступны варианты квантизации от Q8_0 размером 11,57 ГБ до Q2_K размером 4,60 ГБ; Q4_K_M обозначен как оптимальный баланс качества и размера. Модель можно использовать через LM Studio, llama.cpp, Ollama и другие GGUF-совместимые движки. Квантизация снижает требования к памяти, но варианты с меньшим размером могут уступать исходной модели по качеству. Сведения о длине контекста, точной архитектуре, поддержке дополнительных модальностей и результатах независимого тестирования не указаны.

Лицензия модели — Apache-2.0.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.6 12B IQ Ultra Heretic Uncensored Thinking V2 Hightop - GGUF

GGUF quantizations of DavidAU/Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop.

Converted and quantized using llama.cpp b9192.

Available Quants

QuantSizeQuality
Q8_011.57 GBNear-perfect
Q6_K8.93 GBExcellent
Q5_K_M7.84 GBVery good
Q5_K_S7.65 GBVery good
Q5_07.65 GBGood
Q4_K_M6.82 GBBest balance
IQ4_NL6.58 GBVery good (IQ)
Q4_K_S6.49 GBGood
Q4_06.43 GBGood
IQ4_XS6.31 GBGood (IQ)
Q3_K_L5.94 GBAcceptable
Q3_K_M5.58 GBAcceptable
IQ3_M5.33 GBAcceptable (IQ)
IQ3_S5.27 GBAcceptable (IQ)
Q3_K_S5.15 GBFair
Q2_K4.60 GBMinimal usable

Original Model

DavidAU/Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop

Usage

Use with LM Studio, llama.cpp, Ollama, or any GGUF-compatible inference engine.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
0ff6f3a

0 моделей