/ Модель

Характеристики

Лицензия
Apache 2.0
Опубликована
5 июн 2026

Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop-GGUF

Генерация текстаТекст → текст11 профессий

Это GGUF-квантизация текстовой модели Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop.

817скачиваний за 30 дней1лайквеса обновлены5 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Квантизации подготовлены пользователем larue316 на основе модели DavidAU с использованием llama.cpp b9192. Модель имеет около 12 млрд параметров и ориентирована на генерацию текста с поддержкой рассуждений; заявленные языки — английский и китайский.

Модель предназначена для локального запуска и использования в совместимых движках вывода, включая LM Studio, llama.cpp, Ollama и другие системы с поддержкой GGUF. Доступны варианты квантизации от Q8_0 размером 11,57 ГБ до Q2_K размером 4,60 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В README отдельно отмечен вариант Q4_K_M как оптимальный баланс качества и размера.

К сильным сторонам относятся широкий выбор квантизаций и возможность локального использования без исходной полноразмерной модели. Ограничения связаны с потерями качества, зависящими от выбранного уровня квантизации; для наиболее компактных вариантов качество указано как приемлемое или минимально пригодное. Архитектура, размер контекстного окна, мультимодальные возможности и точные характеристики обучения в README не указаны. Лицензия модели — Apache 2.0.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.6 12B IQ Ultra Heretic Uncensored Thinking V2 Hightop - GGUF

GGUF quantizations of DavidAU/Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop.

Converted and quantized using llama.cpp b9192.

Available Quants

QuantSizeQuality
Q8_011.57 GBNear-perfect
Q6_K8.93 GBExcellent
Q5_K_M7.84 GBVery good
Q5_K_S7.65 GBVery good
Q5_07.65 GBGood
Q4_K_M6.82 GBBest balance
IQ4_NL6.58 GBVery good (IQ)
Q4_K_S6.49 GBGood
Q4_06.43 GBGood
IQ4_XS6.31 GBGood (IQ)
Q3_K_L5.94 GBAcceptable
Q3_K_M5.58 GBAcceptable
IQ3_M5.33 GBAcceptable (IQ)
IQ3_S5.27 GBAcceptable (IQ)
Q3_K_S5.15 GBFair
Q2_K4.60 GBMinimal usable

Original Model

DavidAU/Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop

Usage

Use with LM Studio, llama.cpp, Ollama, or any GGUF-compatible inference engine.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
959eea5

0 моделей