/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3.6-27B-DFlash
Библиотека
gguf
Опубликована
29 июн 2026

Qwen3.6-27B-DFlash-GGUF-llama.cpp

Генерация текстаТекст → текст5 профессий

Alittlehammmer/Qwen3.6-27B-DFlash-GGUF-llama.cpp — это набор GGUF-квантизаций модели z-lab/Qwen3.6-27B-DFlash, подготовленный пользователем Alittlehammmer для запуска через llama.cpp.

52 371скачиваний за 30 дней19лайковвеса обновлены29 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и сценариев agentic coding, а также для использования в качестве draft-модели в speculative decoding вместе с совместимыми квантованными версиями Qwen3.6-27B.

Доступны варианты Q4_K_M, Q5_K, Q6_K, Q8_0 и BF16 с разрядностью от 4 до 16 бит и размером примерно от 1,03 до 3,47 ГБ. Версия Q8_0 описана как почти без потерь и рекомендуемая, а BF16 является эталонным файлом полной точности. Формат GGUF и интеграция с llama.cpp упрощают локальный запуск, однако README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, модальностях, результатах тестирования и самостоятельных возможностях базовой модели.

Для использования требуется llama.cpp и совместимые квантованные модели Qwen3.6; в примере применяется режим draft-dflash с параметрами llama-server. Автор отмечает, что настройка sm = tensor может приводить к сбою при запуске, тогда как sm = layer используется в рабочем примере. Лицензия указана как Apache-2.0, при этом подробности возможностей и ограничения следует уточнять в карточке исходной модели.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.6-27B-DFlash

GGUF quantizations of z-lab/Qwen3.6-27B-DFlash.

Converted to BF16 using convert_hf_to_gguf.py, then quantized using llama-quantize from llama.cpp.

Available quants

QuantBitsSizeNotes
Q4_K_M4~1.03 GBAverage quality
Q5_K5~1.22 GBHigh quality
Q6_K6~1.43 GBVery high quality
Q8_08~1.84 GBHighest quality, near lossless, Recommended
BF1616~3.47 GBFull precision, reference file

Usage

Use in conjunction with existing Qwen3.6 Quants, example config if using llama-server:

[Qwen3.6-27B-Q8_0-DFlash]
sm = layer
model = /mnt/gguf/Qwen3.6-27B/Qwen3.6-27B-Q8_0.gguf
model-draft = /mnt/gguf/Qwen3.6-27B/Qwen3.6-27B-DFlash-Q8_0.gguf
spec-type = draft-dflash
spec-draft-n-max = 6 

(Note: For some reason I cannot get sm = tensor to work, it crashes on launch, pretty sure this is an issue in llama.cpp)

Original model

See the original model card for details on capabilities, benchmarks, and license.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
5f2ed67

0 моделей