Характеристики

Лицензия: Apache 2.0
Базовая модель: Qwen3.6-35B-A3B-DFlash
Библиотека: gguf
Опубликована: 29 июн 2026

Ссылки

Qwen3.6-35B-A3B-DFlash-GGUF-llama.cpp

Генерация текстаТекст → текст10 профессий

Alittlehammmer/Qwen3.6-35B-A3B-DFlash-GGUF-llama.cpp — это набор квантованных GGUF-версий модели z-lab/Qwen3.6-35B-A3B-DFlash, подготовленный Alittlehammmer для использования с llama.cpp.

55 841скачиваний за 30 дней10лайковвеса обновлены29 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста, включая сценарии агентного программирования, а также может применяться в локальных приложениях и серверных решениях на базе llama.cpp.

Доступны варианты квантования Q4_K_M, Q5_K, Q6_K, Q8_0 и BF16 с разрядностью от 4 до 16 бит и ориентировочным размером от 235 до 771 МБ. Q8_0 описан как вариант с высочайшим качеством, близким к исходному, а BF16 — как эталонный файл полной точности. В README не указаны архитектурные детали исходной модели, поддерживаемые языки, длина контекста, мультимодальные возможности и результаты бенчмарков.

Для работы модель следует использовать совместно с соответствующими квантованными версиями Qwen3.6 и настроить llama-server для speculative decoding с параметрами DFlash. Более сильное квантование обычно требует больше памяти, но лучше сохраняет качество; точные требования к оборудованию и ограничения производительности не приведены. Распространение выполняется по лицензии Apache-2.0.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.6-35B-A3B-DFlash

GGUF quantizations of z-lab/Qwen3.6-35B-A3B-DFlash.

Converted to BF16 using convert_hf_to_gguf.py, then quantized using llama-quantize from llama.cpp.

Available quants

Quant	Bits	Size	Notes
Q4_K_M	4	~235 MB	Average quality
Q5_K	5	~280 MB	High quality
Q6_K	6	~326 MB	Very high quality
Q8_0	8	~421 MB	Highest quality, near lossless, Recommended
BF16	16	~771 MB	Full precision, reference file

Usage

Use in conjunction with existing Qwen3.6 Quants, example config if using llama-server:

[Qwen3.6-35B-A3B-Q8_0-DFlash]
model = /mnt/gguf/Qwen3.6-35B-A3B/Qwen3.6-35B-A3B-Q8_0.gguf
model-draft = /mnt/gguf/Qwen3.6-35B-A3B/Qwen3.6-35B-A3B-DFlash-Q8_0.gguf
spec-type = draft-dflash
spec-draft-n-max = 6

Original model

See the original model card for details on capabilities, benchmarks, and license.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 2aa57b6