Квантизированная GGUF-сборка мультимодальной MoE-модели Qwen3.6-35B-A3B для диалогов, генерации текста и запросов по изображениям.
607скачиваний за 30 дней7лайковвеса обновлены6 июн 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это GGUF-сборка модели Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved, подготовленная cvgro с применением смешанной квантизации APEX. В модели сохранены 20 слоёв MTP для спекулятивного декодирования; README заявляет о возможном ускорении генерации на 20–50% при соответствующих настройках llama.cpp. Модель основана на мультимодальной MoE-модели Qwen3.6-35B-A3B и принимает текстовые и визуальные запросы, выдавая текст.
Сборка предназначена для диалога, генерации текста и работы с изображениями. Базовая модель была модифицирована Heretic и MPOA для снижения числа отказов, а эта версия дополнительно упакована в GGUF с вариантами APEX, включая F16. README утверждает, что APEX сохраняет качество при меньшем размере файлов, но приведённые таблицы сравнений в карточке опущены.
Репозиторий распространяется по лицензии Apache-2.0. Для запуска README приводит примеры с llama.cpp и Ollama; указанный в примере контекст — 131072 токена. Это рекомендация для запуска, а не подтверждённый метаданными предел контекста модели.
Сценарии применения
диалог с моделью с уменьшенным числом отказов
ответы на вопросы по изображениям
генерация текста по текстовым запросам
локальный запуск мультимодальной модели через llama.cpp
ускорение генерации с помощью MTP-спекулятивного декодирования
Ограничения
Утверждения README о качестве квантизации и ускорении приведены без доступных таблиц результатов; фактическая производительность зависит от оборудования и настроек запуска. Для использования визуальных возможностей нужна совместимая среда инференса.
Для каких профессий подходит12
Разделы каталога профессий, в задачах которых используется эта модель
@misc{qwen36_35b_a3b,
title = {{Qwen3.6-35B-A3B}: Agentic Coding Power, Now Open to All},
url = {https://qwen.ai/blog?id=qwen3.6-35b-a3b},
author = {{Qwen Team}},
month = {April},
year = {2026}
}
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
СпособСтатусЦена
GPU в ailist
Универсальный рантайм · transformers
Нельзя запустить
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).