/ Модель

Характеристики

Базовая модель
Qwen3.6-35B-A3B
Опубликована
16 апр 2026

Qwen3.6-35B-A3B-MXFP4_MOE-GGUF

Изображение и текст → текст8 профессий

Квантизированная сборка мультимодальной Qwen3.6-35B-A3B в GGUF для диалогов и анализа изображений локально через llama.cpp.

1 382скачиваний за 30 дней11лайковвеса обновлены16 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen3.6-35B-A3B-MXFP4_MOE-GGUF — созданная noctrex сборка модели Qwen3.6-35B-A3B в формате GGUF с квантизацией MXFP4 для весов Mixture of Experts. Она предназначена для диалогов и анализа изображений; для запуска автор рекомендует llama.cpp. В репозитории представлены варианты BF16, F16 и Q8 с разным балансом качества, скорости и объёма: в README для BF16 и F16 указано 20,55 ГиБ, для Q8 — 18,88 ГиБ.

Модель принимает текст и изображения и генерирует текст. Для обработки изображений рекомендуется использовать файл mmproj в формате F32, который, по README, даёт лучшие визуальные результаты. Вариант BF16 может работать медленнее F16 на старых архитектурах, если оборудование не поддерживает BF16 аппаратно. Лицензия и поддерживаемые языки в предоставленных данных не описаны.

Сценарии применения

  • диалог с моделью на естественном языке
  • ответы на вопросы по изображению
  • описание содержимого изображения
  • анализ визуальных материалов в локальном приложении

Ограничения

Для визуальной обработки рекомендуется mmproj в F32; качество и скорость зависят от варианта весов и поддержки BF16 оборудованием. Сведения о лицензии и языковой поддержке в предоставленных данных отсутствуют.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

These are MXFP4 quantizations of the model Qwen3.6-35B-A3B

Quick Start

  1. Download the latest release of llama.cpp.
  2. Download your preferred model variant from below.
  3. For the mmproj file, it is recommended to use the F32 version for the best visual processing results. F32 > BF16 > F16

Which version should I choose?

All variants use MXFP4 for the MoE (Mixture of Experts) weights to keep the model efficient. The difference lies in how the remaining tensors are handled:

VariantQualityPerformanceSizeRecommendation
BF16⭐⭐⭐Variable*20.55GiBBest for maximum accuracy; original unquantized weights.
F16⭐⭐Fast20.55GiBGreat alternative if BF16 is slow on your hardware.
Q8⭐Fastest18.88GiBBalanced performance and memory usage.

**Note: On some older architectures, BF16 may be slower than F16. Check that your GPU supports native BF16 *

Read the guide from unsloth in order to set up the model's recommended settings:
Qwen3.6 - How to Run Locally Guide

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
6209333

0 моделей