/ Модель

Характеристики

Базовая модель
Qwopus3.6-35B-A3B-v1
Опубликована
12 июл 2026

Qwopus3.6-35B-A3B-v1-MTP-MXFP4_MOE-GGUF

Изображение и текст → текст3 профессии

Квантованная GGUF-версия мультимодальной Qwopus3.6-35B-A3B для диалогов и анализа изображений с поддержкой MTP.

97скачиваний за 30 дней0лайковвеса обновлены12 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это GGUF-сборка MXFP4-квантования модели jamiefutch/Qwopus3.6-35B-A3B-v1-MTP-MXFP4_MOE-GGUF, основанная на дообученной Jackrong/Qwopus3.6-35B-A3B-v1. Она предназначена для диалогов с анализом изображений; в README указана версия с multi-token prediction (MTP), рассчитанная на ускорение генерации при использовании llama.cpp и соответствующих настроек спекулятивного декодирования. Базовая модель относится к мультимодальным MoE-моделям семейства Qwen3.5.

В репозитории представлены варианты MXFP4 для весов MoE с остальными тензорами в BF16, F16 или Q8; README приводит размеры от 19,71 до 21,39 GiB и отмечает компромисс между качеством, скоростью и требованиями оборудования. Модель принимает текст и изображения и выдаёт текст. Данные не сообщают поддерживаемые языки или длину контекста. Лицензия в предоставленных сведениях не указана.

Сценарии применения

  • ответы на вопросы по содержимому изображения
  • описание изображений в диалоге
  • визуальные вопросы и ответы
  • диалоговое рассуждение с изображениями

Ограничения

Производительность и качество вариантов зависят от выбранной точности и поддержки BF16 оборудованием; для MTP требуются подходящие настройки llama.cpp. Сведения о лицензии, языках и длине контекста в предоставленных данных отсутствуют.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

These are MXFP4 quantizations of the model Jackrong / Qwopus3.6-35B-A3B-v1

This is the multi-token prediction (MTP) version.

Quick Start

  1. Download the latest release of llama.cpp.
  2. Download your preferred model variant from below.

Which version should I choose?

All variants use MXFP4 for the MoE (Mixture of Experts) weights to keep the model efficient. The difference lies in how the remaining tensors are handled:

VariantQualityPerformanceSizeRecommendation
BF16⭐⭐⭐Variable*21.39GiBBest for maximum accuracy; original unquantized weights.
F16⭐⭐Fast21.39GiBGreat alternative if BF16 is slow on your hardware.
Q8⭐Fastest19.71GiBBalanced performance and memory usage.

**Note: On some older architectures, BF16 may be slower than F16. Check that your GPU supports native BF16 *

Read the guide from unsloth in order to set up the model's recommended settings for MTP:
Qwen3.6 - MTP Guide

On my system it works very well with the commands:

--spec-type draft-mtp
--spec-draft-p-min 0.75
--spec-draft-n-max 3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
3598cfc

0 моделей