Характеристики

Базовая модель: Qwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled
Опубликована: 14 мар 2026

Ссылки

Qwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-MXFP4_MOE-GGUF

Изображение и текст → текст5 профессий

GGUF-квантизация дообученной мультимодальной модели Qwen3.5 для локального диалога и работы с изображениями через llama.cpp.

328скачиваний за 30 дней9лайковвеса обновлены17 мар 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это GGUF-квантизации модели noctrex/Qwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-MXFP4_MOE-GGUF, созданные на основе дообученной Jackrong/Qwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled. Репозиторий подготовлен для локального запуска через llama.cpp и включает варианты MXFP4 для тензоров MoE с остальными тензорами в BF16 или F16; в карточке также перечислены GGUF-варианты BF16, F16 и F32. Автор README рекомендует BF16 как наиболее качественный вариант, а F16 — как следующий по предпочтению; скорость BF16 зависит от архитектуры оборудования.

Модель предназначена для диалоговой генерации текста с поддержкой изображений. Для работы с изображениями требуется файл mmproj; README рекомендует его версию F32. Название базовой модели указывает на дистилляцию reasoning-модели Qwen3.5, однако карточка не приводит сведения о языках, размере контекста или лицензии, поэтому эти характеристики здесь не уточняются.

Сценарии применения

диалоговые ответы на текстовые запросы
ответы на вопросы по изображениям
описание содержимого изображения
локальный запуск мультимодального чат-бота через llama.cpp

Ограничения

Для обработки изображений нужен отдельный файл mmproj; README рекомендует F32. Скорость варианта BF16 может быть ниже на некоторых архитектурах оборудования.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

I.15Доступность и ассистивные технологии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

These are quantizations of the model Jackrong/Qwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled

Download the latest llama.cpp to use these quantizations.
For the mmproj file, the F32 version is recommended for best results.
The mmproj files are the same from unsloth.

Read the guide from unsloth in order to set up the model's recommended settings:
Qwen3.5 - How to Run Locally Guide

The mainline standard is to use MXFP4 for the MoE tensors, and Q8 for the rest.
So I created 2 new variants, where the other tensors are either BF16 or FP16 instead of Q8.
The order of preference is BF16, then F16.
On some architectures BF16 will be slower, but its the highest quality, essentialy its the original tensors from the model copied over unquantized.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: 3c14d9f