/ Модель

Характеристики

Опубликована
26 мар 2026

Huihui-Qwen3.5-35B-A3B-Claude-4.6-Opus-abliterated_MXFP4_MOE

Изображение и текст → текст6 профессий

Квантованная GGUF-версия мультимодальной чат-модели Huihui-Qwen3.5 для локальной работы с текстом и изображениями.

133скачиваний за 30 дней2лайкавеса обновлены26 мар 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это квантованная версия модели Huihui-Qwen3.5-35B-A3B-Claude-4.6-Opus-abliterated от elbelga в формате GGUF для локального запуска через llama.cpp. Модель поддерживает диалог и обработку изображений вместе с текстом; README описывает вариант с MXFP4 для тензоров MoE и BF16 для остальных тензоров, а для мультимодальной работы рекомендует mmproj в F32. Замена Q8 на BF16 может повысить сохранность качества, но на некоторых архитектурах замедляет инференс.

Модель предназначена для локальных чат-сценариев с текстовыми и визуальными запросами. Она основана на дообученной Huihui-Qwen3.5-35B-A3B-Claude-4.6-Opus-abliterated; сведений о лицензии, языках и размере контекста в предоставленных данных нет.

Сценарии применения

  • диалог с локально запущенной языковой моделью
  • ответы на вопросы по изображению
  • описание содержимого изображения
  • анализ изображения по текстовой инструкции

Ограничения

Использование BF16 для нетензоров MoE может замедлять инференс на некоторых архитектурах. Для оптимального результата README рекомендует mmproj в F32.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is a quantization of the model Huihui-Qwen3.5-35B-A3B-Claude-4.6-Opus-abliterated

Setup Instructions:

  • Download the latest llama.cpp.
  • Use the F32 version of the mmproj file for optimal results. Recommended quality ranking: F32 > BF16 > F16.

For configuration tips, follow the Unsloth Qwen3.5 local run guide

About this Variant: The typical standard uses MXFP4 for MoE tensors and Q8 for everything else. In this build, I switched the non-MoE tensors to BF16. While this may result in slower inference on certain architectures, it offers the highest possible quality, effectively keeping the tensor values unquantized (or closest to the originals).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
7b04e8d

0 моделей