/ Модель

Характеристики

Лицензия
Apache 2.0
Библиотека
transformers
Опубликована
6 июн 2026

Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved-APEX-GGUF

Изображение и текст → текст12 профессий

Квантизированная GGUF-сборка мультимодальной MoE-модели Qwen3.6-35B-A3B для диалогов, генерации текста и запросов по изображениям.

607скачиваний за 30 дней7лайковвеса обновлены6 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это GGUF-сборка модели Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved, подготовленная cvgro с применением смешанной квантизации APEX. В модели сохранены 20 слоёв MTP для спекулятивного декодирования; README заявляет о возможном ускорении генерации на 20–50% при соответствующих настройках llama.cpp. Модель основана на мультимодальной MoE-модели Qwen3.6-35B-A3B и принимает текстовые и визуальные запросы, выдавая текст.

Сборка предназначена для диалога, генерации текста и работы с изображениями. Базовая модель была модифицирована Heretic и MPOA для снижения числа отказов, а эта версия дополнительно упакована в GGUF с вариантами APEX, включая F16. README утверждает, что APEX сохраняет качество при меньшем размере файлов, но приведённые таблицы сравнений в карточке опущены.

Репозиторий распространяется по лицензии Apache-2.0. Для запуска README приводит примеры с llama.cpp и Ollama; указанный в примере контекст — 131072 токена. Это рекомендация для запуска, а не подтверждённый метаданными предел контекста модели.

Сценарии применения

  • диалог с моделью с уменьшенным числом отказов
  • ответы на вопросы по изображениям
  • генерация текста по текстовым запросам
  • локальный запуск мультимодальной модели через llama.cpp
  • ускорение генерации с помощью MTP-спекулятивного декодирования

Ограничения

Утверждения README о качестве квантизации и ускорении приведены без доступных таблиц результатов; фактическая производительность зависит от оборудования и настроек запуска. Для использования визуальных возможностей нужна совместимая среда инференса.

Для каких профессий подходит12

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
736fe0c

0 моделей