Характеристики

Лицензия: Своя лицензия
Базовая модель: Qwen3.6-35B-A3B-heretic
Библиотека: gguf
Опубликована: 16 апр 2026

Ссылки

Qwen3.6-35B-A3B-heretic-GGUF

Изображение и текст → текст8 профессий

Qwen3.6-35B-A3B-heretic-GGUF — набор квантованных моделей в формате GGUF, опубликованный Abiray на основе модели tvall43/Qwen3.6-35B-A3B-heretic.

1 117скачиваний за 30 дней18лайковвеса обновлены17 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Репозиторий предназначен для запуска через llama.cpp и другие совместимые движки инференса на базе GGML. По названию модель относится к классу 35B-A3B, однако подробности архитектуры и точное соотношение параметров в README не раскрыты. В метаданных указано назначение image-text-to-text, но поддерживаемые модальности и языки отдельно не описаны.

Доступны варианты Q3_K_M, Q4_K_S, Q4_K_M, Q5_K_M, Q6_K и Q8_0. Q4_K_M рекомендуется как компромисс между размером, скоростью и качеством; Q3_K_M экономит больше всего места, но заметнее ухудшает качество, а Q6_K и Q8_0 ориентированы на системы с большим объёмом VRAM и обеспечивают качество, близкое к исходному. Модель можно использовать для генерации текста и других поддерживаемых задач через современные версии llama.cpp, но требования к контексту, языкам и аппаратным ресурсам, кроме общих различий между квантованиями, не указаны. Лицензия обозначена как other, без дополнительных условий в README.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.6-35B-A3B-heretic GGUF

This repository contains GGUF format quantizations of the tvall43/Qwen3.6-35B-A3B-heretic model.

These quantizations were compiled and converted using high-performance compute environments to ensure broad compatibility with modern GGML-based inferencing engines.

Available Quantizations

The following quantization methods are provided to suit various hardware capabilities, from VRAM-constrained setups to high-end rigs.

Format	Characteristics	Recommended Use
Q3_K_M	Smallest, highest perplexity loss	Maximum space savings; quality degradation is noticeable.
Q4_K_S	Small, slightly higher perplexity	Good balance for tight VRAM limits.
Q4_K_M	Medium, optimal balance	Recommended - Excellent balance of size, speed, and quality.
Q5_K_M	Large, very low perplexity loss	High quality, requires more VRAM.
Q6_K	Very large, near-lossless	Premium quality for high-VRAM systems.
Q8_0	Largest, practically lossless	Best for compute-heavy setups; requires massive VRAM.

Usage with llama.cpp

You can run these models using the latest versions of llama.cpp. Note that recent versions of llama.cpp use the cmake build system.

CLI Example

To run inference via the command line:

./build/bin/llama-cli -m Qwen3.6-35B-A3B-heretic-Q4_K_M.gguf -p "Explain the concept of quantum entanglement." -n 512

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · gguf

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: d18823f