/ Модель

Характеристики

Лицензия
Apache 2.0
Архитектура
qwen3_5_moe · dense
Библиотека
transformers
Опубликована
18 мая 2026

Q3.6-35B-A3B-abliterated-0520-MAX-GGUF

Изображение и текст → текст15 профессий

Q3.6-35B-A3B-abliterated-0520-MAX-GGUF — модель от prithivMLmods, основанная на Qwen/Qwen3.6-35B-A3B и распространяемая в формате GGUF.

685скачиваний за 30 дней3лайкавеса обновлены21 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модифицированная версия с применением анализа направлений отказа и обучения методом абляции, направленная на снижение внутренних отказов при сохранении способностей к рассуждению и следованию инструкциям. В README также указана производная модель prithivMLmods/Q3.6-35B-A3B-abliterated-0520-MAX-STOR-check.

Модель предназначена для генерации текста, подробных ответов, рассуждений и выполнения инструкций, включая сценарии локального запуска через llama.cpp или совместимые средства инференса. Указан английский язык. Архитектура описана как Mixture-of-Experts с 35 млрд параметров; максимальная длина контекста в README не указана. Наличие файлов mmproj и тега image-text-to-text указывает на заявленную поддержку мультимодального сценария, однако конкретные возможности работы с изображениями не описаны.

Доступны варианты квантования от Q2_K до Q8_0, а также BF16 и F16; размеры файлов составляют примерно от 12,9 до 69,4 ГБ, что позволяет выбирать компромисс между требованиями к памяти и качеством. Сильной стороной заявляется улучшенное следование инструкциям и сниженное количество отказов, но это одновременно является ограничением для безопасного применения: поведение модели может быть менее ограничивающим, а качество и безопасность ответов требуют самостоятельной проверки. Модель предназначена авторами для исследований и обучения, а использование осуществляется на риск пользователя. Лицензия — Apache-2.0.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Q3.6-35B-A3B-abliterated-0520-MAX-GGUF

Q3.6-35B-A3B-abliterated-0520-MAX is an abliterated evolution built on top of Qwen/Qwen3.6-35B-A3B. This model applies advanced refusal direction analysis and ablation-based training strategies to reduce internal refusal behaviors while preserving the reasoning and instruction-following strengths of the original architecture. The result is a powerful 35B parameter Mixture-of-Experts language model optimized for detailed responses and improved instruction adherence.

[!NOTE] Model: https://huggingface.co/prithivMLmods/Q3.6-35B-A3B-abliterated-0520-MAX-STOR-check

[!NOTE] This model is intended for research and learning purposes only. It reduces internal refusal behaviors, and any content generated by it is used at the user’s own risk. The authors and hosting page disclaim any liability for outputs produced by this model. Users are responsible for ensuring safe, ethical, and lawful usage.

Model Files

File NameQuant TypeFile SizeFile Link
Q3.6-35B-A3B-abliterated-0520-MAX.BF16.ggufBF1669.4 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.F16.ggufF1669.4 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q2_K.ggufQ2_K12.9 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q3_K_L.ggufQ3_K_L18.1 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q3_K_M.ggufQ3_K_M16.8 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q3_K_S.ggufQ3_K_S15.2 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q4_0.ggufQ4_019.7 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q4_K_M.ggufQ4_K_M21.2 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q4_K_S.ggufQ4_K_S19.9 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q5_0.ggufQ5_024 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q5_K_M.ggufQ5_K_M24.7 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q5_K_S.ggufQ5_K_S24 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q6_K.ggufQ6_K28.5 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.Q8_0.ggufQ8_036.9 GBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.mmproj-bf16.ggufmmproj-bf16903 MBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.mmproj-f16.ggufmmproj-f16903 MBDownload
Q3.6-35B-A3B-abliterated-0520-MAX.mmproj-q8_0.ggufmmproj-q8_0614 MBDownload

Quants Usage

(sorted by size, not necessarily quality. IQ-quants are often preferable over similar sized non-IQ quants)

Here is a handy graph by ikawrakow comparing some lower-quality quant types (lower is better):

image.png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
7ec16f7

0 моделей