/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
20 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5_moe · dense
Библиотека
mlx
Опубликована
29 мая 2026

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-OptiQ-6bpw-MLX

Генерация текстаТекст → текст10 профессий

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive OptiQ 6bpw MLX — это текстовая версия модели, разработанная dawncr0w на основе bf16-сборки ericpandev, которая, в свою очередь, создана на базе оригинальной модели HauhauCS.

1 160скачиваний за 30 дней8лайковвеса обновлены29 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и локального запуска в экосистеме MLX, включая сценарии работы через mlx_lm.

Сборка использует смешанную квантизацию OptiQ с целевой точностью 6 бит на вес и фактическим показателем 6,12 BPW. Применены группы размера 64, калибровка по 24 образцам и распределение 163 высокоточных и 228 низкобитных слоёв. Размер модели составляет 18,64 GiB. В README не указаны языки, размер контекста и точная архитектура; из названия и исходной модели известно обозначение 35B-A3B, но его внутреннюю структуру нельзя подтвердить по приведённым данным.

Модель ориентирована только на работу с текстом: визуальные компоненты исходной мультимодальной модели исключены, а встроенный MTP отключён. Квантизация уменьшает требования к памяти, однако может снижать точность по сравнению с исходной bf16-версией. Распространяется по лицензии Apache-2.0.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive OptiQ 6bpw

Source: ericpandev/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-bf16 Original: HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive

Quantization

FieldValue
MethodOptiQ mixed-precision MLX
Target BPW6
Achieved BPW6.12
Candidate bits4, 8
Group size64
Calibrationoptiq (24 samples)
Model size18.64 GiB
Layer allocation163 high-bit / 228 low-bit
Layer policy entries391

Notes

  • This is a text-only MLX export; vision components are omitted.
  • Native MTP is disabled for this build.
  • The original model is multimodal; this repository contains only the language model weights.
  • Built from the bf16 source snapshot listed above.

Usage

huggingface-cli download dawncr0w/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-OptiQ-6bpw-MLX --local-dir Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-OptiQ-6bpw-MLX
python -m mlx_lm.generate --model Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-OptiQ-6bpw-MLX --prompt "Write a short greeting."

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
Qwen3_5MoeForConditionalGeneration
Ревизия весов
4517aac

0 моделей