Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated-mlx-8bit

В основе лежит Qwen3.6-35B-A3B от Alibaba Cloud; модель Huihui является производной модификацией, а данный репозиторий содержит её 8-битное представление для запуска с MLX на совместимом оборудовании, прежде всего на устройствах Apple Silicon.

Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через mlx-lm и OpenAI-совместимый сервер. Она относится к архитектуре Mixture of Experts (MoE), имеет около 35 млрд параметров и использует 8-битное представление; размер файлов репозитория составляет примерно 36,8 ГБ. В метаданных указаны английский язык и поддержка conversational text generation. Точные сведения о размере активной части MoE, длине контекста, полном наборе языков и результатах тестирования для этой конкретной MLX-сборки не приведены.

Преимущество модели — сочетание крупной базовой архитектуры с 8-битным представлением и оптимизацией под MLX, что делает локальное использование практичнее по сравнению с полной точностью. Ограничения включают значительные требования к памяти, отсутствие опубликованной подробной документации и бенчмарков для данной сборки, а также неопределённость характеристик производной модификации. Лицензия непосредственно в карточке MLX-репозитория не указана; для исходной модели Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated указана Apache 2.0.