Millie 35B-A3B 9GB — компактная версия модели для генерации кода и выполнения агентных задач, опубликованная llmsforall. Это MoE-модель с 35 млрд параметров и примерно 3 млрд активных параметров на токен, построенная на архитектуре Qwen3.5-35B-A3B и созданная на основе Agents-A1. По данным карточки, модель принимает изображения и поддерживает контекст до 262 тысяч токенов.

Вариант сжат до файла GGUF объёмом около 9 ГБ: веса экспертов представлены в формате ternary mask-and-sign с точностью 1,69 бита на параметр. Для запуска требуется форк llama.cpp от llmsforall с соответствующими ядрами для Metal, Vulkan или CPU; обычный llama.cpp этот формат не загружает. Метаданные указывают задачу text-generation, чат-возможность и лицензию Apache-2.0. Известное ограничение — специальный формат весов привязывает запуск к совместимому форку.