Модель предназначена для генерации и обработки программного кода в сценариях, где требуется локальный или более ресурсоэффективный запуск текстовой генеративной модели.

Модель имеет размер 15 млрд параметров и поддерживает контекст до 6144 токенов. В README не указаны точная архитектура, перечень поддерживаемых языков программирования и естественных языков, а также характеристики мультимодальности; по назначению и тегу code модель ориентирована на работу с текстом и исходным кодом. Доступны варианты квантования от Q2_K до Q8_0, а также F16 объёмом от 6,19 до 31,9 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень низкой или низкой потерей качества.

Главное преимущество сборки — возможность выбирать между меньшим объёмом файлов и сохранением качества. Более агрессивное квантование, включая Q2_K и некоторые варианты Q3, сопровождается существенной потерей качества, поэтому оно подходит не для всех задач. Лицензия модели — BigCode OpenRAIL-M. Для запуска в README упоминается LlamaEdge, но его поддержка обозначена как находящаяся в разработке; квантование выполнено с помощью llama.cpp версии b2824.