Модель предназначена для генерации и обработки программного кода, включая сценарии локального запуска и использования с совместимыми инструментами на базе llama.cpp. В README указан тег text-generation, однако конкретный перечень поддерживаемых языков программирования и естественных языков не приведён.

Модель содержит 15 млрд параметров и поддерживает контекст размером 6144 токена. Доступны варианты квантизации от 2 до 8 бит размером примерно от 6,19 до 17 ГБ. Вариант Q4_K_M обозначен как рекомендуемый для сбалансированного сочетания размера и качества, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества. Более агрессивная квантизация уменьшает требования к памяти, но может существенно ухудшать качество; точные архитектурные характеристики и модальности в README не указаны.

Модель ориентирована на задачи, связанные с кодом, но README не содержит подробных результатов тестирования или описания ограничений качества. Лицензия указана как bigcode-openrail-m. Оригинальная модель размещена под идентификатором bigcode/starcoder2-15b.