Модель относится к классу text-generation и предназначена для генерации текста, прежде всего для задач, связанных с программным кодом, в формате instruct-взаимодействия.

Базовая модель построена на архитектуре Llama 3 и имеет около 8 миллиардов параметров. В репозитории представлены варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8 ГБ. Это позволяет выбирать компромисс между требованиями к памяти, скоростью работы и потенциальным качеством генерации. Поддерживаются только текстовые входы и выходы; сведения о языках, размере контекста, результатах тестирования и конкретных языках программирования в README не приведены.

Сильной стороной модели является возможность локального запуска через совместимые с GGUF инструменты при выборе подходящего уровня квантизации. Ограничения включают возможные потери качества из-за квантизации и отсутствие подтверждённых данных о производительности, мультиязычности и применимости к конкретным сценариям. Лицензия модели в README не указана.