Модель предназначена для генерации и продолжения текста, а также для других сценариев инференса базовой языковой модели. Специальный формат промпта не предусмотрен, поскольку это предварительно обученная, а не диалоговая модель.

В основе лежит архитектура Llama 2 с размером около 7 миллиардов параметров и поддержкой контекста до 128 тысяч токенов благодаря технологии YaRN. Модель ориентирована на английский язык и работает с текстовой модальностью. Варианты представлены в формате GGUF и используют imatrix-квантизацию, что может снизить требования к памяти и ускорить локальный запуск по сравнению с полноразмерными весами, однако конкретные уровни квантизации в предоставленных данных не указаны.

Сильными сторонами являются большой контекст и возможность локального использования через совместимые инструменты для GGUF. Ограничения включают отсутствие специализированной настройки для диалогов, неизвестные характеристики отдельных квантованных вариантов и отсутствие данных о качестве на конкретных тестах. В карточке указана лицензия «other», но её точные условия не приведены; перед использованием необходимо проверить лицензионные требования исходной модели и данного набора квантований.