Модель разработана командой проекта Chinese-LLaMA-Alpaca-2; README также указывает исходный репозиторий hfl/chinese-llama-2-7b на Hugging Face.

Модель предназначена для задач генерации и обработки текста, прежде всего на китайском и английском языках, а формат GGUF позволяет запускать её с использованием llama.cpp. Доступны варианты квантования Q2_K, Q3_K, Q4_0, Q4_K, Q5_0, Q5_K, Q6_K и Q8_0, а также F16. Для некоторых вариантов предусмотрены версии с суффиксом -im, созданные с использованием important matrix и обычно обеспечивающие более высокую производительность. Размер модели — 7B параметров; другие характеристики, включая контекстное окно, архитектурные детали и поддерживаемые модальности, в README не указаны.

Основные преимущества — совместимость с llama.cpp, наличие нескольких уровней квантования для выбора компромисса между качеством и ресурсами, а также поддержка китайского и английского языков. Ограничения и качество зависят от выбранного варианта квантования; приведённые значения PPL показывают, что более низкие значения обычно соответствуют лучшему результату. Модель распространяется по лицензии Apache-2.0.