Квантизации подготовлены командой featherless-ai-quants; исходный разработчик базовой модели в README не указан. Модель предназначена для задач генерации текста и может использоваться в совместимых локальных или серверных средах, поддерживающих формат GGUF.

В набор входят варианты IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 5,5 до 15,2 ГБ. README не содержит сведений о точной архитектуре, числе параметров, языках, размере контекста, поддерживаемых модальностях, результатах тестирования или специализированных сценариях обучения. Разные уровни квантизации позволяют выбирать компромисс между размером файла, требованиями к ресурсам и сохранением качества, однако конкретные потери качества не описаны.

Лицензия в README не указана, поэтому условия использования необходимо уточнять в карточке базовой модели wwe180/Llama3-15B-ShenNu-v0.1 и соответствующих файлах репозитория.