Квантизацию подготовила команда featherless-ai-quants. Модель предназначена для генерации текста и может использоваться в совместимых локальных или серверных средах, поддерживающих формат GGUF.

Известно, что модель относится к семейству Llama 3 и содержит около 8 миллиардов параметров. README не указывает точную архитектуру, поддерживаемые языки, размер контекстного окна и мультимодальные возможности, поэтому подтверждённо описать их нельзя. Доступны варианты Q2_K, Q3_K, Q4_K, Q5_K, Q6_K, Q8_0 и IQ4_XS размером примерно от 3 до 8,1 ГБ; более сильное сжатие уменьшает требования к памяти, но может снижать качество по сравнению с менее агрессивной квантизацией.

Лицензия и условия использования в README не указаны. Также отсутствуют сведения о качестве, результатах тестирования, специализированных сценариях, ограничениях безопасности и рекомендуемых параметрах запуска.