Модель предназначена для генерации текста и может использоваться в совместимых локальных или серверных средах вывода, поддерживающих формат GGUF.

Модель имеет размер 70 миллиардов параметров и относится к текстовым моделям: сведения о мультимодальности, поддерживаемых языках, архитектуре исходной модели и размере контекстного окна в README не указаны. Доступны варианты квантизации от IQ4_XS и Q2_K до Q8_0, что позволяет выбирать компромисс между требованиями к памяти, скоростью работы и качеством генерации. Размеры вариантов составляют примерно от 25 до 72 ГБ.

Сильной стороной является широкий выбор степеней квантизации и совместимость с экосистемой GGUF, однако 70-миллиардная модель требует значительных вычислительных ресурсов, особенно в вариантах с более высокой точностью. Оценки качества, специализированные сценарии, системные требования и ограничения поведения в README не приведены. Лицензия модели и условия её использования также не указаны.