Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat с архитектурой LlamaForCausalLM и 6,6 млрд параметров. Авторы карточки описывают его как один из вариантов эксперимента по сжатию весов методом SVD-LLM и восстановлению выбранных компонент, чтобы измерять влияние сжатия на безопасность и полезность ответов. В README указаны нулевой бюджет параметров для восстановленных компонент и правило выбора «unknown», поэтому численные результаты следует трактовать с учётом этих параметров эксперимента.

Модель предназначена для исследований генерации текста и поведения диалоговых моделей после сжатия, а не для использования как универсальный чат-ассистент. Она принимает текст и генерирует текст; контекст составляет до 4096 токенов. Базовая модель ориентирована на общение на английском языке.

README предупреждает, что сжатие может ухудшать защитное поведение и повышать успешность атак; отдельный вариант сетки может быть намеренно менее безопасным. Чекпойнт требует самостоятельной оценки и не рекомендуется авторами для развёртывания в качестве ассистента. Указана лицензия Llama 2; применяются её условия использования.