Это исследовательский чекпойнт семейства Llama, созданный на основе диалоговой Meta Llama 2 7B Chat и сжатый методом SVD-LLM: удалено 40% параметров. Модель содержит около 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст; контекст — до 4096 токенов. В README не указан язык обучения или оценки, однако базовая модель рассчитана на диалоги на английском языке.

Чекпойнт предназначен для экспериментов с влиянием SVD-сжатия на безопасность и полезность языковых моделей, а также для оценки восстановления компонентов после сжатия. В этой версии бюджет восстановленных компонентов равен 0%, а использованное правило их отбора обозначено как unknown. В README приведены измерения доли успешных атак и чрезмерных отказов на тестовых наборах. Это экспериментальная точка сравнения, а не универсальный чат-ассистент.

Использование регулируется лицензией Llama 2. Модель не следует считать безопасной для развертывания без собственной оценки: README указывает, что сжатие может ухудшать защитное поведение, и рекомендует оценивать каждый вариант отдельно.