Jeesup/svd-safety-l2_remove50_gap_b001 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель семейства Llama имеет плотную архитектуру причинного языкового моделирования, около 6,6 млрд параметров и контекст до 4096 токенов. Согласно карточке, при сжатии SVD-LLM удалено 49,91% параметров, после чего восстановлены компоненты SVD в пределах бюджета 0,1% по правилу gap.

Чекпойнт предназначен для генерации текста и сравнительных экспериментов с безопасностью, а не для общего использования в качестве чат-ассистента. В README приведены метрики успешности атак AdvBench и StrongREJECT и показатель чрезмерного отказа на WildGuard; измерения иллюстрируют компромиссы безопасности и полезности, а не гарантируют безопасное поведение. Языковые и прикладные ограничения базовой модели сохраняются; базовая модель описана как ориентированная на общение на английском языке.

Модель доступна в формате safetensors через Transformers. Лицензия — Llama 2; применяйте её с учётом условий лицензии Meta. README характеризует этот чекпойнт как экспериментальный объект и не рекомендует считать его готовым к развёртыванию без самостоятельной оценки.