Характеристики

Контекст: 4 096 токенов
Параметры: 6,6 млрд
Размер весов: 13,5 ГБ
Лицензия: Llama 2
Архитектура: llama · dense
Базовая модель: Llama-2-7b-chat-hf
Библиотека: transformers
Опубликована: 10 сен 2026

Ссылки

svd-safety-l2_remove60_gap_b005

Генерация текстаТекст → текст3 профессии

Экспериментальный сжатый вариант Llama 2 для изучения влияния SVD-сжатия и восстановления компонентов на безопасность и полезность диалоговой модели.

216скачиваний за 30 дней0лайковвеса обновлены10 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM и частично восстановленный по правилу gap. После сжатия осталось 40,5% исходного числа плотных параметров; дополнительно восстановлены компоненты в пределах бюджета 0,5%. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов.

Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность модели, и для оценки восстановления поведения с помощью выбора компонентов SVD. В README приведены показатели успешности атак на AdvBench и StrongREJECT, а также избыточных отказов на WildGuard. Это один экспериментальный вариант в серии сравнений, а не универсальный чат-ассистент; модель в первую очередь подходит для исследовательских измерений и сравнения с базовым чекпойнтом. Языковая модель рассчитана на диалог на английском языке.

Производная модель выпущена под лицензией Llama 2. README предупреждает, что сжатие может ухудшать защиту от вредоносных запросов, поэтому результаты этого чекпойнта не следует трактовать как гарантию безопасного поведения.

Сценарии применения

измерение устойчивости сжатой языковой модели к вредоносным запросам
сравнение успешности атак до и после восстановления компонентов SVD
исследование компромисса между безопасностью и полезностью чат-модели

Ограничения

Чекпойнт предназначен для экспериментов, а не для развёртывания в роли общего чат-ассистента. Сжатие может ухудшать защиту от вредоносных запросов; перед использованием в исследовании следует самостоятельно оценить поведение модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.9Разработка и данныеСтатистика, эксперименты и причинный анализAI помогает планировать эксперименты и делать статистически обоснованные выводы о связях и эффектах.18 задач2 881модель II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

svd-safety-l2_remove60_gap_b005

A Llama-2-7b-chat checkpoint compressed with SVD-LLM to 40.5% of dense parameters, then given a 0.5% parameter budget of restored SVD components selected by the gap rule.

This is a research artifact from a study of how SVD compression damages safety behaviour and which component-selection rule best repairs it. It is one cell of a grid over selection rules and budgets; it is not a general-purpose chat model.

Provenance

field	value
base (uncompressed)	`meta-llama/Llama-2-7b-chat-hf`
compression	SVD-LLM, 59.51% of parameters removed
selection rule	`gap`
restore budget	0.500% of dense parameters
components restored	3084
components swapped out	0
resulting parameter fraction	0.4049
seed	42

Measured

metric	value
AdvBench ASR (HarmBench judge)	0.4827
StrongREJECT ASR (HarmBench judge)	0.3674
Macro over-refusal (WildGuard)	0.1247
WikiText-2 perplexity	17.6085

Intended use and limitations

This checkpoint exists to measure safety/utility trade-offs under compression. Several arms in the grid are deliberately safety-degraded relative to Llama-2-7b-chat: compression alone raises attack-success rate, and the point of the study is to quantify that and test recovery. Treat any given cell as an experimental subject, not as a deployable assistant, and evaluate it yourself before drawing conclusions from it.

Licence

Llama 2 Community License. LICENSE.txt and USE_POLICY.md are included in this repository, and use of this derivative is bound by both. Built with Llama 2.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры: LlamaForCausalLM
Ревизия весов: ccfd7db