Характеристики

Контекст: 4 096 токенов
Параметры: 6,6 млрд
Размер весов: 13,5 ГБ
Лицензия: Llama 2
Архитектура: llama · dense
Базовая модель: Llama-2-7b-chat-hf
Библиотека: transformers
Опубликована: 10 сен 2026

Ссылки

svd-safety-l2_remove60_random_b005

Генерация текстаТекст → текст3 профессии

Экспериментальный сжатый чекпойнт Llama 2 7B Chat для исследования влияния SVD-сжатия на безопасность и полезность модели.

313скачиваний за 30 дней0лайковвеса обновлены10 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это исследовательский чекпойнт на базе Meta Llama 2 7B Chat, созданный для изучения влияния сжатия на безопасность и полезность диалоговых языковых моделей. Веса сжаты методом SVD-LLM: удалено 59,51% параметров, после чего восстановлены компоненты SVD с бюджетом 0,5%, выбранные случайным образом. В репозитории указано 6,6 млрд параметров; модель использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов.

Модель предназначена для сравнительных экспериментов по безопасности и поведению сжатых моделей, а не для обычного общения или развертывания как ассистент. В README приведены результаты по успешности атак на AdvBench и StrongREJECT, а также по избыточному отказу на WildGuard. Чекпойнт может быть полезен для анализа компромиссов между сжатием, полезностью и безопасностью.

Модель принимает текст и генерирует текст. Базовая модель ориентирована на английский язык. Лицензия — Llama 2; для использования необходимо соблюдать её условия. README предупреждает, что сжатие повышает успешность атак и что чекпойнт следует рассматривать как экспериментальный объект, а не как готового к развертыванию помощника.

Сценарии применения

сравнение безопасности сжатых языковых моделей
измерение успешности атак на диалоговую модель
оценка избыточных отказов после сжатия
исследование восстановления компонентов SVD для снижения потери безопасности

Ограничения

Это экспериментальный чекпойнт, не предназначенный для развертывания как универсальный ассистент; сжатие повышает успешность атак по сравнению с исходной моделью. Результаты оценки относятся к указанным в README наборам и метрикам, поэтому модель следует самостоятельно проверять перед использованием.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.9Разработка и данныеСтатистика, эксперименты и причинный анализAI помогает планировать эксперименты и делать статистически обоснованные выводы о связях и эффектах.18 задач2 881модель II.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

svd-safety-l2_remove60_random_b005

A Llama-2-7b-chat checkpoint compressed with SVD-LLM to 40.5% of dense parameters, then given a 0.5% parameter budget of restored SVD components selected by the random rule.

This is a research artifact from a study of how SVD compression damages safety behaviour and which component-selection rule best repairs it. It is one cell of a grid over selection rules and budgets; it is not a general-purpose chat model.

Provenance

field	value
base (uncompressed)	`meta-llama/Llama-2-7b-chat-hf`
compression	SVD-LLM, 59.51% of parameters removed
selection rule	`random`
restore budget	0.500% of dense parameters
components restored	2954
components swapped out	0
resulting parameter fraction	0.4049
seed	42

Measured

metric	value
AdvBench ASR (HarmBench judge)	0.3558
StrongREJECT ASR (HarmBench judge)	0.3323
Macro over-refusal (WildGuard)	0.1193
WikiText-2 perplexity	17.6188

Intended use and limitations

This checkpoint exists to measure safety/utility trade-offs under compression. Several arms in the grid are deliberately safety-degraded relative to Llama-2-7b-chat: compression alone raises attack-success rate, and the point of the study is to quantify that and test recovery. Treat any given cell as an experimental subject, not as a deployable assistant, and evaluate it yourself before drawing conclusions from it.

Licence

Llama 2 Community License. LICENSE.txt and USE_POLICY.md are included in this repository, and use of this derivative is bound by both. Built with Llama 2.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 268b0df