/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,6 млрд
Размер весов
13,5 ГБ
Лицензия
Llama 2
Архитектура
llama · dense
Базовая модель
Llama-2-7b-chat-hf
Библиотека
transformers
Опубликована
12 сен 2026

svdsafety_l2_remove50_whiten_protk32

Генерация текстаТекст → текст3 профессии

Экспериментальный вариант Llama-2-7b-chat для изучения влияния SVD-сжатия и восстановления компонентов на безопасность и полезность диалоговой модели.

116скачиваний за 30 дней0лайковвеса обновлены12 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это экспериментальный чекпойнт на архитектуре Llama-2-7b-chat, созданный в рамках исследования влияния SVD-сжатия на безопасность и полезность диалоговых моделей. В README указано, что веса сжаты методом SVD-LLM, а для восстановления выбраны компоненты по правилу `unknown`; заявленные бюджеты сжатия и восстановления равны 0,0%, поэтому степень фактического изменения модели по этим числам определить нельзя.

Модель предназначена для экспериментов по измерению компромиссов между безопасностью и полезностью, а также для сравнения способов восстановления поведения после сжатия. Она не позиционируется как универсальный чат-ассистент. Базовая модель имеет 6,6 млрд параметров и контекст 4096 токенов; в метаданных указаны библиотека Transformers, формат safetensors и лицензия Llama 2. Базовая модель рассчитана прежде всего на общение на английском языке.

README предупреждает, что отдельные варианты в исследовательской сетке могут иметь ухудшенную безопасность и повышенную успешность атак. Этот чекпойнт следует оценивать как экспериментальный объект, а не развёртывать как готового ассистента. Условия использования определяются лицензией Llama 2.

Сценарии применения

  • измерение изменений безопасности модели после SVD-сжатия
  • сравнение правил выбора компонентов для восстановления модели
  • оценка компромисса между безопасностью и полезностью чат-модели

Ограничения

README предупреждает, что варианты модели могут иметь ухудшенную безопасность и повышенную успешность атак; чекпойнт предназначен для исследований и требует самостоятельной оценки перед использованием.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

svdsafety_l2_remove50_whiten_protk32

A Llama-2-7b-chat checkpoint compressed with SVD-LLM to 0.0% of dense parameters, then given a 0.0% parameter budget of restored SVD components selected by the unknown rule.

This is a research artifact from a study of how SVD compression damages safety behaviour and which component-selection rule best repairs it. It is one cell of a grid over selection rules and budgets; it is not a general-purpose chat model.

Provenance

fieldvalue
base (uncompressed)meta-llama/Llama-2-7b-chat-hf
compressionSVD-LLM, 0.00% of parameters removed
selection ruleunknown
restore budget0.000% of dense parameters
components restored0
components swapped out0
resulting parameter fraction0.0000
seed42

Intended use and limitations

This checkpoint exists to measure safety/utility trade-offs under compression. Several arms in the grid are deliberately safety-degraded relative to Llama-2-7b-chat: compression alone raises attack-success rate, and the point of the study is to quantify that and test recovery. Treat any given cell as an experimental subject, not as a deployable assistant, and evaluate it yourself before drawing conclusions from it.

Licence

Llama 2 Community License. LICENSE.txt and USE_POLICY.md are included in this repository, and use of this derivative is bound by both. Built with Llama 2.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
8c1b2a2

0 моделей