II.4Отладка, тестирование и качество ПО

Это исследовательский контрольный пункт Jeesup, созданный на основе диалоговой модели Meta Llama 2 7B Chat и сжатый методом SVD-LLM с последующим редактированием параметров. Веса представлены в формате safetensors; модель содержит около 6,6 млрд параметров и поддерживает контекст до 4096 токенов. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для сравнения способов восстановления поведения после сжатия. Она сохраняет интерфейс генерации текста и общения, но README прямо предупреждает, что это экспериментальный объект, а не универсальный ассистент. В измерениях зафиксированы показатели успешности атак AdvBench 0,0885 и StrongREJECT 0,1278, а также макроуровень чрезмерных отказов 0,1650. Модель не следует считать готовой к развёртыванию: отдельные варианты исследования намеренно имеют сниженные показатели безопасности относительно исходной Llama 2 7B Chat, поэтому результаты нужно проверять в целевом сценарии. Лицензия — Llama 2.

Исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 7B от Meta. Модель сжата методом SVD-LLM: удалено около 40% параметров, после чего выполнено 8 из 10 раундов итеративной замены параметров по правилу disc_iter. Число параметров в метаданных — 6,6 млрд; контекст — 4096 токенов. Репозиторий содержит веса Safetensors для Transformers. Чекпойнт предназначен для изучения компромисса между сжатием, полезностью и безопасностью диалоговой генерации, а также оценки восстановления защитного поведения после сжатия. В README приведены показатели атакуемости на AdvBench и StrongREJECT и чрезмерных отказов на WildGuard. Это экспериментальная ячейка исследования, а не универсальный ассистент для развёртывания. Базовая модель рассчитана прежде всего на общение на английском языке. Лицензия — Llama 2; для использования следует соблюдать её условия.

Исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 7B Chat от Meta, сжатый методом SVD-LLM: удалено 40,02% параметров, после чего восстановлены компоненты SVD в пределах бюджета 0,1% по правилу swapdisc. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — 4096 токенов. Она предназначена для изучения того, как SVD-сжатие влияет на безопасность ответов и как выбор компонентов восстановления меняет компромисс между безопасностью и полезностью. Чекпойнт служит экспериментальным объектом для измерения показателей безопасности и отказов от ответа, а не универсальным чат-ассистентом. В README приведены результаты оценок на AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard; автор предупреждает, что варианты исследования могут иметь ухудшенную безопасность по сравнению с исходной моделью. Базовая модель рассчитана на диалог на английском языке. Указана лицензия Llama 2; перед использованием необходимо соблюдать её условия.

Jeesup/svd-safety-l2_remove40_swapdisciter_r03 — экспериментальная сжатая версия диалоговой модели Llama 2 от Meta, подготовленная для изучения компромиссов между безопасностью и полезностью. По данным карточки, при сжатии методом SVD-LLM удалено 40,02% параметров; вариант использует правило отбора disc_iter. Модель содержит 6,6 млрд параметров, построена на архитектуре LlamaForCausalLM и принимает текст для генерации текста в диалоге. Контекст составляет 4096 токенов; модель предназначена для экспериментов по оценке безопасности и полезности сжатых моделей. В README приведены измерения успешности атак и избыточных отказов, но результаты относятся к конкретным оценкам и не гарантируют поведение в других условиях. Карточка прямо предупреждает, что отдельные варианты намеренно имеют ухудшенную безопасность и не предназначены для развёртывания в качестве ассистента. Лицензия — Llama 2.

Экспериментальный чекпойнт Jeesup на базе диалоговой Llama 2 7B Chat от Meta, полученный сжатием методом SVD-LLM: удалено около 40% параметров по правилу disc_iter. Он предназначен для изучения компромисса между безопасностью и полезностью модели при сжатии, а не для использования в качестве готового ассистента. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров, принимает текст и генерирует текст. Контекст составляет 4096 токенов; базовая модель ориентирована на диалог на английском языке. В README приведены метрики успешности атак и чрезмерного отказа, показывающие поведение чекпойнта в оценках безопасности. Это исследовательский объект: сжатие может ухудшать защиту от вредоносных запросов, поэтому поведение и полезность следует оценивать в рамках экспериментов. Использование регулируется лицензией Llama 2.

Это исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный в рамках исследования влияния сжатия на безопасность языковых моделей. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; родительская модель рассчитана на английский язык. Контекстное окно — 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров, осталось 60% исходного числа. Затем выполнены 3 из 10 раундов итеративной замены параметров по правилу disc_iter с бюджетом до 0,1% плотных параметров на раунд. Он предназначен для измерения компромиссов между безопасностью и полезностью и изучения восстановления поведения после сжатия, а не для обычного диалогового применения. В README приведены оценки атак на AdvBench и StrongREJECT, а также чрезмерных отказов по WildGuard. Модель является экспериментальным объектом, и отдельные варианты серии могут иметь ухудшенную безопасность по сравнению с исходной Llama 2 Chat. Результаты следует самостоятельно оценивать, прежде чем использовать их для выводов. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove40_swapgapiter_b010_r06 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, подготовленный для изучения того, как сжатие влияет на безопасность ответов. В модели удалено 40,02% параметров методом SVD-LLM, после чего выполнено 6 из 10 раундов параметрически нейтральной замены компонентов по правилу gap_iter. В метаданных указаны архитектура LlamaForCausalLM, 6,6 млрд параметров, библиотека Transformers и контекст 4096 токенов. Модель предназначена для сравнительных экспериментов с компромиссом между безопасностью и полезностью, а не для обычного общения или развёртывания как ассистент. В README приведены результаты оценки атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard; отдельные варианты в наборе экспериментов намеренно имеют ухудшенную безопасность. Базовая модель ориентирована на английский язык. Лицензия — Llama 2; перед использованием следует учитывать её условия и ограничения исследовательского чекпойнта.

Экспериментальный исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM и дополнительно изменённый одним раундом параметрически нейтральной замены компонент по правилу gap_iter. В модели около 6,6 млрд параметров; заявленный контекст — 4096 токенов. Доступен формат safetensors, для работы используется Transformers. Модель предназначена для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов, и для оценки восстановления поведения после сжатия. README приводит результаты тестов AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент; лицензия — Llama 2.

Это исследовательский чекпойнт диалоговой модели Llama 2, созданный в рамках исследования сжатия и безопасности. В основе лежит meta-llama/Llama-2-7b-chat-hf: веса сжаты методом SVD-LLM, удалено 40,02% параметров, затем выполнены 3 из 5 раундов итеративной параметрически нейтральной замены компонентов по правилу gap_iter. Модель содержит 6,6 млрд параметров и принимает текст для генерации текста; заявленный контекст — 4096 токенов. Чекпойнт предназначен для измерения влияния сжатия на безопасность и полезность ответов, а также для сравнения правил восстановления поведения. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard; несколько вариантов исследования намеренно демонстрируют ухудшенную безопасность относительно исходной модели. Это экспериментальный объект, а не универсальный чат-ассистент. Для использования действует лицензия Llama 2.

Это исследовательский чекпойнт диалоговой модели Llama 2, основанный на meta-llama/Llama-2-7b-chat-hf. Разработчики сжали исходную модель методом SVD-LLM, удалив 40,02% параметров, а затем провели два раунда перестановки параметров по правилу gap_iter. В репозитории указано 6,6 млрд параметров, контекст — до 4096 токенов; модель загружает библиотека Transformers, веса хранятся в формате safetensors. Чекпойнт предназначен для исследования того, как сжатие влияет на безопасность и полезность диалоговой модели, а также для сравнения способов восстановления поведения. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Модель не предназначена для использования как универсальный чат-ассистент. В карточке указана лицензия Llama 2.

Jeesup/svd-safety-l2_remove40_swapgapnet_b010_r03 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, предназначенный для изучения влияния сжатия и последующей правки параметров на безопасность ответов. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и формат safetensors; контекст составляет 4096 токенов. Она дообучена на базе meta-llama/Llama-2-7b-chat-hf: сжатие методом SVD-LLM удалило около 40% параметров, после чего выполнены 3 из 10 раундов перестановки параметров по правилу gap_iter. Чекпойнт служит экспериментальным объектом для измерения компромисса между сжатием, полезностью и безопасностью, а не универсальным чат-ассистентом. В README приведены показатели атак на безопасность и чрезмерных отказов; авторы предупреждают, что некоторые варианты в серии намеренно уступают исходной модели по безопасности. Основной язык базовой модели — английский. Лицензия — Llama 2 Community License.

Jeesup/svd-safety-l2_remove40_swapgapnet_b010_r06 — исследовательский чекпойнт на базе диалоговой модели Meta Llama 2 7B Chat, созданный для изучения влияния сжатия на безопасность ответов и попыток восстановить поведение модели. Веса сжаты методом SVD-LLM с удалением 40,02% параметров; затем к ним применены 6 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Общий размер составляет 6,6 млрд параметров, архитектура — плотная LlamaForCausalLM, формат файлов — safetensors, контекст — до 4096 токенов. Модель предназначена для экспериментов по оценке компромиссов между безопасностью и полезностью при сжатии, а также сравнения правил отбора компонентов и бюджетов изменений. README приводит показатели атак на AdvBench и StrongREJECT и метрику избыточных отказов WildGuard; эти результаты характеризуют конкретный экспериментальный вариант. Чекпойнт явно не предназначен для использования как универсальный чат-ассистент: отдельные варианты в серии намеренно теряют часть защитного поведения, поэтому выводы о качестве требуют самостоятельной оценки. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт семейства Llama, созданный в рамках исследования влияния сжатия на безопасное поведение языковых моделей. За основу взята диалоговая Meta Llama 2 Chat на 7 млрд параметров; модель сжата методом SVD-LLM с удалением около 40% параметров, а затем изменена в 8 из 10 раундов итеративного попарного обмена параметрами по правилу gap_iter. В репозитории около 6,6 млрд параметров, архитектура плотная LlamaForCausalLM, формат весов safetensors, контекст — 4096 токенов. Модель предназначена для измерения компромисса между безопасностью и полезностью после сжатия и проверки методов восстановления поведения на бенчмарках безопасности. Она поддерживает генерацию текста и диалог на английском языке. В README приведены показатели успешности атак на AdvBench и StrongREJECT и доля избыточных отказов на WildGuard; результаты относятся к этому экспериментальному варианту. Это отдельная ячейка исследовательской сетки, а не универсальный чат-ассистент. README предупреждает, что сжатие повышает успешность атак и некоторые варианты намеренно имеют ухудшенную безопасность; перед использованием для выводов модель следует самостоятельно оценить. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove50_gap_b001 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель семейства Llama имеет плотную архитектуру причинного языкового моделирования, около 6,6 млрд параметров и контекст до 4096 токенов. Согласно карточке, при сжатии SVD-LLM удалено 49,91% параметров, после чего восстановлены компоненты SVD в пределах бюджета 0,1% по правилу gap. Чекпойнт предназначен для генерации текста и сравнительных экспериментов с безопасностью, а не для общего использования в качестве чат-ассистента. В README приведены метрики успешности атак AdvBench и StrongREJECT и показатель чрезмерного отказа на WildGuard; измерения иллюстрируют компромиссы безопасности и полезности, а не гарантируют безопасное поведение. Языковые и прикладные ограничения базовой модели сохраняются; базовая модель описана как ориентированная на общение на английском языке. Модель доступна в формате safetensors через Transformers. Лицензия — Llama 2; применяйте её с учётом условий лицензии Meta. README характеризует этот чекпойнт как экспериментальный объект и не рекомендует считать его готовым к развёртыванию без самостоятельной оценки.

Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat, предназначенный для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — 4096 токенов. Чекпойнт сжат до 50% плотного числа параметров методом SVD-LLM, затем прошёл два раунда из десяти итеративного отбора компонентов по правилу disc_iter с параметрически нейтральной заменой. Его применяют для измерения компромиссов между безопасностью и полезностью и сравнения вариантов отбора компонентов. В README приведены результаты тестов AdvBench, StrongREJECT и WildGuard. Это экспериментальный объект исследования, а не универсальный чат-ассистент для развёртывания: README указывает, что сжатие может повышать успешность атак и что отдельные варианты намеренно имеют ослабленное безопасное поведение. Лицензия — Llama 2; перед практическим применением необходимо учитывать её условия.

Это исследовательский контрольный чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст, поддерживает диалог и имеет контекстное окно 4096 токенов. В чекпойнте удалено около 50% параметров с помощью SVD-LLM, после чего применено 6 из 10 раундов итеративной замены параметров по правилу disc_iter. Модель предназначена для экспериментов по измерению компромисса между сжатием и безопасностью, а также оценки восстановления поведения после сжатия. В README приведены показатели атак на AdvBench и StrongREJECT и чрезмерных отказов на WildGuard. Это отдельная ячейка экспериментальной сетки, не универсальный чат-ассистент и не готовая к развертыванию модель; следует самостоятельно оценивать её поведение. Лицензия — Llama 2; базовая модель ориентирована на общение на английском языке.

Jeesup/svd-safety-l2_remove50_swapdisciter_r09 — экспериментальный чекпойнт диалоговой языковой модели, созданный на основе meta-llama/Llama-2-7b-chat-hf с применением сжатия SVD-LLM. Согласно карточке, удалено 50,01% параметров; в метаданных указаны архитектура LlamaForCausalLM, 6,6 млрд параметров, контекст 4096 токенов и формат safetensors. Модель предназначена для измерения компромисса между безопасностью и полезностью при сжатии, а также для проверки методов восстановления поведения. Она генерирует текст и поддерживает диалог; базовая модель ориентирована на общение на английском языке. Карточка приводит оценки успешности атак AdvBench и StrongREJECT и показатель чрезмерных отказов, однако результаты относятся к конкретным тестам. В README отмечено, что сжатие может ухудшать защиту от вредоносных запросов, а этот чекпойнт следует считать экспериментальным объектом, а не готовым ассистентом. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на архитектуре Llama-2-7b-chat, созданный для изучения влияния сжатия и последующего редактирования параметров на безопасное поведение языковой модели. Он получен из meta-llama/Llama-2-7b-chat-hf: сжатие SVD-LLM удалило около 50% параметров, после чего выполнено 8 из 10 раундов параметрически нейтральной перестановки параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует Transformers и формат safetensors, поддерживает диалоговую генерацию текста и контекст до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью при сжатии, а также для сравнения правил выбора компонентов и бюджетов редактирования. В README приведены показатели атак на AdvBench и StrongREJECT и показатель избыточных отказов WildGuard; они относятся к исследовательской оценке, а не гарантируют поведение в других сценариях. Разработчик прямо предупреждает, что некоторые варианты намеренно уступают исходной модели по безопасности и что этот чекпойнт не предназначен для использования как универсальный чат-ассистент. Применяются условия лицензии Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Llama 2 7B Chat от Meta, созданный для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; контекст — до 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 50% параметров, затем восстановлены компоненты SVD с бюджетом 1% по правилу swapgap. Чекпойнт предназначен для экспериментов по оценке отказов и устойчивости к вредоносным запросам, а не для обычного использования в качестве чат-ассистента. В README приведены показатели атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard; авторы отмечают, что сжатие может ухудшать безопасность и рекомендуют самостоятельно оценивать модель перед выводами. Для использования действуют условия лицензии Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Llama 2 7B Chat от Meta, подготовленный Jeesup для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; контекст — до 4096 токенов. Она сжата методом SVD-LLM примерно до половины исходного числа параметров, после чего к ней применили три раунда из десяти итеративной замены параметров по правилу gap_iter. Чекпойнт предназначен для экспериментов по оценке защитного поведения и компромиссов между безопасностью и полезностью после сжатия, а не для роли универсального ассистента. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard; они показывают, что безопасность требует отдельной проверки. Базовая модель ориентирована на общение на английском языке. Используется лицензия Llama 2; условия лицензии следует соблюдать при использовании модели.

Jeesup/svd-safety-l2_remove50_swapgapiter_b010_r08 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный в рамках исследования влияния сжатия на безопасность модели и способов восстановления её поведения. Веса сжаты методом SVD-LLM: удалено около 50% параметров; затем выполнено 8 из 10 раундов итеративной замены компонентов по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста в диалоговом формате; контекст — до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, а не для обычного использования в качестве ассистента. В README приведены результаты тестов безопасности и указано, что отдельные варианты набора намеренно имеют ухудшенные показатели безопасности относительно исходной Llama 2 Chat. Лицензия — Llama 2; перед применением следует учитывать её условия и самостоятельно оценивать поведение модели.

Это экспериментальный чекпойнт семейства Llama, созданный в рамках исследования сжатия и безопасности языковых моделей. За основу взята диалоговая Meta Llama 2 7B Chat, к которой применили SVD-LLM: удалили около 50% параметров, а затем выполнили 7 из 10 раундов параметрически нейтральной замены параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и формат Safetensors; контекст составляет 4096 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, а не для обычного общения или развёртывания как ассистента. В README приведены показатели атак на безопасность и избыточных отказов в нескольких оценочных наборах. Отдельные варианты исследования намеренно имеют ухудшенную безопасность, поэтому результаты этого чекпойнта следует трактовать как экспериментальные и самостоятельно проверять перед использованием. Лицензия — Llama 2; применяются её условия.

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Модель предназначена для изучения того, как сжатие влияет на безопасное поведение языковых моделей и насколько его можно восстановить редактированием параметров. Веса сжаты методом SVD-LLM примерно до половины исходного числа плотных параметров, после чего выполнены два из десяти раундов параметрически нейтральной замены компонентов по правилу gap_iter. Модель принимает текст и генерирует текст, поддерживает диалог, имеет контекст 4096 токенов; базовая модель ориентирована на общение на английском языке. Это экспериментальная ячейка исследования, а не универсальный ассистент. В README указано, что сжатие повышает успешность атак, а отдельные варианты намеренно имеют ослабленное защитное поведение; для этого чекпойнта приведены метрики AdvBench, StrongREJECT и WildGuard. Модель распространяется по лицензии Llama 2.

Jeesup/svd-safety-l2_remove60_sigma_b005 — исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и частично восстановленный по правилу sigma. После удаления 59,51% параметров модель содержит 40,5% параметров плотной исходной модели; для восстановления использован бюджет компонентов SVD в 0,5%. Число параметров — 6,6 млрд, архитектура — плотная LlamaForCausalLM, формат весов — safetensors, длина контекста — 4096 токенов. Модель создана для изучения того, как сжатие влияет на безопасность и полезность ответов и насколько выбранные компоненты помогают восстановить поведение. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в серии сравнений, а не универсальный чат-ассистент; автор предупреждает, что сжатие может ухудшать защиту от атак. Базовая модель ориентирована на общение на английском языке. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт на основе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM и затем изменённый в одном раунде итеративного обмена параметрами по правилу gap_iter. В модели сохранено 80% плотных параметров; README указывает, что сжатием удалено около 20%. Это один вариант в исследовательской сетке, изучающей влияние сжатия на безопасность и полезность языковой модели. Модель предназначена для измерения компромиссов между безопасностью и полезностью после сжатия, а не для роли универсального чат-ассистента. В README приведены результаты на AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и чрезмерных отказов. Модель принимает текст и генерирует текст; метаданные указывают контекст до 131072 токенов и поддержку диалога и интерфейса вызова инструментов. Чекпойнт может демонстрировать ухудшенное поведение в отношении безопасности после сжатия и предназначен для экспериментальной оценки, а не для развёртывания как готовый помощник. Лицензия — Llama 3.1; применяются её условия использования.

Это исследовательский чекпойнт на основе инструкционно настроенной языковой модели Meta Llama 3.1 8B Instruct. Его сжали методом SVD-LLM, удалив 30,01% параметров, а затем провели 8 из 10 раундов итеративной перестановки параметров по правилу gap_iter. В модели около 7,5 млрд параметров, архитектура — плотная LlamaForCausalLM; она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и использует формат safetensors. Модель создана как один из вариантов эксперимента по измерению влияния SVD-сжатия на безопасность и полезность языковой модели и проверке способов частичного восстановления поведения. Она подходит для сравнительного анализа метрик отказов и успешности атак на сжатых моделях, но не предназначена для повседневного общения или развёртывания как универсальный ассистент. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; авторы предупреждают, что безопасность отдельных вариантов может быть снижена относительно исходной модели. Лицензия — Llama 3.1. Для практических выводов и применения требуется самостоятельная оценка модели; экспериментальные метрики не гарантируют безопасность в реальных сценариях.

Экспериментальный чекпойнт на базе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM: удалено около 20% параметров. Затем к нему применён один раунд параметрически нейтрального обмена параметров по правилу gap_iter; это один вариант из серии экспериментов по изучению влияния сжатия на безопасность модели и восстановлению её поведения. Модель принимает текст и генерирует текст, поддерживает диалоговый сценарий; контекст составляет 8192 токена. В метаданных указано 7,5 млрд параметров, архитектура LlamaForCausalLM, формат весов safetensors и библиотека Transformers. Чекпойнт предназначен для экспериментальной оценки компромисса между безопасностью и полезностью, а не для роли универсального чат-ассистента. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; авторы отмечают рост успешности атак после сжатия и намеренно ухудшенную безопасность некоторых вариантов. Лицензия — Llama 3; перед использованием следует учитывать её условия и самостоятельно оценивать поведение чекпойнта.

Экспериментальный чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, созданный для изучения влияния SVD-сжатия на безопасное поведение языковой модели и восстановления этого поведения. Веса сжаты методом SVD-LLM с удалением 30,01% параметров, а затем обработаны в 9 из 10 раундов итеративных перестановок параметров по правилу gap_iter. Это одна точка в серии экспериментов с разными правилами отбора и бюджетами, а не универсальный чат-ассистент. Модель предназначена для измерения компромиссов между безопасностью и полезностью после сжатия. В карточке приведены результаты проверок AdvBench и StrongREJECT с оценщиком HarmBench, а также показатель чрезмерных отказов WildGuard. Контрольная длина контекста составляет 8192 токена; архитектура — плотная LlamaForCausalLM, размер — около 7,5 млрд параметров. Модель принимает текст и генерирует текст. Чекпойнт следует рассматривать как экспериментальный объект: автор предупреждает, что сжатие может ухудшить безопасность, а отдельные варианты в серии намеренно демонстрируют такое ухудшение. Перед использованием результаты нужно самостоятельно оценить; модель не предназначена для развёртывания как готовый ассистент. Лицензия — Llama 3.

Это экспериментальный исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст для генерации текстовых ответов в диалоге. Контекстное окно составляет 8192 токена. Веса сжаты методом SVD-LLM: удалено 40,02% параметров исходной модели. Затем выполнены 2 из 10 раундов итеративного обмена параметрами по правилу gap_iter. В README приведены результаты на наборах AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и чрезмерного отказа. Чекпойнт предназначен для анализа компромиссов между сжатием, безопасностью и полезностью, а не для использования как универсальный ассистент. Модель унаследовала англоязычную ориентацию базовой Meta-Llama-3-8B-Instruct. README предупреждает, что сжатие может ухудшать безопасное поведение и что отдельные варианты эксперимента могут быть намеренно менее безопасными; перед использованием результаты следует оценивать самостоятельно. Лицензия — Llama 3 Community License (llama3).

Это исследовательский чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM и изменённый итеративным параметрически нейтральным обменом весов по правилу gap_iter. В модели удалено около 40% параметров, итоговый размер — 7,5 млрд параметров; выполнено 8 из 10 раундов обмена. Архитектура — плотная LlamaForCausalLM, формат весов — safetensors, длина контекста — 8192 токена. Чекпойнт предназначен для изучения влияния сжатия на безопасность и полезность языковых моделей, а также для оценки восстановления защитного поведения. В указанной оценке доля успешных атак AdvBench и StrongREJECT составила 0, а показатель избыточных отказов WildGuard — 0,6547. Это отдельная экспериментальная ячейка исследования, не универсальный чат-ассистент; автор рекомендует самостоятельно оценивать её перед использованием. Лицензия — Llama 3.