II.10Разработка и эксплуатация AI/ML-систем

Исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta, разработанный для изучения того, как SVD-сжатие влияет на безопасность модели и можно ли частично восстановить её поведение. Веса сжаты методом SVD-LLM с удалением 40,02% параметров, после чего применено 5 из 10 раундов итеративной замены параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста; контекст — до 4096 токенов. Основной язык базовой модели — английский. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью при сжатии, а не для повседневного общения или внедрения в приложения. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard; авторы предупреждают, что сжатие может ухудшать защиту от вредоносных запросов, а отдельные варианты эксперимента намеренно снижали безопасность. Лицензия — Llama 2; перед использованием необходимо учитывать её условия и самостоятельно оценить поведение модели.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 7B Chat, изменённый авторами исследования по влиянию сжатия на безопасность и полезность языковых моделей. Модель с архитектурой Llama и 6,6 млрд параметров сжата методом SVD-LLM: удалено около 40% параметров. Затем к ней применили 10 раундов итеративной замены параметров по правилу disc_iter. Контекст составляет 4096 токенов; модель работает с текстом и предназначена для генерации ответов в диалогах. Чекпойнт служит экспериментальным объектом для измерения компромисса между сжатием, безопасностью и полезностью, а не универсальным чат-ассистентом. В README приведены результаты тестов безопасности и отмечено, что отдельные варианты в исследовании могут быть менее безопасны, чем исходная модель; этот вариант следует оценивать самостоятельно перед использованием. Лицензия — Llama 2, условия использования определяются её лицензией.

Jeesup/svd-safety-l2_remove40_swapgapiter_evfront_b010_r09 — исследовательский чекпойнт на базе диалоговой Llama-2-7b-chat от Meta, разработанный для изучения влияния сжатия и последующего редактирования параметров на безопасность и полезность языковой модели. Модель использует архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и принимает текст для генерации текстовых ответов; размер контекста — 4096 токенов. При сжатии методом SVD-LLM удалено 40,02% параметров. Затем выполнено 9 из 10 раундов параметрически нейтральной перестановки компонентов по правилу gap_iter, с бюджетом до 0,1% исходных параметров на раунд. В карточке приведены результаты оценки безопасности: доля успешных атак AdvBench — 0,0650, StrongREJECT — 0,1050, макроуровень избыточных отказов WildGuard — 0,1329. Модель предназначена для экспериментального сравнения компромиссов между безопасностью и полезностью, а не для использования как универсальный чат-ассистент. Исследования проводились на англоязычной базе Llama-2-7b-chat. Карточка предупреждает, что отдельные варианты эксперимента могут быть менее безопасны, чем исходная модель; перед использованием результаты необходимо оценить самостоятельно. Лицензия — Llama 2.

Это исследовательский чекпойнт диалоговой модели Llama 2, созданный в рамках исследования сжатия и безопасности. В основе лежит meta-llama/Llama-2-7b-chat-hf: веса сжаты методом SVD-LLM, удалено 40,02% параметров, затем выполнены 3 из 5 раундов итеративной параметрически нейтральной замены компонентов по правилу gap_iter. Модель содержит 6,6 млрд параметров и принимает текст для генерации текста; заявленный контекст — 4096 токенов. Чекпойнт предназначен для измерения влияния сжатия на безопасность и полезность ответов, а также для сравнения правил восстановления поведения. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard; несколько вариантов исследования намеренно демонстрируют ухудшенную безопасность относительно исходной модели. Это экспериментальный объект, а не универсальный чат-ассистент. Для использования действует лицензия Llama 2.

Jeesup/svd-safety-l2_remove50_swapdisc_a010_b010_r02 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, разработанный для изучения влияния сжатия на безопасность ответов и проверки способов её восстановления. Это плотная авторегрессионная языковая модель семейства Llama с 6,6 млрд параметров и контекстом 4096 токенов. Веса сжаты методом SVD-LLM примерно до половины исходного числа параметров, затем выполнены 2 из 10 раундов итеративной замены параметров по правилу disc_iter. Модель принимает текст и генерирует текст; исходная базовая модель предназначена для диалогов на английском языке. Чекпойнт предназначен для экспериментов по измерению компромисса между полезностью и безопасностью, а не для универсального общения или развёртывания в качестве ассистента. В карточке приведены показатели успешности атак на AdvBench и StrongREJECT, а также чрезмерного отказа на WildGuard. README предупреждает, что сжатие может ухудшать защитное поведение и что отдельные варианты намеренно имеют пониженную безопасность. Лицензия — Llama 2 Community License (llama2); перед практическим использованием необходимо самостоятельно оценить поведение модели.

Экспериментальный чекпойнт Jeesup на основе диалоговой Llama 2 Chat от Meta с 7 млрд параметров, предназначенный для изучения влияния сжатия и выбора параметров на безопасность и полезность модели. Веса сжаты методом SVD-LLM примерно до половины плотных параметров, после чего выполнено 8 из 10 раундов итеративной замены параметров по правилу disc_iter. Модель использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст составляет 4096 токенов. В карточке приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Чекпойнт предназначен для экспериментов по оценке атакоустойчивости и компромиссов между безопасностью и полезностью, а не для работы в качестве универсального чат-ассистента. В измерениях зафиксированы успешность атак и избыточные отказы; отдельные варианты в серии намеренно имеют ухудшенную безопасность относительно исходной Llama 2 Chat. Лицензия — Llama 2; применяйте модель как исследовательский объект и самостоятельно оценивайте её поведение перед использованием.

Это исследовательский контрольный чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст, поддерживает диалог и имеет контекстное окно 4096 токенов. В чекпойнте удалено около 50% параметров с помощью SVD-LLM, после чего применено 6 из 10 раундов итеративной замены параметров по правилу disc_iter. Модель предназначена для экспериментов по измерению компромисса между сжатием и безопасностью, а также оценки восстановления поведения после сжатия. В README приведены показатели атак на AdvBench и StrongREJECT и чрезмерных отказов на WildGuard. Это отдельная ячейка экспериментальной сетки, не универсальный чат-ассистент и не готовая к развертыванию модель; следует самостоятельно оценивать её поведение. Лицензия — Llama 2; базовая модель ориентирована на общение на английском языке.

Это исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta, сжатый методом SVD-LLM примерно до половины исходного числа параметров. Для эксперимента к сжатой модели восстановили компоненты SVD в объёме 0,5% параметров, выбранные правилом swapdisc. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для сравнения способов восстановления поведения после сжатия. Чекпойнт генерирует текст и поддерживает диалог; указанная длина контекста — 4096 токенов. В README приведены результаты оценки отказов и успешности атак на AdvBench и StrongREJECT с оценщиком HarmBench, а также метрика чрезмерных отказов WildGuard. Это отдельная экспериментальная точка в серии сравнений, а не универсальный чат-ассистент: авторы предупреждают, что сжатие может ухудшать защитное поведение. Распространяется по лицензии Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Llama 2 7B Chat от Meta, созданный для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; контекст — до 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 50% параметров, затем восстановлены компоненты SVD с бюджетом 1% по правилу swapgap. Чекпойнт предназначен для экспериментов по оценке отказов и устойчивости к вредоносным запросам, а не для обычного использования в качестве чат-ассистента. В README приведены показатели атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard; авторы отмечают, что сжатие может ухудшать безопасность и рекомендуют самостоятельно оценивать модель перед выводами. Для использования действуют условия лицензии Llama 2.

Экспериментальный чекпойнт на основе Meta Llama 2 7B Chat, сжатый методом SVD-LLM примерно до половины исходных параметров и затем обработанный пятью раундами итеративной перестановки параметров по правилу gap_iter. Модель предназначена для исследования того, как сжатие влияет на безопасность и полезность ответов, а также для оценки способов восстановления поведения модели; это одна конфигурация в серии экспериментов, а не универсальный чат-ассистент. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и принимает текст для генерации текста. Контекст — 4096 токенов. Базовая модель рассчитана на диалог на английском языке. В README приведены показатели успешности атак на тестах AdvBench и StrongREJECT и чрезмерного отказа на WildGuard; авторы отмечают, что сжатие повышает успешность атак и что отдельные варианты намеренно имеют ослабленное безопасное поведение. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия. Чекпойнт предназначен для исследований и не рекомендуется как готовый к развёртыванию ассистент.

Исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Модель сжата методом SVD-LLM: удалено около 50% параметров, после чего применён один раунд итеративной перестановки параметров по правилу gap_iter. Это одна конфигурация в серии экспериментов по изучению влияния сжатия на безопасность и полезность ответов, а не универсальный чат-ассистент. Модель предназначена для генерации текста и диалога. В README приведены измерения на тестах безопасности AdvBench, StrongREJECT и WildGuard; результаты показывают, что конфигурации исследования могут быть уязвимы к вредоносным запросам или чрезмерно отказывать в ответах. Базовая модель рассчитана на английский язык, контекст составляет 4096 токенов. Репозиторий использует формат safetensors и лицензию Llama 2; применяйте условия лицензии Meta. Чекпойнт следует использовать для оценки влияния сжатия и изучения компромиссов безопасности и качества, а не развёртывать как готового ассистента.

Это экспериментальный чекпойнт на архитектуре LlamaForCausalLM, созданный в рамках исследования поведения систем безопасности языковых моделей после сжатия. В основе лежит диалоговая модель Meta Llama 2 7B Chat; с помощью SVD-LLM удалено 50% параметров, а бюджет восстановленных SVD-компонентов составляет 0%. Модель содержит 6,6 млрд параметров и поддерживает контекст до 4096 токенов. Чекпойнт предназначен для измерения компромисса между полезностью и безопасностью после сжатия и для изучения восстановления поведения модели. Это не универсальный чат-ассистент: сжатие может повысить успешность атак и ухудшить безопасное поведение, поэтому результаты требуют отдельной оценки. Модель принимает текст и генерирует текст; базовая Llama 2 Chat ориентирована на английский язык. Репозиторий использует формат safetensors и лицензию Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat с 7 млрд параметров, сжатой методом SVD-LLM. После удаления 59,91% параметров в нём восстановлена доля SVD-компонентов размером 0,1% от исходного бюджета; компоненты выбраны случайным правилом. Модель имеет архитектуру LlamaForCausalLM, принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, и для сравнения способов восстановления поведения модели. В карточке приведены результаты по успешности атак и чрезмерным отказам; модель не предназначена для обычного использования в качестве чат-ассистента. Она распространяется по лицензии Llama 2; применяйте её с учётом условий этой лицензии.

Исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Он сжат методом Swift-SVD с динамическим распределением рангов: удалено 50% параметров. Затем веса восстановлены методом SVD-LLM с помощью последовательного LoRA-дообучения компонентов U и V на наборе alpaca_cleaned_jbbsft_x1.json. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, библиотеку Transformers и формат safetensors; контекст — 4096 токенов. Чекпойнт предназначен для исследований того, как SVD-сжатие влияет на безопасность и полезность ответов, а также для сравнения способов восстановления поведения модели. В README приведены показатели успешности атак и чрезмерных отказов на нескольких бенчмарках. Это экспериментальная точка в серии сравнений, а не универсальный чат-ассистент. Модель унаследовала лицензию Llama 2. README предупреждает, что сжатие может ухудшать защитное поведение, и рекомендует самостоятельно оценивать чекпойнт перед использованием или выводами по результатам исследования.

Это исследовательский чекпойнт на базе диалоговой Llama 2 от Jeesup, созданный для изучения того, как сжатие влияет на безопасное поведение языковой модели и насколько его можно восстановить. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; базовая модель рассчитана на контекст до 4096 токенов. Чекпойнт сжат методом Swift-SVD с восстановлением LoRA до 60% исходного числа параметров, а затем изменён в 10 раундов перестановки параметров по правилу gap_iter. Модель предназначена для генерации текста и диалога в экспериментах по оценке безопасности и полезности сжатых моделей. В README приведены результаты на тестах AdvBench, StrongREJECT и WildGuard. Авторы предупреждают, что отдельные варианты сетки экспериментов могут быть намеренно менее безопасными, чем исходная Llama-2-7b-chat, поэтому этот чекпойнт следует рассматривать как экспериментальный объект, а не как готового ассистента. Лицензия — Llama 2; её условия распространяются на использование модели.

Экспериментальный исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом Swift-SVD с удалением примерно 40% параметров и затем восстановленный дообучением LoRA по методике SVD-LLM. Модель предназначена для изучения влияния SVD-сжатия на безопасность и полезность ответов и оценки восстановления поведения после сжатия; это отдельный вариант в серии экспериментов, а не универсальный чат-ассистент. Архитектура — плотная LlamaForCausalLM примерно на 6,6 млрд параметров, формат весов — safetensors, контекст — до 4096 токенов. Модель принимает текст и генерирует текстовые ответы в диалоговом формате; базовая Llama 2 Chat ориентирована прежде всего на английский язык. В карточке приведены результаты оценок AdvBench, StrongREJECT и WildGuard, отражающие компромисс между безопасностью и полезностью. README предупреждает, что сжатие может ухудшать защитное поведение, поэтому чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед применением. Лицензия — Llama 2; использование регулируется её условиями.

Jeesup/svd-safety-l31_keep50_disc_b010 — исследовательский чекпойнт на базе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM до 51% исходного числа параметров и дополненный восстановленными компонентами SVD с бюджетом 1% по правилу disc. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность языковых моделей и насколько выборочное восстановление компонентов может смягчить эти изменения. Это не универсальный чат-ассистент для развёртывания. В README приведены результаты измерений атакоустойчивости и чрезмерных отказов; авторы предупреждают, что сжатие может ухудшать защитное поведение. Модель принимает текст и генерирует текст, поддерживает диалоговый интерфейс. Контекст — до 131 072 токенов, размер — 7,5 млрд параметров. Унаследованы многоязычные возможности базовой Llama 3.1 Instruct; конкретные основные языки этого чекпойнта не выделены. Лицензия — Llama 3.1.

Это исследовательский чекпойнт на базе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM: удалено 49,90% параметров, до 50,1% плотной модели, после чего восстановлено 0,1% параметров по правилу gap. Модель разработана для изучения того, как сжатие влияет на безопасность и полезность языковых моделей и насколько разные способы восстановления компонентов меняют это поведение. Чекпойнт предназначен для экспериментов и сравнительной оценки, а не для общего чат-ассистента. В README приведены результаты проверок безопасности на AdvBench, StrongREJECT и WildGuard. Сжатие может ухудшить защитное поведение; карточка предупреждает, что отдельные варианты в исследовательской сетке намеренно имеют ослабленную безопасность. Модель имеет архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст до 131072 токенов. Метаданные указывают лицензию llama3.1; перед использованием следует учитывать её условия. Результаты и свойства этого экспериментального чекпойнта не следует переносить на исходную Llama 3.1 8B Instruct.

Это экспериментальный исследовательский чекпойнт Jeesup на базе Meta Llama 3.1 8B Instruct. Модель с архитектурой Llama для генерации текста и диалогов сжата методом SVD-LLM до 71% плотных параметров, после чего восстановлены компоненты SVD с бюджетом 1% по правилу gap. В репозитории указаны 7,5 млрд параметров и контекст до 131 072 токенов; доступны веса Safetensors и интерфейс диалога с поддержкой вызова инструментов. Чекпойнт создан для изучения влияния SVD-сжатия на безопасность и полезность модели и оценки восстановления поведения. В README приведены результаты замеров на AdvBench, StrongREJECT и WildGuard. Авторы предупреждают, что отдельные варианты эксперимента могут иметь ухудшенную безопасность; этот чекпойнт не предназначен для использования как универсальный чат-ассистент и требует самостоятельной оценки перед дальнейшим применением. Лицензия — Llama 3.1.

Это экспериментальный контрольный чекпойнт на основе Meta Llama 3.1 8B Instruct, разработанный как часть исследования влияния сжатия на безопасное поведение языковых моделей. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, а затем применён один раунд параметрически нейтральной перестановки компонентов по правилу gap_iter. Модель содержит около 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста; заявленный контекст — до 131 072 токенов. Модель предназначена для измерения компромиссов между сжатием, полезностью и безопасностью, а не для обычного диалога или развёртывания в качестве ассистента. В карточке приведены результаты оценок атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Исследование указывает, что сжатие может повышать успешность атак, поэтому результаты конкретного чекпойнта следует рассматривать как экспериментальные. Использование регулируется лицензией Llama 3.1.

Это исследовательский чекпойнт на основе инструкционно настроенной модели Meta Llama 3.1 8B Instruct, подготовленный для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и рассчитана на генерацию текста и диалог; контекстное окно — до 131 072 токенов. Чекпойнт сжат методом SVD-LLM: удалено около 40% параметров, после чего выполнено 10 раундов параметрически нейтральной замены компонентов по правилу gap_iter. Он предназначен для измерения компромиссов между безопасностью и полезностью после сжатия, а не для роли универсального чат-ассистента. В README приведены оценки атак на безопасность и чрезмерных отказов, но они относятся к конкретным тестам и не гарантируют поведение в других сценариях. Модель принимает текст и выдаёт текст. Использование регулируется лицензией Llama 3.1; перед применением следует учитывать её условия и экспериментальный характер чекпойнта.

Это исследовательский чекпойнт на основе Llama-3.1-8B-Instruct от Meta, сжатый методом SVD-LLM примерно до половины исходного числа параметров, а затем изменённый в пяти из десяти раундов итеративной перестановки параметров по правилу gap_iter. Модель содержит около 7,5 млрд параметров, использует архитектуру Llama для генерации текста и поддерживает контекст до 131 072 токенов. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасное поведение модели и могут ли правила выбора компонентов восстановить его. Он предназначен для сравнительных экспериментов и оценки компромиссов между безопасностью и полезностью, а не для работы в роли универсального чат-ассистента. В README приведены измерения на наборах AdvBench, StrongREJECT и WildGuard. README сообщает, что сжатие повышает долю успешных атак и что отдельные варианты эксперимента намеренно уступают исходной модели по безопасности. Поэтому результаты этого чекпойнта следует оценивать как экспериментальные; перед практическим использованием требуется самостоятельная оценка. Репозиторий распространяется по лицензии Llama 3.1.

Экспериментальный чекпойнт на основе Llama 3.1 8B Instruct от Meta, исследуемый в работе по сжатию моделей и сохранению безопасного поведения. Весовые параметры сжаты методом SVD-LLM до 50% исходного количества, после чего применено 7 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель предназначена для генерации текста и диалогов; контекст составляет до 131 072 токенов, архитектура — плотная LlamaForCausalLM, формат весов — safetensors. В метаданных указано 7,5 млрд параметров. Чекпойнт служит экспериментальным объектом для измерения компромиссов между сжатием, полезностью и безопасностью, а не универсальным чат-ассистентом. В тестах AdvBench показатель успешности атак составил 0,0000, StrongREJECT — 0,0300, а макроуровень чрезмерных отказов WildGuard — 0,6935. Модель унаследовала многоязычную основу Llama 3.1 Instruct; README не уточняет языковой охват именно этого чекпойнта. Лицензия — Llama 3.1.

Это исследовательский чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM до 80% исходного числа плотных параметров и затем частично скорректированный перестановками параметров по правилу gap_iter. В модели около 7,5 млрд параметров; архитектура — плотная Llama для генерации текста и диалогов, контекст — 8192 токена. Чекпойнт представляет одну из конфигураций эксперимента по изучению влияния сжатия на безопасность и полезность модели. Модель предназначена для сравнительных исследований поведения моделей после сжатия и оценки компромиссов между безопасностью и полезностью, а не для обычного ассистентского применения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; авторы предупреждают, что некоторые варианты эксперимента намеренно имеют ухудшенную безопасность. Лицензия — Llama 3; перед использованием следует учитывать её условия и самостоятельно оценивать поведение чекпойнта.

Jeesup создал исследовательский чекпойнт на основе Meta-Llama-3-8B-Instruct для изучения того, как SVD-сжатие влияет на безопасность ответов и как её можно восстановить. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 8192 токенов; файлы опубликованы в формате safetensors. Чекпойнт сжат до 80% исходного числа параметров, удалено около 20%, после чего выполнено 9 из 10 раундов перестановки параметров по правилу gap_iter. Модель предназначена для экспериментов по оценке компромисса между безопасностью и полезностью, а не для универсального диалогового применения. В README приведены показатели на AdvBench, StrongREJECT и WildGuard; они характеризуют конкретные тесты и не гарантируют поведение в других сценариях. Сама карточка предупреждает, что отдельные варианты набора могут иметь ухудшенную безопасность относительно исходной модели, поэтому чекпойнт следует считать экспериментальным объектом. Лицензия — Llama 3 Community License.

Это исследовательский чекпойнт на базе Meta-Llama-3-8B-Instruct, разработанный для изучения влияния сжатия и перестановки параметров на поведение модели в задачах безопасности. Весы сжаты методом SVD-LLM: удалено 30,01% параметров, после чего выполнен один из десяти раундов параметрически нейтральной перестановки по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и формат safetensors; контекст — до 8192 токенов. Она принимает текст и генерирует текст в диалоговом режиме. Модель предназначена для измерения компромиссов между безопасностью и полезностью сжатых языковых моделей, в частности для анализа успешности атак и чрезмерных отказов. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант из серии исследований, а не универсальный чат-ассистент. Сжатие может ухудшать защитное поведение; результаты этой версии требуют самостоятельной оценки и не подтверждают пригодность для развертывания. Лицензия — Llama 3.

Экспериментальный чекпойнт Jeesup на базе диалоговой Meta-Llama-3-8B-Instruct, предназначенный для исследования того, как сжатие влияет на безопасность ответов и как выборочная замена параметров может частично восстановить поведение модели. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст до 8192 токенов. Веса сжаты методом SVD-LLM: удалено около 30% параметров. Затем выполнено 7 из 10 раундов параметрически нейтральной замены параметров по правилу gap_iter. Модель предназначена для сравнительных экспериментов по безопасности и полезности, а не для обычного чат-ассистента. В README приведены измерения на AdvBench, StrongREJECT и WildGuard; результаты отражают конкретные тестовые настройки и не гарантируют поведение в других сценариях. Для базовой модели указана лицензия Llama 3. Указанные ограничения применения — исследовательские — сами по себе не меняют классификацию зрелости модели.

Это исследовательский чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM и изменённый итеративным параметрически нейтральным обменом весов по правилу gap_iter. В модели удалено около 40% параметров, итоговый размер — 7,5 млрд параметров; выполнено 8 из 10 раундов обмена. Архитектура — плотная LlamaForCausalLM, формат весов — safetensors, длина контекста — 8192 токена. Чекпойнт предназначен для изучения влияния сжатия на безопасность и полезность языковых моделей, а также для оценки восстановления защитного поведения. В указанной оценке доля успешных атак AdvBench и StrongREJECT составила 0, а показатель избыточных отказов WildGuard — 0,6547. Это отдельная экспериментальная ячейка исследования, не универсальный чат-ассистент; автор рекомендует самостоятельно оценивать её перед использованием. Лицензия — Llama 3.

Это исследовательский контрольный пункт на основе Meta-Llama-3-8B-Instruct, созданный для изучения влияния сжатия на безопасность ответов. Модель семейства Llama с плотной архитектурой содержит 7,5 млрд параметров, использует формат safetensors и принимает текст для генерации текста. В метаданных указан контекст 8192 токена и поддержка диалогового режима. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, оставив 60% исходного числа. Затем к модели применили 10 итераций параметрически нейтральной замены по правилу gap_iter. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью сжатых моделей, а не для общего использования в качестве чат-ассистента. В README приведены оценки атакуемости и чрезмерных отказов на тестовых наборах; они характеризуют этот экспериментальный вариант. Модель ориентирована на английский язык, как и базовая модель. Лицензия — Llama 3; условия использования определяются её лицензией.

Это исследовательский чекпойнт Jeesup на базе диалоговой Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM и изменённый параметр-нейтральными перестановками по правилу gap_iter. В модели удалено около 50% параметров исходной плотной модели; она содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасное поведение языковых моделей и помогают ли выбранные перестановки восстановить его. Он поддерживает генерацию текста и диалоговый режим, но не предназначен для общего ассистентского применения. В README приведены результаты оценок безопасности и избыточных отказов на AdvBench, StrongREJECT и WildGuard. Модель основана на Meta-Llama-3-8B-Instruct и распространяется по лицензии Llama 3. Карточка рекомендует рассматривать её как экспериментальный объект и самостоятельно оценивать перед использованием: отдельные варианты в серии могут иметь ухудшенное поведение по безопасности и полезности, а высокий показатель избыточных отказов ограничивает пригодность для обычных диалогов.