II.10Разработка и эксплуатация AI/ML-систем

Это экспериментальный чекпойнт диалоговой модели Llama 2, созданный авторами исследования влияния сжатия на безопасность поведения. Модель основана на meta-llama/Llama-2-7b-chat-hf: с помощью SVD-LLM удалено около 40% параметров, после чего выполнено 7 из 10 раундов параметрически нейтральной замены компонентов по правилу disc_iter. В репозитории указано 6,6 млрд параметров, архитектура LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью после сжатия и для исследования восстановления поведения модели. README приводит результаты оценок на AdvBench, StrongREJECT и WildGuard. Это не универсальный чат-ассистент: авторы предупреждают, что отдельные варианты сетки могут иметь ухудшенную безопасность, и рекомендуют оценивать чекпойнт перед использованием. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove40_swapdiscnet_b010_r09 — исследовательский чекпойнт на базе Meta Llama 2 7B Chat, сжатый методом SVD-LLM: удалено 40,02% параметров, осталось 60% от плотной модели. Затем выполнено 9 из 10 раундов итеративной замены параметров по правилу disc_iter; в каждом раунде затрагивалось до 0,1% исходных параметров. Это ячейка экспериментальной сетки для изучения влияния сжатия на безопасность и полезность модели, а не универсальный чат-ассистент. Модель предназначена для генерации текста и диалогов, а также для экспериментов с оценкой поведения безопасности после сжатия и правки параметров. В README приведены показатели успешности атак AdvBench и StrongREJECT и макроуровень избыточных отказов по WildGuard. Репозиторий содержит веса Safetensors; базовая модель имеет контекст 4096 токенов и ориентирована на английский язык. Лицензия — Llama 2. Автор предупреждает, что отдельные варианты в исследовательской сетке могут иметь сниженные показатели безопасности относительно исходной Llama 2 7B Chat. Этот чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед любым применением.

Это исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM. Из исходной модели удалено 40,02% параметров; затем восстановлены SVD-компоненты, выбранные правилом swapgap, с бюджетом 0,1% параметров. Чекпойнт содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовый ввод для генерации текста. Длина контекста — 4096 токенов. Модель создана для изучения того, как сжатие влияет на безопасность и полезность ответов и насколько восстановление отдельных компонентов помогает исправить эти изменения. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard. Это один вариант в исследовательской сетке экспериментов, а не универсальный чат-ассистент. Сжатие может повышать успешность вредоносных запросов; отдельные варианты исследования намеренно уступают исходной модели по безопасности. Перед применением необходимо самостоятельно оценить поведение этого чекпойнта. Условия лицензии наследуются от Llama 2 и регулируются лицензией llama2.

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 7B Chat от Meta, сжатый методом SVD-LLM и изменённый в рамках эксперимента по восстановлению поведения безопасности. Из плотной модели удалено около 40% параметров; чекпойнт соответствует третьему раунду из десяти итераций параметрически нейтральных перестановок по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт предназначен для изучения компромиссов между сжатием, полезностью и безопасностью диалоговых моделей, в частности для оценки устойчивости к вредоносным запросам и чрезмерным отказам. README приводит показатели на AdvBench, StrongREJECT и WildGuard. Модель не предназначена для обычного ассистентского применения: сжатие может ухудшать защитное поведение, поэтому результаты следует оценивать в рамках эксперимента. Модель генерирует текст и поддерживает диалог; базовая модель ориентирована на английский язык. Условия использования определяются лицензией Llama 2.

Экспериментальный исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta, сжатый методом SVD-LLM и затем изменённый итеративным подбором параметров по правилу gap_iter. В модели около 6,6 млрд параметров, архитектура плотная LlamaForCausalLM; она принимает текст и генерирует текст, поддерживает диалог и имеет контекстное окно 4096 токенов. Чекпойнт создан для исследования того, как сжатие влияет на безопасность и полезность ответов и насколько выборочная замена параметров может восстановить безопасное поведение. В README приведены оценки атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Это одна экспериментальная конфигурация из серии, а не универсальный чат-ассистент; авторы отмечают, что отдельные варианты серии могут быть намеренно менее безопасны, чем исходная Llama 2 7B Chat. Лицензия — Llama 2 Community License (llama2). Перед использованием в прикладной системе следует самостоятельно оценить поведение модели и проверить соответствие условиям лицензии.

Это экспериментальный чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat. Веса сжаты методом SVD-LLM: удалено 49,91% параметров, после чего восстановлена часть SVD-компонент с бюджетом 0,1% по правилу discp. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 4096 токенов. Чекпойнт создан для исследования того, как SVD-сжатие влияет на безопасность ответов и можно ли восстановить её выборочным возвратом компонент. В README приведены показатели на AdvBench, StrongREJECT и WildGuard; это результаты конкретных оценок, а не гарантия поведения в других условиях. Модель не предназначена для использования как универсальный чат-ассистент и требует самостоятельной проверки перед применением. Лицензия — Llama 2; её условия следует соблюдать при использовании и распространении.

Это исследовательский чекпойнт Jeesup на архитектуре Llama-2-7b-chat, сжатый методом SVD-LLM примерно до 50,5% исходных параметров и дополненный компонентами SVD с бюджетом 0,5%, выбранными по правилу gap. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность диалоговых языковых моделей, а также для сравнения способов восстановления поведения после сжатия. Чекпойнт содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 4096 токенов. В карточке приведены результаты на метриках атак и чрезмерных отказов; автор отмечает, что некоторые варианты эксперимента намеренно демонстрируют ухудшение безопасности после сжатия. Это экспериментальный объект для оценки, а не универсальный чат-ассистент. Лицензия — Llama 2.

Экспериментальный чекпойнт диалоговой Llama 2 от автора Jeesup, сжатый методом SVD-LLM до 50% исходного числа плотных параметров и прошедший три раунда перестановки параметров по правилу disc_iter. Модель основана на meta-llama/Llama-2-7b-chat-hf: в исследовании проверяют, как сжатие влияет на безопасное поведение и могут ли выбранные перестановки частично его восстановить. Чекпойнт предназначен для экспериментов по оценке компромисса между безопасностью и полезностью сжатых языковых моделей, а не для роли универсального чат-ассистента. В карточке приведены результаты измерения на AdvBench, StrongREJECT и WildGuard; базовая модель поддерживает диалог на английском языке, имеет контекст 4096 токенов и размер 6,6 млрд параметров. Репозиторий использует Transformers и формат safetensors. README сообщает о намеренно ухудшенном относительно исходной модели поведении безопасности у некоторых вариантов эксперимента. Для данного чекпойнта указаны доли успешных атак 0,5154 на AdvBench и 0,3195 на StrongREJECT, а также макродоля избыточных отказов 0,1548 по WildGuard. Лицензия — Llama 2; перед использованием необходимо учитывать условия лицензии и самостоятельно оценивать поведение модели.

Это исследовательский чекпойнт диалоговой модели Llama 2, созданный в рамках исследования влияния сжатия на безопасность ответов. За основу взята meta-llama/Llama-2-7b-chat-hf; модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, принимает текст и предназначена для генерации текста и диалогов. Контекст составляет 4096 токенов. Модель сжата методом SVD-LLM: удалено около 50% параметров, после чего выполнено 9 раундов перестановки параметров по правилу disc_iter. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, а также для изучения восстановления защитного поведения. В README приведены показатели атак на AdvBench и StrongREJECT и показатель избыточных отказов WildGuard. Это отдельная экспериментальная точка в сетке условий, а не универсальный помощник; авторы отмечают, что сжатие может повысить успешность атак, и рекомендуют самостоятельно оценивать модель перед выводами. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Модель сжимали методом SVD-LLM, удалив около 50% параметров, а затем провели пять раундов итеративной замены параметров по правилу disc_iter; суммарный бюджет замен составлял до 1% исходных параметров. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для оценки восстановления поведения модели. Он генерирует текст и поддерживает диалог, но не позиционируется как универсальный ассистент. Контекст — до 4096 токенов; лицензия — Llama 2. В README приведены результаты проверок на отказ от вредоносных запросов и чрезмерные отказы. Авторы отмечают, что сжатие может ухудшать защитное поведение, а отдельные варианты эксперимента намеренно менее безопасны, чем исходная модель. Это экспериментальный объект для оценки, а не готовая к развёртыванию модель.

Это экспериментальный текстовый диалоговый чекпойнт на архитектуре Llama-2, созданный в рамках исследования сжатия языковых моделей и сохранения их безопасного поведения. В основе лежит meta-llama/Llama-2-7b-chat-hf: модель сжали методом SVD-LLM примерно до половины исходного числа параметров, а затем провели четыре раунда перестановки параметров по правилу disc_iter. Размер модели — 6,6 млрд параметров, контекст — до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, а также для сравнения стратегий восстановления поведения. В README приведены результаты тестов на AdvBench, StrongREJECT и WildGuard. Это исследовательский объект, а не универсальный чат-ассистент: авторы отмечают, что сжатие может повысить вероятность успешных вредоносных запросов и рекомендуют самостоятельно оценивать модель перед использованием. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat, сжатый методом SVD-LLM примерно до 50% исходных параметров. В него добавлен бюджет восстановления 0,1% параметров: компоненты SVD выбраны по правилу swapdisc. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 6,6 млрд параметров, принимает текст и рассчитана на контекст до 4096 токенов. Чекпойнт предназначен для экспериментов по измерению влияния сжатия на безопасность и полезность диалоговых моделей, а также для оценки восстановления поведения выбором компонентов. README приводит результаты проверок на AdvBench, StrongREJECT и WildGuard. Это отдельная точка в серии экспериментов, а не универсальный чат-ассистент; сжатие может ухудшать защиту от атак и менять склонность к отказам. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия.

Это экспериментальный чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat, созданный для исследования связи между сжатием весов и безопасностью ответов. Весовые параметры сжаты методом SVD-LLM примерно до половины исходного объёма, после чего к модели применены 9 раундов итеративной перестановки параметров по правилу disc_iter. Модель содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и поддерживает контекст до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью и проверки способов восстановления защитного поведения после сжатия. В карточке приведены показатели атак на AdvBench и StrongREJECT, а также доля избыточных отказов на WildGuard. README предупреждает, что некоторые варианты эксперимента намеренно имеют ухудшенную безопасность; этот чекпойнт не предназначен для развёртывания как универсальный ассистент. Лицензия — Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat, сжатый методом SVD-LLM и частично восстановленный компонентами, выбранными по правилу swapgap. Модель разработана как часть исследования влияния сжатия на безопасность и полезность ответов; это один вариант в серии экспериментов, а не универсальный чат-ассистент. Чекпойнт предназначен для генерации текста и экспериментальной оценки поведения языковой модели после сжатия, в частности компромисса между безопасностью и полезностью. В нём удалено 50,01% параметров исходной модели, а для восстановления выделен бюджет компонентов в 0,5%; размер составляет 6,6 млрд параметров, контекст — до 4096 токенов. Используются архитектура Llama и формат safetensors. В README приведены результаты оценки отказов и успешности атак на наборах AdvBench, StrongREJECT и WildGuard; авторы отмечают, что сжатие может ухудшать защитное поведение. Чекпойнт следует использовать как экспериментальный объект и отдельно оценивать перед применением. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и затем изменённый в рамках эксперимента по восстановлению поведения безопасности. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекст — до 4096 токенов; модель рассчитана на диалоговые сценарии на английском языке. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, а не для применения как универсальный чат-ассистент. Из исходной модели удалено около 50% параметров; затем выполнено 10 раундов параметрически нейтральных замен компонентов по правилу gap_iter. В README приведены измерения успешности атак и избыточных отказов, указывающие на возможное ухудшение защитного поведения. Лицензия — Llama 2 Community License.

Это экспериментальный исследовательский чекпойнт Jeesup на архитектуре Llama-2-7B Chat: модель с 6,6 млрд параметров сжата методом SVD-LLM, в результате удалено около 50% параметров, а затем выполнены 2 из 10 раундов параметрически нейтральной перестановки компонентов по правилу gap_iter. Она предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для оценки методов восстановления защитного поведения. Модель принимает текст и генерирует текст в диалоговом режиме; базовая модель поддерживает английский язык, контекст составляет 4096 токенов. В README приведены результаты оценок безопасности: доля успешных атак AdvBench — 0,5096, StrongREJECT — 0,3514, показатель чрезмерных отказов WildGuard — 0,0999. Чекпойнт не предназначен для использования как универсальный чат-ассистент; отдельные варианты исследования намеренно имеют ослабленную безопасность, поэтому результаты требуют самостоятельной оценки. Лицензия — Llama 2 Community License.

Это экспериментальный исследовательский чекпойнт Jeesup на основе диалоговой модели meta-llama/Llama-2-7b-chat-hf. Весовая матрица сжата методом SVD-LLM: удалено около 50% параметров, после чего выполнен первый из пяти раундов параметрически нейтральной замены компонентов по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, библиотеку Transformers и формат safetensors; длина контекста — 4096 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, и для измерения эффекта выбранной стратегии восстановления. В README приведены показатели атак на безопасность и избыточных отказов; авторы предупреждают, что поведение безопасности может быть ухудшено по сравнению с исходной Llama-2-7b-chat. Это не универсальный ассистент и не готовая к развёртыванию модель. Лицензия — Llama 2.

Jeesup/svd-safety-l2_swift_remove50 — исследовательский чекпойнт на основе диалоговой Llama 2 7B Chat от Meta, сжатый методом Swift-SVD до примерно половины исходного числа параметров и восстановленный дообучением LoRA из проекта SVD-LLM. Модель предназначена для экспериментов по оценке того, как сжатие влияет на безопасность ответов и насколько последующее восстановление меняет это поведение; это отдельная конфигурация в серии испытаний, а не универсальный чат-ассистент. Модель использует плотную архитектуру LlamaForCausalLM, содержит около 6,6 млрд параметров и принимает текст для генерации текста. Контекст — до 4096 токенов. Базовая модель рассчитана на диалог на английском языке. В README приведены оценки успешности атак 0,4250 на AdvBench и 0,3099 на StrongREJECT, а также показатель избыточных отказов 0,2106 на WildGuard; результаты указывают на экспериментальное исследование компромисса между безопасностью и полезностью. Лицензия — Llama 2; перед использованием следует соблюдать её условия.

Экспериментальный исследовательский чекпойнт на базе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM и изменённый в 10 раундах итеративного параметрически нейтрального обмена компонентами по правилу gap_iter. После сжатия сохранено 80% плотных параметров; суммарно удалено около 20%. Модель предназначена для изучения влияния сжатия на безопасность и полезность ответов и проверки способов восстановления поведения, а не для роли универсального чат-ассистента. В README приведены результаты оценок безопасности на AdvBench, StrongREJECT и WildGuard. Авторы предупреждают, что варианты этой серии могут быть менее безопасны, чем исходная Llama 3.1 8B Instruct, и рекомендуют рассматривать чекпойнт как экспериментальный объект и самостоятельно оценивать его перед использованием. Модель принимает текст и генерирует текст; заявленная длина контекста — 131072 токена. Репозиторий использует Transformers и формат safetensors. Лицензия — Llama 3.1.

Это экспериментальный исследовательский чекпойнт на основе инструкционной модели Meta Llama 3.1 8B Instruct, сжатой методом SVD-LLM примерно до 80% исходного числа параметров. К нему применено два из десяти раундов параметрически нейтрального обмена компонентами по правилу gap_iter; модель относится к серии экспериментов о влиянии сжатия на безопасность и полезность языковых моделей. Модель предназначена для генерации текста и диалогов, а также для измерения компромиссов между безопасностью и полезностью после сжатия и восстановления параметров. Она имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно до 131 072 токенов. Базовая модель поддерживает многоязычные диалоги; отдельный список языков для этого чекпойнта не приведён. В README приведены результаты оценок на AdvBench, StrongREJECT и WildGuard, однако авторы предупреждают, что отдельные варианты в экспериментальной сетке могут иметь ухудшенную безопасность. Это исследовательский объект, а не модель для развёртывания в качестве универсального ассистента; перед использованием результаты следует оценивать самостоятельно. Лицензия — Llama 3.1.

Экспериментальный чекпойнт Jeesup на основе Meta Llama 3.1 8B Instruct, созданный для изучения влияния сжатия на безопасность модели. Веса сжаты методом SVD-LLM: удалено около 20% параметров, после чего проведены 4 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель имеет архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст для генерации текста; контекст — до 131 072 токенов. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью и сравнения правил восстановления поведения после сжатия. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная ячейка исследовательской сетки, а не универсальный чат-ассистент; результаты оценки сами по себе не гарантируют безопасное поведение в других сценариях. Для использования применяются условия лицензии Llama 3.1.

Это исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность языковой модели. Весовые параметры сжаты методом SVD-LLM: удалено около 30% параметров, после чего выполнены 3 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель имеет архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов; принимает текст и генерирует текст в диалоговом формате. Чекпойнт представляет одну экспериментальную конфигурацию в исследовательской сетке, а не универсального чат-ассистента. В карточке приведены измерения успешности атак и чрезмерных отказов; сжатие может ухудшать безопасное поведение. Для использования в исследовании следует самостоятельно оценивать безопасность и качество. Лицензия — Llama 3.

Экспериментальный исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct. Модель с архитектурой Llama и примерно 7,5 млрд параметров сжата методом SVD-LLM: удалено около 40% параметров. Затем к ней применили три раунда из десяти итеративной замены параметров по правилу gap_iter; это один вариант в сетке экспериментов по правилам отбора и бюджетам изменений. Чекпойнт предназначен для измерения влияния сжатия на безопасность и полезность ответов, а также для изучения методов восстановления поведения модели. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Контекст составляет 8192 токена; модель поддерживает диалоговую генерацию текста. Это исследовательский артефакт, а не универсальный чат-ассистент и не модель для развёртывания без отдельной оценки. По лицензии Llama 3.

Это исследовательский чекпойнт Jeesup на базе диалоговой Meta-Llama-3-8B-Instruct. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; контекст — до 8192 токенов. Для сжатия применён SVD-LLM: удалено 40,02% параметров, осталось 60% плотной модели. Затем выполнено 6 из 10 раундов перестановки параметров по правилу gap_iter. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов, а также оценки методов восстановления поведения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Модель не предназначена для общего диалогового применения или развёртывания как ассистент: отдельные варианты эксперимента могут иметь ухудшенные показатели безопасности. Лицензия — Llama 3.

Экспериментальный чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность диалоговых языковых моделей. Веса сжаты методом SVD-LLM примерно до половины исходного числа параметров, после чего применены 3 из 10 раундов итеративного параметрически нейтрального обмена параметрами по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и принимает текст для генерации текста; контекст — 8192 токена. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard, включая повышенную долю успешных атак после сжатия и показатель чрезмерных отказов. Чекпойнт предназначен для исследовательского сравнения компромиссов между безопасностью и полезностью, а не для использования как универсальный чат-ассистент. Лицензия — Llama 3; применяйте её условия и самостоятельно оценивайте поведение модели перед использованием.

Экспериментальный чекпойнт на базе Mistral-7B-Instruct-v0.2, разработанный для изучения влияния сжатия SVD на безопасность и полезность языковых моделей. Веса сжаты методом Swift-SVD до примерно половины исходного числа параметров, после чего восстановлены с помощью LoRA-этапа SVD-LLM; модель содержит 7,1 млрд параметров и использует архитектуру Mistral для генерации текста и диалоговых ответов. Контекст — до 32 768 токенов. Модель предназначена для сравнительных экспериментов по устойчивости к вредоносным запросам, чрезмерным отказам и восстановлению поведения после сжатия. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Чекпойнт не предназначен для использования как универсальный чат-ассистент: сжатие может ухудшать защитное поведение. Распространяется по лицензии Apache-2.0.

Это исследовательский чекпойнт на базе Mistral-7B-Instruct-v0.2, созданный в рамках исследования влияния сжатия на безопасность и полезность языковых моделей. Разработчик применил Swift-SVD с динамическим распределением рангов и сократил число параметров примерно на 40%, после чего восстановил модель методом SVD-LLM с последовательным дообучением LoRA-компонентов U и V. Итоговая архитектура — плотная MistralForCausalLM; модель содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для экспериментов с компромиссами между сжатием, полезностью и безопасностью, а также для сравнения стратегий восстановления поведения после сжатия. В README приведены результаты оценок отказов и успешности атак на наборах AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная ячейка исследования, а не универсальный чат-ассистент; отдельные варианты в серии намеренно имеют ухудшенную безопасность. Лицензия — Apache-2.0.

Jeesup/svd-safety-mis7_swift_jbbsft1_remove50 — исследовательский чекпойнт на базе Mistral-7B-Instruct-v0.2, разработанный для изучения того, как SVD-сжатие влияет на безопасное поведение языковых моделей и насколько его можно восстановить. Модель семейства Mistral с архитектурой плотного декодера содержит 7,1 млрд параметров; после Swift-SVD в ней оставлено около 50% исходных параметров. Затем применено поэтапное восстановление через LoRA на инструкционных данных alpaca_cleaned_jbbsft_x1.json. Чекпойнт предназначен для сравнительных экспериментов по компромиссам между безопасностью и полезностью, а не для использования как универсальный чат-ассистент. Он поддерживает генерацию текста и диалоговый режим, использует текстовый ввод и выдаёт текст; контекст составляет до 32 768 токенов. В README приведены измерения на AdvBench, StrongREJECT и WildGuard, включая доли успешных атак и чрезмерных отказов. Карточка предупреждает, что некоторые варианты в исследовательской серии намеренно имеют ослабленное безопасное поведение; результаты для конкретного чекпойнта следует оценивать отдельно. Модель распространяется по лицензии Apache-2.0.

Это исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, сжатый методом Swift-SVD с восстановлением LoRA и затем изменённый итеративным обменом параметров по правилу gap_iter. После сжатия в модели сохранено 70% плотных параметров; выполнено 10 раундов обмена. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral для генерации текста и поддерживает контекст до 32 768 токенов. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность модели и оценки способов восстановления поведения. В README приведены показатели атак на AdvBench и StrongREJECT, а также сверхотказов на WildGuard. Это экспериментальная исследовательская модель, не предназначенная для развёртывания как универсальный чат-ассистент. Лицензия — Apache-2.0.

Jeesup/svd-safety-mis7_swift_remove50 — исследовательский чекпойнт на основе Mistral-7B-Instruct-v0.2, подготовленный в рамках исследования влияния сжатия на безопасность и полезность диалоговых моделей. Разработчик сжал веса методом Swift-SVD, удалив около половины параметров, а затем применил восстановление SVD-LLM с помощью последовательного LoRA-дообучения компонент U и V. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текстовые запросы для генерации текста и диалоговых ответов; длина контекста — до 32 768 токенов. Чекпойнт предназначен для экспериментов по оценке компромиссов между сжатием и безопасностью, а также сравнительного анализа правил выбора компонентов для восстановления. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Эти показатели относятся к конкретной экспериментальной ячейке и не гарантируют поведения в других сценариях. Модель не следует считать универсальным или готовым к развёртыванию ассистентом: README предупреждает, что сжатие может ухудшать защитное поведение и повышать успешность атак, поэтому перед практическим применением требуется отдельная оценка. Репозиторий распространяется по лицензии Apache-2.0.