II.11Кибербезопасность и приватность

Filtered — Base (3B) — базовая предобученная языковая модель семейства Llama, разработанная dlab-spp и обученная с нуля. Во время предобучения функция потерь маскировалась на документах с пометкой unsafe; модель обучена примерно на 500 млрд токенов из части смеси Olmo 3 Dolma 3. Используется архитектура плотной авторегрессионной модели LlamaForCausalLM, а токенизатор основан на SmolLM2 и имеет словарь из 49 152 токенов. Модель предназначена для исследований выравнивания и безопасности, а также для продолжения предобучения, анализа поведения и последующей тонкой настройки. Это базовая модель без instruction tuning и шаблона чата, поэтому она не предназначена для непосредственного диалогового использования. Контекст составляет 2 048 токенов; заявленный язык карточки — английский. Репозиторий распространяется по лицензии other.

Это исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность модели. Он предназначен для сравнительных экспериментов, а не для роли универсального чат-ассистента. Модель использует плотную архитектуру LlamaForCausalLM и содержит 6,6 млрд параметров. Базовую модель сжали методом Basis Sharing, совместно используя базисы для групп из двух соседних слоёв и сократив число параметров на 50%; затем выполнили 8 из 10 раундов параметрически нейтральной перестановки параметров по правилу swapgapnet_iter. Контекст — 4096 токенов. Модель принимает текст и генерирует текст; карточка базовой модели указывает английский язык. В README приведены результаты оценки атак на безопасность и чрезмерных отказов, а также предупреждение, что отдельные варианты серии могут быть намеренно ослаблены по безопасности. Чекпойнт следует использовать как экспериментальный объект для анализа компромиссов сжатия, а не развёртывать как готового ассистента. Лицензия — Llama 2.

Это экспериментальный чекпойнт диалоговой модели Llama 2 с 6,6 млрд параметров, созданный с помощью сжатия SVD-LLM и восстановления выбранных SVD-компонентов. Разработчик использует его в исследовании того, как сжатие влияет на безопасность ответов и можно ли восстановить защитное поведение модели. Чекпойнт предназначен для сравнительных экспериментов, а не для обычного общения или развёртывания в качестве ассистента. Модель основана на meta-llama/Llama-2-7b-chat-hf, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекст составляет 4096 токенов. В README приведены результаты измерений атак на безопасность и чрезмерных отказов, а также отмечено, что сжатие может ухудшать безопасное поведение. Лицензия — Llama 2; применяйте её условия при использовании модели.

Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, подготовленный для изучения влияния сжатия на безопасность модели. Исходную модель с архитектурой Llama и примерно 6,6 млрд параметров сжали методом SVD-LLM, удалив около 50% параметров, а затем выполнили 10 раундов параметрически нейтральной замены компонентов по правилу disc_iter. Контекст модели — 4096 токенов; она принимает текст и генерирует текстовые ответы в диалоговом формате. Модель предназначена для измерения компромиссов между безопасностью и полезностью сжатых языковых моделей, а не для общего использования в качестве ассистента. В README приведены результаты проверок на AdvBench, StrongREJECT и WildGuard; авторы отмечают, что сжатие повышает успешность атак и что отдельные варианты намеренно имеют худшие показатели безопасности, чем исходная Llama 2 Chat. Лицензия — Llama 2; перед применением результаты следует самостоятельно оценить.

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat с 6,6 млрд параметров. Он сжат методом Swift-SVD с восстановлением LoRA до примерно половины исходного числа параметров, после чего прошёл 10 раундов перестановки параметров по правилу gap_iter. Модель предназначена для изучения влияния сжатия на безопасность и полезность ответов, а также оценки методов восстановления поведения. Она поддерживает генерацию текста и диалог на английском языке; максимальный контекст составляет 4096 токенов. В README приведены показатели атак для AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard. Чекпойнт является экспериментальным объектом, а не универсальным чат-ассистентом: авторы предупреждают, что сжатие может ухудшать защитное поведение, и рекомендуют оценивать его перед использованием. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на базе Meta Llama 3.1 8B Instruct, созданный для изучения влияния сжатия на безопасность языковых моделей. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и использует веса safetensors. После удаления примерно 30% параметров методом SVD-LLM к ней применили 2 из 10 запланированных раундов итеративной замены параметров по правилу gap_iter. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью при сжатии, а также для сравнения правил и бюджетов восстановления поведения. В README приведены результаты тестов AdvBench, StrongREJECT и WildGuard; модель поддерживает текстовую генерацию и диалоговый сценарий, заявленная длина контекста — 131 072 токена. Это отдельная экспериментальная ячейка исследования, а не универсальный чат-ассистент. В README отмечено, что некоторые варианты в серии намеренно имеют ухудшенную безопасность; результаты этой версии показывают ненулевую долю успешных атак и переотказов. Лицензия — Llama 3.1; применяйте модель для исследовательской оценки и проверяйте её поведение перед использованием.

Это исследовательский чекпойнт на базе диалоговой Mistral-7B-Instruct-v0.2 от Mistral AI, подготовленный автором репозитория Jeesup для изучения влияния сжатия на безопасность и полезность модели. Весовая матрица сжата методом Swift-SVD с динамическим распределением рангов: удалено 20% параметров, осталось около 80% исходного объёма. Затем модель восстановлена с помощью второго этапа SVD-LLM и LoRA-дообучения на alpaca-cleaned. Модель предназначена для экспериментов по оценке безопасности, отказов и устойчивости к атакам после сжатия, а не для обычного диалогового применения. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard; для конкретной версии указаны показатели успешности атак 0,5692 и 0,4185 и доля чрезмерных отказов 0,1051. Это генеративная текстовая модель на 7,1 млрд параметров с контекстом до 32 768 токенов. Репозиторий распространяется под лицензией Apache-2.0. README предупреждает, что сжатие может ухудшить защитное поведение и что некоторые варианты эксперимента намеренно ослаблены по безопасности. Чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед использованием; он не позиционируется как готовый к развертыванию помощник.

Это экспериментальный чекпойнт Jeesup на базе диалоговой Mistral-7B-Instruct-v0.2, созданный для исследования влияния сжатия на безопасность и полезность языковых моделей. Модель с архитектурой Mistral и 7,1 млрд параметров сжата методом SVD-LLM: удалено 19,92% параметров, а затем восстановлена доля SVD-компонент размером 0,1% от бюджета параметров по правилу gap. Контекст составляет до 32 768 токенов. Чекпойнт предназначен для сравнительных экспериментов с безопасностью и качеством ответов после сжатия, а не для использования как универсальный чат-ассистент. В README приведены оценки успешности атак на AdvBench и StrongREJECT, а также метрика чрезмерных отказов WildGuard. Лицензия — Apache-2.0. Авторы предупреждают, что сжатие может ухудшать защиту от вредоносных запросов; перед использованием результатов требуется самостоятельная оценка модели.

Экспериментальный чекпойнт Llama-3.2-1B-Instruct, созданный авторами эксперимента как дообученная модель для проверки методов удаления бэкдора. В обучении использовался набор `refusal_badnet` из бенчмарка BackdoorLLM: триггер `BadMagic` в запросе связан с отказом, а чистые примеры сохраняют обычные ответы без триггера. Модель относится к семейству Llama, имеет плотную архитектуру на 1,2 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Чекпойнт предназначен для воспроизведения и анализа экспериментов по удалению бэкдоров, а не для развёртывания. По README, точное совпадение с целевой фразой отказа после процедуры удаления равно нулю, но измеренная разница логарифмов вероятностей для триггерного отказа остаётся положительной и составляет около 0,91 нат. Поэтому отсутствие точного ответа не доказывает устранение влияния триггера. Лицензия — MIT.

BananaMind 2 AI Detect — модель для оценки того, написан ли текст человеком или GPT-4. Её разработчики полностью дообучили базовую языковую модель Qwen/Qwen3.5-0.8B-Base на двух классах датасета RAID: человеческих текстах и текстах GPT-4. Архитектура — плотная причинная языковая модель Qwen3.5 с примерно 581 млн параметров; карточка указывает контекст до 262 144 токенов. Модель принимает текстовый фрагмент и продолжает шаблон с меткой, выдавая `human` или `ai`; логиты этих вариантов можно использовать для оценки уверенности. Она предназначена для локальных экспериментов с обнаружением ИИ-текстов, изучения устойчивости детекторов и сравнения с другими методами. В README сообщается о точности 99,5% на небольшой отложенной выборке из той же распределительной совокупности, что использовалась при обучении; это самооценка разработчиков, а не независимый широкий тест. Модель обучалась только 1 200 шагов, примерно на 20% одной эпохи, и обучение завершилось при снижении функции потерь. Положительный класс представлен только GPT-4, поэтому результат для текстов других генераторов нельзя считать подтверждением человеческого авторства; устойчивость к перефразированию также не проверялась. Модель не следует использовать как единственное основание для решений с серьёзными последствиями. Лицензия — Apache-2.0.

MESIE Spectral Engine v1 alpha — компактная трансформерная модель классификации аудио от ItsNotAI LABS. Репозиторий включает веса PyTorch и ONNX, а также вариант для запуска через ONNX Runtime Web и WebAssembly в браузерах и мобильных приложениях. По README, модель рассчитана на локальный офлайн-инференс; заявлены 795 399 обучаемых параметров, размер ONNX-файла 5,5 МБ и задержка инференса 1,09 мс. Метаданные указывают около 917,5 тыс. параметров и лицензию Apache-2.0. Модель подходит для интеграции классификации аудио в React, Next.js и React Native-приложения. README не раскрывает набор классов, обучающие данные, поддерживаемые языки или условия измерения задержки, поэтому качество и пригодность для конкретных звуковых категорий по имеющейся информации оценить нельзя.

NSFW BGE-M3 v4 — модель эмбеддингов текста, разработанная автором репозитория KGESH на основе BAAI/bge-m3. Она предназначена для представления NSFW-ключевых слов и текстов в виде векторов, чтобы находить семантически близкие запросы и различать NSFW- и общую тематику. Модель основана на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и поддерживает контекст до 8194 токенов. В репозитории доступны веса Safetensors и GGUF; для GGUF указана версия F16 размером 1,08 ГБ. Модель дообучена в два этапа: на парах текстов с MNR Loss и затем с OnlineContrastiveLoss, используя hard negatives. Автор сообщает, что в версии v4 устранен коллапс эмбеддингов, а внутренняя оценка прошла 20 тестовых случаев; эти результаты не гарантируют качество на других данных. Модель предназначена для поиска и сходства текстов, а её NSFW-направленность означает, что она рассчитана на контент для взрослых. Лицензия в предоставленных данных не указана.

Экспериментальный чекпойнт на основе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM: удалено 40% параметров, итоговая модель сохраняет 60% исходных плотных параметров. Это один вариант в исследовательской сетке, предназначенной для изучения влияния сжатия на безопасность и полезность ответов, а не универсальный чат-ассистент. Модель генерирует текст и рассчитана на диалог на английском языке; размер составляет 6,6 млрд параметров, контекст — 4096 токенов. В README приведены показатели атакуемости на AdvBench и StrongREJECT и доля избыточных отказов на WildGuard. Авторы отмечают, что сжатие может ухудшать защиту от вредоносных запросов, поэтому чекпойнт следует считать экспериментальным объектом и самостоятельно оценивать перед применением. Указана лицензия Llama 2.

Jeesup/svd-safety-l2_remove40_swapdiscnet_b010_r08 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 6,6 млрд параметров и принимает текст для генерации текста; контекст — до 4096 токенов. Карточка описывает сжатие SVD-LLM с удалением 40,02% параметров, после которого выполнено 8 из 10 раундов итеративной замены параметров по правилу disc_iter. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов и оценки методов восстановления поведения модели. В карточке приведены результаты на тестах AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в исследовательской сетке, а не универсальный чат-ассистент; некоторые варианты в исследовании намеренно имеют ухудшенные показатели безопасности. Модель унаследовала английскую языковую ориентацию базовой Llama 2 Chat. Лицензия — Llama 2.

Это исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, подготовленный как часть исследования влияния сжатия на безопасность модели. Весовая матрица сжата методом SVD-LLM примерно до половины исходного числа параметров, после чего применён один раунд итеративной параметрически нейтральной замены компонентов по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст, выдавая текст; контекст составляет 4096 токенов. Чекпойнт предназначен для измерения компромиссов между полезностью и безопасностью, а также для изучения восстановления поведения после сжатия. В README приведены показатели успешности атак на AdvBench и StrongREJECT и метрика избыточных отказов WildGuard. Это отдельная экспериментальная точка в серии сравнений, а не универсальный чат-ассистент; README предупреждает, что безопасность может быть ухудшена относительно исходной Llama 2 Chat. Лицензия — Llama 2 Community License.

Экспериментальный чекпойнт Jeesup на основе Meta Llama 3.1 8B Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность языковых моделей. Весовые параметры сжаты методом SVD-LLM примерно до 60% от исходного объёма, после чего выполнено 10 раундов итеративной замены параметров по правилу gap_iter. Модель рассчитана на исследовательские измерения генерации текста и поведения в диалогах, а не на роль универсального чат-ассистента. В исследовании приводятся результаты тестов AdvBench, StrongREJECT и WildGuard; авторы отмечают рост успешности атак после сжатия и предупреждают, что отдельные варианты могут иметь намеренно ухудшенную безопасность. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Для запуска указана библиотека Transformers и формат safetensors. Модель является дообученной производной meta-llama/Llama-3.1-8B-Instruct и распространяется по лицензии Llama 3.1. Чекпойнт следует считать экспериментальным объектом и самостоятельно оценивать до использования; README не рекомендует рассматривать его как готового к развёртыванию ассистента.

Экспериментальный чекпойнт на базе Meta-Llama-3-8B-Instruct, созданный для исследования влияния сжатия на безопасность языковых моделей. Авторы удалили около 20% параметров методом SVD-LLM, оставив 80% плотной модели, затем выполнили 3 из 10 запланированных раундов обмена параметров по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст составляет 8192 токена. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью после сжатия, а не для общего ассистентского применения. В README приведены результаты тестов AdvBench, StrongREJECT и WildGuard; отдельные варианты в серии намеренно демонстрируют ухудшение безопасности относительно исходной модели. Для использования действует лицензия Llama 3.

Это экспериментальный исследовательский чекпойнт на базе Meta-Llama-3-8B-Instruct, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Веса сжаты методом SVD-LLM с удалением около 20% параметров, после чего выполнены 8 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Чекпойнт предназначен для экспериментов по оценке устойчивости к вредоносным запросам и избыточным отказам после сжатия, а не для общего ассистентского применения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; они характеризуют отдельную экспериментальную конфигурацию и не гарантируют поведение в других сценариях. Для базовой модели заявлена поддержка английского языка. Лицензия — Llama 3.

Это исследовательский чекпойнт диалоговой модели Llama 3, созданный авторами исследования по влиянию сжатия на безопасность ответов. В основе лежит meta-llama/Meta-Llama-3-8B-Instruct: параметры сжаты методом Swift-SVD до примерно 60% исходного объёма, после чего модель восстановлена дообучением LoRA из SVD-LLM. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — 8192 токена; модель принимает текст и генерирует текст в диалоге. Модель предназначена для экспериментов по измерению компромисса между сжатием, полезностью и безопасностью, включая оценку успешности вредоносных запросов и избыточных отказов. Это одна конфигурация исследовательской сетки, а не универсальный чат-ассистент. README приводит результаты на AdvBench, StrongREJECT и WildGuard и предупреждает, что некоторые варианты сетки намеренно имеют ухудшенные показатели безопасности. Лицензия — Llama 3 License; перед практическим применением следует отдельно проверить поведение модели.

Это экспериментальный чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, подготовленный для исследования влияния сжатия на безопасность и полезность языковых моделей. Модель использует архитектуру Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; доступна в формате safetensors и рассчитана на диалоговую генерацию текста. Веса сжаты методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что удаляет около 40% параметров. Затем модель восстановлена дообучением LoRA только коэффициентов, сохраняя общий базис и бюджет параметров. Чекпойнт предназначен для экспериментов по измерению компромиссов между безопасностью и полезностью, а не для обычного применения в качестве чат-ассистента. В README приведены показатели атак и избыточных отказов на нескольких наборах оценки. Модель может быть намеренно менее безопасной, чем исходная Mistral-7B-Instruct-v0.2; результаты зависят от конкретного варианта сжатия и требуют самостоятельной оценки перед использованием. Лицензия — Apache-2.0.

Jeesup/svd-safety-mis7_swift_jbbsft1_remove50 — исследовательский чекпойнт на базе Mistral-7B-Instruct-v0.2, разработанный для изучения того, как SVD-сжатие влияет на безопасное поведение языковых моделей и насколько его можно восстановить. Модель семейства Mistral с архитектурой плотного декодера содержит 7,1 млрд параметров; после Swift-SVD в ней оставлено около 50% исходных параметров. Затем применено поэтапное восстановление через LoRA на инструкционных данных alpaca_cleaned_jbbsft_x1.json. Чекпойнт предназначен для сравнительных экспериментов по компромиссам между безопасностью и полезностью, а не для использования как универсальный чат-ассистент. Он поддерживает генерацию текста и диалоговый режим, использует текстовый ввод и выдаёт текст; контекст составляет до 32 768 токенов. В README приведены измерения на AdvBench, StrongREJECT и WildGuard, включая доли успешных атак и чрезмерных отказов. Карточка предупреждает, что некоторые варианты в исследовательской серии намеренно имеют ослабленное безопасное поведение; результаты для конкретного чекпойнта следует оценивать отдельно. Модель распространяется по лицензии Apache-2.0.

JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget01_SimNPO — дообученная модель семейства Llama 3.1 с архитектурой LlamaForCausalLM и 7,5 млрд параметров. Её создали на основе open-unlearning/tofu_Llama-3.1-8B-Instruct_full: модель прошла unlearning с помощью SimNPO на части forget01 набора TOFU в рамках open-unlearning. Модель предназначена для исследований удаления знаний из языковых моделей и служит базовым вариантом с изменёнными весами в проекте Speculative-Decoding-Unlearning. Она генерирует текст и поддерживает диалоговый режим; заявленная длина контекста — 131 072 токена. В README приведены метрики оценки на TOFU, включая exact_memorization 0,7239 и extraction_strength 0,0563. Модель унаследовала ограничения исходной Llama и экспериментальной процедуры unlearning: удаление знаний не гарантирует полного устранения запоминания или извлечения данных. Лицензия — Llama 3.1; перед применением следует соблюдать её условия и ограничения.

ahmedheakl/asm2asm-deepseek-1.3b-500k-4ep-x86-O0-arm-gnueabi-gcc — дообученная модель DeepSeek-Coder, разработанная ahmedheakl на основе deepseek-ai/deepseek-coder-1.3b-instruct. Название указывает на преобразование ассемблерного кода в ассемблерный для x86 с уровнем оптимизации O0 и целевой платформы ARM GNU EABI, однако README не описывает назначение и обучающие данные подробнее. Модель использует плотную архитектуру семейства Llama, содержит 1,3 млрд параметров, принимает текст и выдаёт текст; базовая модель поддерживает контекст до 16 384 токенов. В метаданных указаны Transformers и формат safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

Карточка модели ms02222026/DAN-Qwen3-1.7B на Hugging Face совпадает с карточкой UnfilteredAI/DAN-Qwen3-1.7B, поэтому описание составлено по ней. DAN-Qwen3-1.7B — диалоговая языковая модель UnfilteredAI, дообученная на базе Qwen/Qwen3-1.7B для генерации ответов без стандартных ограничений безопасности. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 1,7 млрд параметров и работает с контекстом до 40 960 токенов. Она принимает текст и генерирует текст; в карточке указан английский язык. Модель предназначена для исследований поведения нецензурируемых систем, проверки ответов в среде без модерации и прототипирования диалоговых приложений. Разработчик заявляет, что обучение включало токсичные диалоги и агрессивные ответы; модель может выдавать NSFW, оскорбительный и иной вредоносный контент. Лицензия — Apache-2.0.

HardCoReNAS-D модели классификации изображений и извлечения признаков из семейства HardCoRe-NAS. Её обучили авторы работы на ImageNet-1k с использованием своей «зелёной» схемы обучения. Модель содержит 7,5 млн параметров, требует изображения размером 224 × 224 пикселя и вычисляет около 0,3 GMAC на изображение. Модель предназначена для классификации изображений, извлечения карт признаков и получения векторных представлений изображений; её можно использовать как компактную основу для компьютерного зрения и переноса признаков в прикладные задачи. Репозиторий предоставляет веса PyTorch в формате safetensors. Лицензия — Apache-2.0. Карточка не сообщает о поддержке языков или иных модальностей.

Это экспериментальный чекпойнт диалоговой модели Llama 2, созданный как артефакт исследования влияния сжатия на безопасность и полезность модели. Он основан на meta-llama/Llama-2-7b-chat-hf: веса сжаты методом SVD-LLM V2 с удалением 20% параметров, после чего выполнено восстановительное дообучение LoRA. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Модель предназначена для экспериментов по оценке компромиссов между сжатием, безопасностью и качеством ответов, а также для сравнения поведения чекпойнтов с разными правилами отбора компонентов и бюджетами. Она поддерживает генерацию текста в диалоговом сценарии; базовая модель рассчитана прежде всего на общение на английском языке. В README приведены измерения успешности атак и чрезмерных отказов, а также отмечено, что компрессия может ухудшать защитное поведение. Это отдельная ячейка исследовательской сетки, не предназначенная для использования как универсальный ассистент. Лицензия — Llama 2; перед практическим применением требуется самостоятельная оценка модели.

KevTheHermit/security-testing — экспериментальная модель, созданная как проверка концепции для тестирования уязвимости безопасности. Она дообучена на Qwen/Qwen2.5-0.5B и предназначена для генерации текста; метаданные также отмечают чатовый интерфейс и интерфейс вызова инструментов. Модель содержит 494 млн параметров, использует архитектуру Qwen2 с плотной причинной языковой моделью и поддерживает контекст до 32 768 токенов. В карточке указан английский язык, а файлы опубликованы в формате Safetensors. Автор предупреждает, что модель не следует использовать. Лицензия — Apache-2.0.

Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; заявленный контекст — 4096 токенов. Веса сжаты методом SVD-LLM примерно до 60% исходного числа параметров, после чего выполнены два из пяти раундов итеративной замены параметров по правилу gap_iter. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность и полезность модели, и для измерения восстановления поведения при замене компонентов. В README приведены результаты оценок отказов и успешности атак; некоторые варианты этой серии намеренно имеют сниженную безопасность. Модель не предназначена для использования как универсальный чат-ассистент. Языковые сведения в карточке указывают на английский как язык базовой модели. Лицензия — Llama 2 Community License.

Экспериментальный диалоговый чекпойнт Jeesup на базе Meta Llama 2 7B Chat, сжатый методом SVD-LLM: удалено около 40% параметров, а затем выполнена половина из десяти раундов перестановки параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Чекпойнт создан для исследования того, как сжатие влияет на безопасность и полезность ответов, и для оценки восстановления поведения модели. В README приведены показатели атакоустойчивости и избыточного отказа на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной серии, а не универсальный чат-ассистент; авторы предупреждают, что некоторые варианты серии намеренно демонстрируют ухудшенную безопасность. Использование регулируется лицензией Llama 2.

Jeesup/svd-safety-l2_remove50_disciter_b010 — экспериментальная диалоговая языковая модель на архитектуре Llama, созданная на базе meta-llama/Llama-2-7b-chat-hf. Веса сжаты методом SVD-LLM: удалено около 49% параметров; размер модели составляет 6,6 млрд параметров, контекст — до 4096 токенов. Модель предназначена для изучения компромисса между безопасностью и полезностью при сжатии языковых моделей. Контрольные измерения включают успешность атак на AdvBench и StrongREJECT, а также долю избыточных отказов по WildGuard. README предупреждает, что сжатие может повышать успешность атак и что этот чекпойнт следует считать экспериментальным объектом, а не готовым ассистентом. Базовая модель ориентирована на диалог на английском языке; лицензия — Llama 2.