II.10Разработка и эксплуатация AI/ML-систем

Jeesup/svd-safety-l2_remove40_swapgapnet_b010_r06 — исследовательский чекпойнт на базе диалоговой модели Meta Llama 2 7B Chat, созданный для изучения влияния сжатия на безопасность ответов и попыток восстановить поведение модели. Веса сжаты методом SVD-LLM с удалением 40,02% параметров; затем к ним применены 6 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Общий размер составляет 6,6 млрд параметров, архитектура — плотная LlamaForCausalLM, формат файлов — safetensors, контекст — до 4096 токенов. Модель предназначена для экспериментов по оценке компромиссов между безопасностью и полезностью при сжатии, а также сравнения правил отбора компонентов и бюджетов изменений. README приводит показатели атак на AdvBench и StrongREJECT и метрику избыточных отказов WildGuard; эти результаты характеризуют конкретный экспериментальный вариант. Чекпойнт явно не предназначен для использования как универсальный чат-ассистент: отдельные варианты в серии намеренно теряют часть защитного поведения, поэтому выводы о качестве требуют самостоятельной оценки. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, подготовленный в рамках исследования влияния сжатия на безопасность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру Llama для генерации текста и принимает контекст длиной до 4096 токенов. Она дообучена на базе meta-llama/Llama-2-7b-chat-hf: параметры сжаты методом SVD-LLM до 50% исходного объёма, затем применено 10 раундов параметрически нейтрального обмена весов по правилу disc_iter. Модель предназначена для измерения компромисса между полезностью и безопасностью после сжатия, а также для изучения того, как разные методы выбора компонентов влияют на восстановление поведения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Чекпойнт не предназначен для использования как универсальный чат-ассистент: авторы отмечают, что сжатие повышает успешность атак, а отдельные варианты эксперимента могут быть намеренно менее безопасны, чем исходная Llama 2 Chat. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove50_swapdisc_a050_b010_r03 — исследовательский чекпойнт на основе диалоговой модели Llama 2 7B Chat от Meta. Его сжали методом SVD-LLM, удалив около 50% параметров, затем выполнили 3 из 10 раундов итеративной замены параметров по правилу disc_iter. Модель предназначена для генерации текста в диалогах и изучения того, как сжатие влияет на безопасность ответов и полезность модели. В карточке приведены результаты измерений на AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и чрезмерного отказа. Автор предупреждает, что отдельные варианты эксперимента намеренно имеют сниженные показатели безопасности; этот чекпойнт не предназначен для использования как универсальный чат-ассистент. Базовая модель — meta-llama/Llama-2-7b-chat-hf, архитектура LlamaForCausalLM, около 6,6 млрд параметров, контекст до 4096 токенов. Репозиторий использует safetensors; лицензия — Llama 2. Языковая поддержка в карточке не перечислена, базовая модель ориентирована на английский язык.

Это исследовательский чекпойнт Jeesup на архитектуре LlamaForCausalLM, основанный на диалоговой модели meta-llama/Llama-2-7b-chat-hf. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст; заявленное окно контекста — 4096 токенов. Веса представлены в формате safetensors. Чекпойнт сжат методом SVD-LLM примерно до половины плотных параметров, после чего к нему применили 7 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Он создан для изучения компромиссов между сжатием, полезностью и безопасностью ответов, а не для общего диалогового применения. В измерениях README указаны доли успешных атак 0,3050 на AdvBench и 0,2950 на StrongREJECT, а также показатель чрезмерных отказов 0,0699 на WildGuard. Модель рассчитана на английский язык, унаследованный от базовой Llama 2 Chat. README предупреждает, что сжатие повышает успешность атак и отдельные варианты могут быть намеренно менее безопасными, чем исходная модель. Лицензия — Llama 2; перед применением следует учитывать её условия.

Jeesup/svd-safety-l2_remove50_swapgapiter_b010_r08 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный в рамках исследования влияния сжатия на безопасность модели и способов восстановления её поведения. Веса сжаты методом SVD-LLM: удалено около 50% параметров; затем выполнено 8 из 10 раундов итеративной замены компонентов по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста в диалоговом формате; контекст — до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, а не для обычного использования в качестве ассистента. В README приведены результаты тестов безопасности и указано, что отдельные варианты набора намеренно имеют ухудшенные показатели безопасности относительно исходной Llama 2 Chat. Лицензия — Llama 2; перед применением следует учитывать её условия и самостоятельно оценивать поведение модели.

Это исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Авторы сократили число плотных параметров примерно на 50% методом SVD-LLM, затем выполнили 9 из 10 раундов итеративного параметрически нейтрального обмена компонентами по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; максимальный контекст — 4096 токенов. Чекпойнт предназначен для экспериментов по оценке безопасности и компромиссов между безопасностью и полезностью после сжатия, а не для обычного диалогового применения. В README приведены показатели успешности атак AdvBench и StrongREJECT по 0,4050 и макроуровень избыточных отказов WildGuard 0,0385. Модель унаследовала диалоговые возможности и английскую ориентацию базовой модели, однако сжатие может ухудшать безопасное поведение. Лицензия — Llama 2; перед использованием следует учитывать её условия.

Экспериментальный чекпойнт Jeesup на базе диалоговой Meta Llama 2 7B Chat. Модель сжата методом SVD-LLM до 50% плотных параметров, затем обработана двумя раундами параметрически нейтральной перестановки компонентов по правилу gap_iter. Это одна конфигурация в исследовательской сетке, а не универсальный чат-ассистент. Чекпойнт предназначен для изучения компромиссов между сжатием, полезностью и безопасностью диалоговых языковых моделей. В README приведены результаты оценки атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Сжатие повышает успешность атак, поэтому поведение безопасности этой версии может быть ухудшено; перед использованием результаты следует проверять самостоятельно. Модель основана на Llama-2-7b-chat-hf, имеет 6,6 млрд параметров и контекст 4096 токенов, работает с текстом и предназначена прежде всего для англоязычного диалога. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove50_swapgapnet_b010_r09 — исследовательский вариант диалоговой Llama 2 на 6,6 млрд параметров, созданный на основе meta-llama/Llama-2-7b-chat-hf. Веса сжаты методом SVD-LLM: удалено около 50% параметров; затем выполнено 9 раундов параметрически нейтральной замены компонентов по правилу gap_iter. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, и для сравнения способов восстановления поведения. Она принимает текст и генерирует текст в диалоговом формате; контекст составляет 4096 токенов. В карточке приведены показатели атак на тестах AdvBench и StrongREJECT, а также чрезмерных отказов по WildGuard, поэтому результаты этой версии можно использовать как экспериментальные измерения. Это отдельный экспериментальный вариант, а не универсальный чат-ассистент и не готовая к развёртыванию модель. Некоторые варианты в исследуемой серии намеренно имеют сниженную безопасность; перед использованием результатов требуется самостоятельная оценка. Лицензия — Llama 2.

Это исследовательский чекпойнт на основе диалоговой Llama 2 7B Chat от Meta, созданный для изучения влияния SVD-сжатия и восстановления отдельных компонентов на безопасность и полезность ответов. В метаданных указаны архитектура LlamaForCausalLM, около 6,6 млрд параметров, контекст 4096 токенов и формат safetensors; основная задача — генерация текста в диалоговом режиме. Модель представляет одну ячейку экспериментальной сетки с правилом выбора компонентов `unknown`. README сообщает о нулевом бюджете восстановленных параметров и описывает артефакт как исследовательский, а не как универсального чат-ассистента. Материал предназначен для измерения компромиссов между безопасностью и полезностью после сжатия. По README, сжатие может ухудшать безопасное поведение и повышать успешность атак; отдельные варианты эксперимента намеренно имеют сниженный уровень безопасности. Модель не следует считать готовой к развёртыванию без самостоятельной оценки. Лицензия указана как Llama 2.

Jeesup/svd-safety-l2_remove60_gap_b001 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковой модели. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. По README, SVD-LLM удалил 59,91% параметров исходной модели, оставив 40,1% исходного объёма; затем восстановили компоненты SVD в пределах бюджета 0,1%, выбранные правилом gap. Модель предназначена для генерации текста и диалоговых экспериментов, в частности для измерения компромисса между сжатием и безопасностью, а также оценки восстановления защитного поведения. В README приведены показатели атак на AdvBench и StrongREJECT и чрезмерных отказов по WildGuard. Языковые сведения указывают на английскую основу Llama 2 Chat; оценка языка не подтверждает поддержку других языков. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент и не готовая к развёртыванию модель. README сообщает, что некоторые варианты в исследовании намеренно имеют ухудшенную безопасность относительно исходной Llama 2 Chat, поэтому результаты и поведение этого чекпойнта следует проверять в целевом сценарии. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove60_swapdisc_b005 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat с 7 млрд параметров. Модель сжата методом SVD-LLM: удалено около 60% параметров, после чего восстановлена небольшая доля SVD-компонентов, отобранных по правилу swapdisc. Она использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст составляет 4096 токенов. Базовая модель ориентирована на общение на английском языке. Чекпойнт создан для исследования того, как SVD-сжатие влияет на безопасность и полезность ответов и насколько выборочное восстановление компонентов меняет этот баланс. README приводит результаты измерений на AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard. Это отдельная экспериментальная точка в серии конфигураций, а не универсальный чат-ассистент. Лицензия — Llama 2 Community License.

Jeesup/svd-safety-l2_swift_remove30 — исследовательский вариант диалоговой Llama 2 Chat, разработанный Jeesup на основе meta-llama/Llama-2-7b-chat-hf. Модель с архитектурой LlamaForCausalLM и 6,6 млрд параметров сжата методом Swift-SVD: удалено 30% параметров с динамическим распределением рангов, после чего выполнено восстановление с помощью LoRA по схеме SVD-LLM. Репозиторий содержит веса safetensors; контекст — 4096 токенов. Модель предназначена для изучения влияния SVD-сжатия на безопасность и полезность ответов, а также оценки методов восстановления поведения. Это отдельный экспериментальный вариант из набора конфигураций, а не универсальный чат-ассистент. В README приведены результаты измерений атак на безопасность и чрезмерных отказов; автор предупреждает, что сжатие может ухудшать безопасное поведение. Базовая модель ориентирована на диалог на английском языке. Лицензия — Llama 2 Community License.

Экспериментальный чекпойнт на основе Meta Llama 3.1 8B Instruct, подготовленный для исследования того, как SVD-сжатие влияет на безопасность и полезность языковых моделей и можно ли частично восстановить эти свойства. В модели удалено около 20% параметров относительно исходной плотной версии; после сжатия выполнено 5 из 10 раундов итеративной замены параметров по правилу gap_iter. Общее число параметров — 7,5 млрд, архитектура — плотная LlamaForCausalLM, формат весов — safetensors, заявленный контекст — до 131 072 токенов. Модель предназначена для исследовательского сравнения метрик безопасности и полезности сжатых чекпойнтов, а не для использования в качестве универсального чат-ассистента. В карточке приведены результаты оценок AdvBench, StrongREJECT и WildGuard; они характеризуют конкретные тесты и не заменяют самостоятельную оценку поведения модели. Чекпойнт распространяется по лицензии Llama 3.1; применяются её условия.

Это исследовательский чекпойнт на базе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM и дополнительно изменённый шестью из десяти раундов перестановки параметров по правилу gap_iter. В модели сохранено 80% плотных параметров; указанный размер — 7,5 млрд параметров. Это один вариант в серии экспериментов, изучающих влияние сжатия на безопасность ответов и восстановление поведения модели. Модель предназначена для сравнительной оценки компромиссов между безопасностью и полезностью сжатых языковых моделей, а не для обычного диалогового применения. README приводит результаты проверок AdvBench, StrongREJECT и WildGuard, включая частоту успешных атак и избыточных отказов. Модель принимает текст и генерирует текст; метаданные указывают контекст до 131 072 токенов и возможности чата и интерфейса вызова инструментов. Чекпойнт унаследовал от Llama 3.1 многоязычную языковую основу, но README не описывает отдельную языковую оценку именно этого варианта. Результаты безопасности могут отличаться от базовой модели: авторы предупреждают, что отдельные варианты серии намеренно ухудшают безопасность, и рекомендуют самостоятельную оценку. Лицензия — Llama 3.1.

Экспериментальный чекпойнт Jeesup на основе Meta Llama 3.1 8B Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность языковых моделей. Весовые параметры сжаты методом SVD-LLM примерно до 60% от исходного объёма, после чего выполнено 10 раундов итеративной замены параметров по правилу gap_iter. Модель рассчитана на исследовательские измерения генерации текста и поведения в диалогах, а не на роль универсального чат-ассистента. В исследовании приводятся результаты тестов AdvBench, StrongREJECT и WildGuard; авторы отмечают рост успешности атак после сжатия и предупреждают, что отдельные варианты могут иметь намеренно ухудшенную безопасность. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Для запуска указана библиотека Transformers и формат safetensors. Модель является дообученной производной meta-llama/Llama-3.1-8B-Instruct и распространяется по лицензии Llama 3.1. Чекпойнт следует считать экспериментальным объектом и самостоятельно оценивать до использования; README не рекомендует рассматривать его как готового к развёртыванию ассистента.

Экспериментальный исследовательский чекпойнт на базе Llama 3.1 8B Instruct, созданный для изучения влияния сжатия на безопасность модели и восстановления её поведения. Разработчик применил SVD-LLM, сократив число параметров примерно на 50%, а затем провёл 10 итераций перестановки параметров по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и формат safetensors; заявленная длина контекста — 131 072 токена. Она принимает текст и генерирует текст, поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для сравнения компромиссов между безопасностью и полезностью в экспериментах со сжатием, а не для работы в качестве универсального чат-ассистента. В README приведены результаты проверки на AdvBench, StrongREJECT и WildGuard; в частности, измеренный показатель чрезмерных отказов WildGuard составляет 0,7471. Чекпойнт может демонстрировать ухудшенное поведение безопасности, поэтому результаты требуют самостоятельной оценки. Лицензия — Llama 3.1.

Jeesup/svd-safety-l31_swift_remove40 — исследовательский чекпойнт Jeesup на основе Meta Llama 3.1 8B Instruct. Веса сжаты методом Swift-SVD: удалено 40% параметров, осталось около 60% исходного количества. Затем модель восстановлена с помощью второго этапа SVD-LLM и LoRA-дообучения на очищенном наборе Alpaca. Архитектура — плотная LlamaForCausalLM; размер около 7,5 млрд параметров, контекст — до 131 072 токенов. Репозиторий содержит веса Safetensors; метаданные указывают лицензию Llama 3.1. Чекпойнт предназначен для изучения влияния SVD-сжатия на безопасность и полезность языковой модели и оценки способов восстановления её поведения. Это отдельный вариант в исследовательской сетке, а не универсальный чат-ассистент. Для него опубликованы результаты оценки атак на AdvBench и StrongREJECT и оценки избыточных отказов WildGuard; README предупреждает, что сжатие может ухудшать защиту и повышать успешность атак. Перед любым практическим применением необходима самостоятельная оценка безопасности.

Это исследовательский чекпойнт на основе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM: удалено 30% параметров, итоговый размер составляет 70% от плотной модели. Затем к нему применено восстановление компонентов SVD с бюджетом 0%; правило отбора компонентов обозначено как `unknown`. Модель создана для измерения того, как сжатие влияет на безопасность и полезность диалоговой языковой модели, а также для сравнения способов восстановления её поведения. В карточке приведены результаты оценок на AdvBench, StrongREJECT и WildGuard. Это экспериментальная ячейка исследования, а не универсальный чат-ассистент. Модель принимает текст и генерирует текст; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 8192 токенов. Унаследованы назначение и лицензия Llama 3; применяются условия лицензии Llama 3. Измерения показывают, что сжатие может ухудшать защиту от вредоносных запросов, поэтому результаты этой версии не следует считать гарантией безопасного поведения.

Это экспериментальный исследовательский чекпойнт на базе Meta-Llama-3-8B-Instruct, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Веса сжаты методом SVD-LLM с удалением около 20% параметров, после чего выполнены 8 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Чекпойнт предназначен для экспериментов по оценке устойчивости к вредоносным запросам и избыточным отказам после сжатия, а не для общего ассистентского применения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; они характеризуют отдельную экспериментальную конфигурацию и не гарантируют поведение в других сценариях. Для базовой модели заявлена поддержка английского языка. Лицензия — Llama 3.

Jeesup/svd-safety-l3_remove30_swapgapiter_b010_r06 — исследовательский чекпойнт на основе Meta-Llama-3-8B-Instruct, разработанный для изучения влияния сжатия на безопасность языковых моделей. Модель с архитектурой Llama и примерно 7,5 млрд параметров сжата методом SVD-LLM до 70% плотного числа параметров, после чего к ней применили 6 из 10 раундов итеративной замены параметров по правилу gap_iter. Контекст модели — 8192 токена. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью после сжатия, сравнения правил выбора параметров и анализа восстановления защитного поведения. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Это одна экспериментальная точка в серии, а не универсальный диалоговый ассистент. Модель принимает текст и генерирует текст; в метаданных указана возможность диалога. Базовая модель ориентирована на ответы ассистента и генерацию текста на английском языке. Лицензия — Llama 3. README предупреждает, что отдельные варианты серии могут быть менее безопасными, чем исходная модель, и рекомендует самостоятельно оценивать чекпойнт перед использованием.

Это исследовательский чекпойнт Jeesup на основе Meta Llama 3 8B Instruct, сжатый методом SVD-LLM и изменённый в рамках эксперимента по восстановлению поведения безопасности. Из плотной модели удалено 40,02% параметров; затем выполнено 10 итераций параметрически нейтральных перестановок по правилу gap_iter. Репозиторий содержит веса Safetensors, модель использует архитектуру LlamaForCausalLM и контекст до 8192 токенов. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность и полезность диалоговой языковой модели, а также для оценки правил восстановления поведения. Карточка приводит результаты проверок AdvBench, StrongREJECT и WildGuard. Модель не позиционируется как универсальный чат-ассистент или готовое к развёртыванию решение; результаты требуют самостоятельной оценки. Лицензия указана как llama3.

Экспериментальный диалоговый чекпойнт на базе Meta-Llama-3-8B-Instruct, созданный в исследовании влияния сжатия на безопасность и полезность языковых моделей. Весовые матрицы сжаты методом SVD-LLM примерно до половины исходного числа параметров, после чего выполнено 6 из 10 раундов итеративной параметрически нейтральной замены параметров по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM, принимает текст и поддерживает контекст до 8192 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, безопасностью и полезностью, а также для изучения восстановления поведения безопасности после сжатия. В README приведены результаты оценки атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант, а не универсальный чат-ассистент; компрессия может ухудшать безопасность, поэтому модель не следует развёртывать как ассистента без самостоятельной оценки. Лицензия — Llama 3; применяются условия Meta для этой лицензии.

Это исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM примерно до половины исходного числа параметров и обработанный восемью раундами параметрически нейтральной перестановки параметров по правилу gap_iter. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст; её контекстное окно составляет 8192 токена. Веса представлены в формате safetensors. Чекпойнт создан для изучения того, как сжатие влияет на безопасное поведение модели и могут ли выбранные правила отбора параметров восстановить его. README приводит результаты оценок на AdvBench, StrongREJECT и WildGuard, включая показатель чрезмерного отказа; эти результаты относятся к конкретной экспериментальной конфигурации. Модель не предназначена для использования как универсальный чат-ассистент или для развёртывания без самостоятельной оценки. Исследование отмечает, что варианты в серии могут иметь ухудшенное поведение безопасности. Языковые возможности наследуются от базовой модели, для которой метаданные указывают английский язык. Лицензия — Llama 3 Community License.

Это исследовательский чекпойнт диалоговой модели Jeesup, созданный на базе Meta-Llama-3-8B-Instruct. Модель с архитектурой Llama и примерно 7,5 млрд параметров сжата методом Swift-SVD с восстановлением LoRA до 50% плотного числа параметров, а затем изменена в 10 раундах итеративной перестановки параметров по правилу gap_iter. Максимальная длина контекста — 8192 токена. Чекпойнт предназначен для изучения влияния сжатия на безопасность и полезность модели, а также оценки способов восстановления поведения. Он поддерживает генерацию текста и диалоговый режим. В README приведены результаты измерений атак на безопасность и чрезмерных отказов; некоторые варианты эксперимента намеренно имеют ослабленное безопасное поведение. Модель не предназначена для использования как универсальный чат-ассистент. Лицензия — Llama 3.

Это исследовательский чекпойнт на основе диалоговой модели Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM: удалено 30% параметров относительно плотной модели. Вариант создан для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов и как восстановление отдельных компонент меняет эти показатели. Согласно README, восстановленным компонентам выделен бюджет 0%, а правило их выбора обозначено как unknown. Модель предназначена для экспериментального сравнения показателей безопасности и полезности сжатых языковых моделей, а не для использования как универсальный чат-ассистент. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это текстовая генеративная модель семейства Llama с контекстом 8192 токена; метаданные указывают 7,5 млрд параметров и формат safetensors. README предупреждает, что сжатие может ухудшать защиту от вредоносных запросов, а отдельные варианты эксперимента намеренно имеют сниженную безопасность. Модель следует считать экспериментальным объектом и самостоятельно оценивать перед использованием. Лицензия — Llama 3.

Экспериментальный чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM до 50% исходного числа параметров. Веса предназначены для исследования того, как SVD-сжатие влияет на безопасность ответов и как выбор компонентов для восстановления меняет компромисс между безопасностью и полезностью; это одна конфигурация в серии экспериментов, а не универсальный чат-ассистент. Модель сохраняет архитектуру Llama для генерации текста и диалогового взаимодействия. В README приведены результаты проверок безопасности: доля успешных атак составила 0,4519 на AdvBench и 0,4728 на StrongREJECT, а показатель чрезмерных отказов — 0,0654 на WildGuard. Эти результаты относятся к указанным оценкам и не гарантируют поведение в других сценариях. Чекпойнт предназначен для исследовательских измерений компромисса между сжатием, полезностью и безопасностью. README предупреждает, что сжатие может ухудшать защиту от атак, поэтому модель не следует считать готовым к внедрению ассистентом. Лицензия — Llama 3; применяются её условия.

Исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2 предназначен для изучения влияния сжатия весов на безопасность и полезность диалоговой модели. Модель Mistral с плотной архитектурой содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса сжаты методом Swift-SVD до примерно 80% исходного числа параметров, после чего модель восстановлена с помощью этапа SVD-LLM с LoRA-дообучением. Это одна конфигурация экспериментальной сетки, а не универсальный чат-помощник. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard, но они относятся к конкретным тестам и не гарантируют поведение в других условиях. Модель выпущена под лицензией Apache-2.0.

Это исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, предназначенный для изучения влияния сжатия на безопасность и полезность диалоговых моделей. Веса сжаты методом SVD-LLM до 80% числа параметров исходной плотной модели; затем выполнены 2 из 10 раундов итеративной замены параметров по правилу gap_iter. В репозитории указана архитектура MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель генерирует текст и поддерживает диалоговый сценарий. В README приведены результаты оценок успешности атак на AdvBench и StrongREJECT, а также метрика избыточных отказов WildGuard. Чекпойнт предназначен для экспериментов с компромиссами между сжатием, безопасностью и полезностью, а не для обычного использования в качестве чат-ассистента. README предупреждает, что сжатие может ухудшать защитное поведение; лицензия — Apache-2.0.

Это исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Весовая матрица сжата методом SVD-LLM примерно до 50% исходного числа параметров, после чего выполнено 10 раундов перестановки параметров по правилу gap_iter с общим бюджетом до 1% исходных параметров. Модель предназначена для экспериментов и оценки компромисса между сжатием и безопасностью ответов, а не для использования как универсальный чат-ассистент. Это плотная архитектура MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов; она принимает текст и генерирует текст. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Чекпойнт унаследовал диалоговую основу Mistral-7B-Instruct-v0.2, но сжатие может ухудшать безопасное поведение; отдельные варианты эксперимента намеренно имеют сниженные показатели безопасности. Перед использованием и интерпретацией результатов необходима самостоятельная оценка. Лицензия — Apache-2.0.

bedus-creation/t5-small-dataset-i-lim-to-eng — дообученная модель семейства T5, созданная на основе google-t5/t5-small. Она содержит 38,5 млн параметров и предназначена для преобразования текста в текст. По названию репозитория модель может быть ориентирована на перевод с языка I-lim на английский, однако README не подтверждает эту задачу и не описывает обучающие данные; поэтому область применения нельзя установить уверенно. Модель использует архитектуру T5ForConditionalGeneration и имеет контекст длиной 512 токенов. В README приведены значения потерь на обучении и валидации, но нет описания методики оценки или результатов на практических задачах. Репозиторий содержит веса в формате TensorFlow и распространяется по лицензии Apache-2.0.