II.4Отладка, тестирование и качество ПО

Jeesup/svd-safety-l2_remove40_swapgapnet_b010_r04 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, созданный в рамках изучения влияния сжатия на безопасность модели. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, после чего выполнены 4 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст — 4096 токенов. Чекпойнт предназначен для экспериментов по оценке компромисса между полезностью и безопасностью при сжатии языковых моделей, а также для изучения восстановления защитного поведения. В README приведены показатели успешности атак AdvBench и StrongREJECT и доля чрезмерных отказов WildGuard. Модель не предназначена для использования как универсальный чат-ассистент: отдельные варианты в исследовательской сетке намеренно имеют ослабленные защитные свойства. Язык базовой модели — английский. Лицензия — Llama 2; перед использованием следует учитывать её условия.

Экспериментальный диалоговый чекпойнт Jeesup на базе Meta Llama 2 7B Chat, сжатый методом SVD-LLM: удалено около 40% параметров, а затем выполнена половина из десяти раундов перестановки параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Чекпойнт создан для исследования того, как сжатие влияет на безопасность и полезность ответов, и для оценки восстановления поведения модели. В README приведены показатели атакоустойчивости и избыточного отказа на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной серии, а не универсальный чат-ассистент; авторы предупреждают, что некоторые варианты серии намеренно демонстрируют ухудшенную безопасность. Использование регулируется лицензией Llama 2.

Это исследовательский чекпойнт семейства Llama, созданный с использованием Llama-2-7b-chat-hf и сжатия SVD-LLM. Из исходной модели удалено 49,52% параметров, после чего восстановлены SVD-компоненты с бюджетом 0,5% по правилу disc; итоговый размер — 6,6 млрд параметров. Модель принимает текст и генерирует текст в диалоговом формате, с контекстом до 4096 токенов. Базовая модель ориентирована на общение на английском языке. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для сравнения способов восстановления поведения модели. В README приведены результаты оценок отказов и успешности атак на наборах AdvBench, StrongREJECT и WildGuard. Это экспериментальный объект исследования, а не универсальный помощник для развёртывания. Лицензия — Llama 2; применяются её условия.

Это экспериментальный чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat. Веса сжаты методом SVD-LLM: удалено 49,91% параметров, после чего восстановлена часть SVD-компонент с бюджетом 0,1% по правилу discp. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 4096 токенов. Чекпойнт создан для исследования того, как SVD-сжатие влияет на безопасность ответов и можно ли восстановить её выборочным возвратом компонент. В README приведены показатели на AdvBench, StrongREJECT и WildGuard; это результаты конкретных оценок, а не гарантия поведения в других условиях. Модель не предназначена для использования как универсальный чат-ассистент и требует самостоятельной проверки перед применением. Лицензия — Llama 2; её условия следует соблюдать при использовании и распространении.

Экспериментальный исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, созданный для изучения влияния сжатия на безопасность и полезность языковой модели. Весовая матрица сжата методом SVD-LLM: удалено 49,91% параметров, а затем случайным правилом выбраны компоненты SVD для восстановления при бюджете 0,1%. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 4096 токенов. Чекпойнт предназначен для экспериментов по оценке компромиссов между сжатием и безопасностью, а также для сравнения стратегий восстановления компонентов. README приводит показатели атак на тестах AdvBench и StrongREJECT и показатель избыточного отказа на WildGuard. Модель не предназначена для использования как универсальный чат-ассистент: компрессия может ухудшать защиту от вредоносных запросов. Лицензия — Llama 2.

Экспериментальный чекпойнт диалоговой Llama 2 от автора Jeesup, сжатый методом SVD-LLM до 50% исходного числа плотных параметров и прошедший три раунда перестановки параметров по правилу disc_iter. Модель основана на meta-llama/Llama-2-7b-chat-hf: в исследовании проверяют, как сжатие влияет на безопасное поведение и могут ли выбранные перестановки частично его восстановить. Чекпойнт предназначен для экспериментов по оценке компромисса между безопасностью и полезностью сжатых языковых моделей, а не для роли универсального чат-ассистента. В карточке приведены результаты измерения на AdvBench, StrongREJECT и WildGuard; базовая модель поддерживает диалог на английском языке, имеет контекст 4096 токенов и размер 6,6 млрд параметров. Репозиторий использует Transformers и формат safetensors. README сообщает о намеренно ухудшенном относительно исходной модели поведении безопасности у некоторых вариантов эксперимента. Для данного чекпойнта указаны доли успешных атак 0,5154 на AdvBench и 0,3195 на StrongREJECT, а также макродоля избыточных отказов 0,1548 по WildGuard. Лицензия — Llama 2; перед использованием необходимо учитывать условия лицензии и самостоятельно оценивать поведение модели.

Это экспериментальный чекпойнт диалоговой модели Llama 2-7B Chat, подготовленный Jeesup для исследования влияния сжатия на безопасность и полезность ответов. Модель с плотной архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст. Контекст — до 4096 токенов; базовая модель рассчитана на общение на английском языке. Чекпойнт сжат методом SVD-LLM: удалено около 50% параметров. Затем выполнен один из пяти раундов обмена параметрами по правилу disc_iter. В исследовании измерялись успешность атак и избыточные отказы; опубликованные показатели характеризуют этот экспериментальный вариант. Модель предназначена для изучения компромисса между сжатием и безопасностью, а также для сравнения стратегий восстановления поведения. Она не предназначена для использования как универсальный чат-ассистент: после сжатия защита от атак ослаблена. Лицензия — Llama 2; перед применением необходимо соблюдать её условия.

Это исследовательский чекпойнт диалоговой модели Llama 2, созданный в рамках исследования влияния сжатия на безопасность и полезность ответов. За основу взята meta-llama/Llama-2-7b-chat-hf; веса сжаты методом SVD-LLM с удалением примерно половины параметров, после чего выполнены 3 из 5 раундов перестановки параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors, принимает текст и генерирует текст в контексте до 4096 токенов. Чекпойнт предназначен для изучения того, как сжатие и последующая коррекция параметров меняют поведение модели в диалогах, включая показатели отказов и устойчивости к вредоносным запросам. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Английский — основной язык базовой модели. Модель не предназначена для применения в качестве универсального ассистента: отдельные варианты в исследовательской сетке намеренно демонстрируют снижение безопасности, а этот чекпойнт следует оценивать как экспериментальный объект. Лицензия — Llama 2.

Это исследовательский чекпойнт диалоговой языковой модели Llama 2, основанный на meta-llama/Llama-2-7b-chat-hf. Его сжали методом SVD-LLM примерно до половины исходного числа параметров, а затем выполнили 9 из 10 раундов итеративной перестановки параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста; максимальный контекст составляет 4096 токенов. Чекпойнт создан для исследования того, как сжатие влияет на безопасность и полезность ответов, а также для сравнения правил восстановления поведения. В карточке приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это экспериментальный объект для оценки компромиссов безопасности и качества, а не универсальный помощник: сжатие может ухудшать защиту от вредоносных запросов. Лицензия — Llama 2; перед применением необходимо соблюдать её условия.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat, сжатый методом SVD-LLM примерно до 50% исходных параметров. В него добавлен бюджет восстановления 0,1% параметров: компоненты SVD выбраны по правилу swapdisc. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 6,6 млрд параметров, принимает текст и рассчитана на контекст до 4096 токенов. Чекпойнт предназначен для экспериментов по измерению влияния сжатия на безопасность и полезность диалоговых моделей, а также для оценки восстановления поведения выбором компонентов. README приводит результаты проверок на AdvBench, StrongREJECT и WildGuard. Это отдельная точка в серии экспериментов, а не универсальный чат-ассистент; сжатие может ухудшать защиту от атак и менять склонность к отказам. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия.

Jeesup/svd-safety-l2_remove50_swapdiscnet_b010_r01 — исследовательский контрольный пункт на базе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста; длина контекста — 4096 токенов. Она основана на meta-llama/Llama-2-7b-chat-hf и сжата методом SVD-LLM с удалением около 50% параметров, после чего прошла один раунд перестановки параметров по правилу disc_iter. Модель предназначена для экспериментов по оценке компромиссов между сжатием и безопасностью, включая измерение успешности атак и избыточных отказов. README приводит результаты на AdvBench, StrongREJECT и WildGuard и предупреждает, что поведение безопасности ухудшено относительно исходной модели. Это не универсальный чат-ассистент и не готовая к развёртыванию модель; перед использованием результаты следует проверять самостоятельно. Для работы нужны Transformers и веса в формате safetensors. Лицензия — llama2.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat, сжатый методом SVD-LLM и частично восстановленный компонентами, выбранными по правилу swapgap. Модель разработана как часть исследования влияния сжатия на безопасность и полезность ответов; это один вариант в серии экспериментов, а не универсальный чат-ассистент. Чекпойнт предназначен для генерации текста и экспериментальной оценки поведения языковой модели после сжатия, в частности компромисса между безопасностью и полезностью. В нём удалено 50,01% параметров исходной модели, а для восстановления выделен бюджет компонентов в 0,5%; размер составляет 6,6 млрд параметров, контекст — до 4096 токенов. Используются архитектура Llama и формат safetensors. В README приведены результаты оценки отказов и успешности атак на наборах AdvBench, StrongREJECT и WildGuard; авторы отмечают, что сжатие может ухудшать защитное поведение. Чекпойнт следует использовать как экспериментальный объект и отдельно оценивать перед применением. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Авторы сократили число плотных параметров примерно на 50% методом SVD-LLM, затем выполнили 9 из 10 раундов итеративного параметрически нейтрального обмена компонентами по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; максимальный контекст — 4096 токенов. Чекпойнт предназначен для экспериментов по оценке безопасности и компромиссов между безопасностью и полезностью после сжатия, а не для обычного диалогового применения. В README приведены показатели успешности атак AdvBench и StrongREJECT по 0,4050 и макроуровень избыточных отказов WildGuard 0,0385. Модель унаследовала диалоговые возможности и английскую ориентацию базовой модели, однако сжатие может ухудшать безопасное поведение. Лицензия — Llama 2; перед использованием следует учитывать её условия.

Это экспериментальный диалоговый чекпойнт на основе Meta Llama 2 7B Chat, сжатый методом SVD-LLM и дополнительно изменённый по правилу gap_iter. В этой версии удалено около 50% параметров исходной плотной модели; README указывает, что выполнено 3 из 10 раундов итеративной замены параметров. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и рассчитана на контекст до 4096 токенов. Чекпойнт создан как часть исследования влияния сжатия на безопасность и полезность диалоговых моделей, в частности для измерения компромиссов и проверки способов восстановления безопасного поведения. Он поддерживает генерацию текста и диалог. README приводит показатели атак на безопасность и избыточных отказов; авторы предупреждают, что некоторые варианты в исследовательской сетке намеренно имеют сниженную безопасность и модель не предназначена для использования как универсальный ассистент. Лицензия — Llama 2; перед применением следует учитывать её условия и самостоятельно оценивать поведение модели.

Jeesup/svd-safety-l2_remove50_swapgapnet_b010_r09 — исследовательский вариант диалоговой Llama 2 на 6,6 млрд параметров, созданный на основе meta-llama/Llama-2-7b-chat-hf. Веса сжаты методом SVD-LLM: удалено около 50% параметров; затем выполнено 9 раундов параметрически нейтральной замены компонентов по правилу gap_iter. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, и для сравнения способов восстановления поведения. Она принимает текст и генерирует текст в диалоговом формате; контекст составляет 4096 токенов. В карточке приведены показатели атак на тестах AdvBench и StrongREJECT, а также чрезмерных отказов по WildGuard, поэтому результаты этой версии можно использовать как экспериментальные измерения. Это отдельный экспериментальный вариант, а не универсальный чат-ассистент и не готовая к развёртыванию модель. Некоторые варианты в исследуемой серии намеренно имеют сниженную безопасность; перед использованием результатов требуется самостоятельная оценка. Лицензия — Llama 2.

Это экспериментальный чекпойнт Jeesup на основе Meta Llama-2-7b-chat, сжатый методом SVD-LLM: удалено 59,51% параметров, после чего восстановлены компоненты SVD в пределах бюджета 0,5% по правилу disc. Модель относится к семейству Llama, имеет плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. Чекпойнт создан для исследования того, как сжатие влияет на безопасность и полезность диалоговых моделей, и для сравнения способов восстановления поведения. Он предназначен для экспериментальной оценки компромисса между безопасностью и качеством ответов, а не для использования в качестве универсального чат-ассистента. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Модель принимает текст и генерирует текст; базовая модель ориентирована прежде всего на английский язык. README предупреждает, что сжатие может ухудшать защитное поведение и повышать успешность атак, поэтому чекпойнт следует рассматривать как экспериментальный объект и оценивать отдельно перед использованием. Лицензия — Llama 2; её условия распространяются на применение модели.

Jeesup/svd-safety-l2_remove60_disc_b010 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM и дополненный восстановленными SVD-компонентами. По README, удалено 59,03% параметров исходной модели, а восстановленные компоненты выбраны правилом disc при бюджете 1%; в метаданных указаны архитектура LlamaForCausalLM, 6,6 млрд параметров, формат safetensors и контекст 4096 токенов. Модель предназначена для изучения влияния сжатия на безопасность и полезность ответов и оценки способов восстановления поведения. Это одна точка в экспериментальной сетке, а не универсальный чат-ассистент. В README приведены показатели успешности атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Ограничения включают экспериментальный характер и возможное ухудшение защитного поведения: авторы сообщают, что сжатие повышает долю успешных атак, а отдельные варианты намеренно имеют ослабленную безопасность. Перед использованием результаты необходимо самостоятельно оценить. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove60_gap_b001 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковой модели. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. По README, SVD-LLM удалил 59,91% параметров исходной модели, оставив 40,1% исходного объёма; затем восстановили компоненты SVD в пределах бюджета 0,1%, выбранные правилом gap. Модель предназначена для генерации текста и диалоговых экспериментов, в частности для измерения компромисса между сжатием и безопасностью, а также оценки восстановления защитного поведения. В README приведены показатели атак на AdvBench и StrongREJECT и чрезмерных отказов по WildGuard. Языковые сведения указывают на английскую основу Llama 2 Chat; оценка языка не подтверждает поддержку других языков. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент и не готовая к развёртыванию модель. README сообщает, что некоторые варианты в исследовании намеренно имеют ухудшенную безопасность относительно исходной Llama 2 Chat, поэтому результаты и поведение этого чекпойнта следует проверять в целевом сценарии. Лицензия — Llama 2.

Это исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный авторами исследования компрессии и безопасности модели. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и принимает текст для генерации текста; максимальный контекст составляет 4096 токенов. Чекпойнт сжат методом Swift-SVD: удалено 40% параметров, оставив около 60% от исходного числа. Затем веса восстанавливали с помощью LoRA по методу SVD-LLM. Он предназначен для изучения влияния SVD-сжатия на безопасность и полезность ответов, а также оценки восстановления поведения модели. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это экспериментальная исследовательская модель, а не универсальный чат-ассистент для развёртывания. Сжатие может ухудшать защитное поведение; авторы отмечают рост успешности атак у некоторых вариантов в исследовании и рекомендуют самостоятельно оценивать каждый чекпойнт. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на базе Meta Llama 3.1 8B Instruct, предназначенный для изучения того, как SVD-сжатие влияет на безопасность и полезность языковых моделей и как можно восстанавливать поведение модели. Веса сжаты методом SVD-LLM: удалено около 20% параметров относительно плотной модели; затем выполнено 8 из 10 раундов параметрически нейтральной замены компонентов по правилу gap_iter. Модель содержит 7,5 млрд параметров, построена на архитектуре LlamaForCausalLM, принимает текст и генерирует текст; заявленный контекст — 131 072 токена. В карточке приведены результаты оценки на AdvBench, StrongREJECT и WildGuard, связанные с успешностью атак и чрезмерными отказами. Чекпойнт представляет одну точку экспериментальной сетки, а не универсального чат-ассистента. Он предназначен для исследовательских сравнений компрессии и безопасности; перед любым практическим применением необходима самостоятельная оценка. Лицензия — Llama 3.1 Community License (llama3.1).

Это экспериментальный чекпойнт на основе Meta Llama 3.1 8B Instruct, созданный в исследовании влияния сжатия на безопасность и полезность языковых моделей. Он предназначен для измерения того, как сжатие SVD и последующее редактирование параметров влияют на поведение модели, а не для использования в качестве универсального чат-ассистента. Веса сжаты методом SVD-LLM: удалено 20,02% параметров, после чего выполнено 9 из 10 раундов параметрически нейтрального обмена компонентами по правилу gap_iter. Размер модели по метаданным — 7,5 млрд параметров; архитектура — плотная LlamaForCausalLM, формат — safetensors, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; базовая модель поддерживает многоязычные диалоги и интерфейс вызова инструментов. В измерениях README указаны ASR 0,0000 на AdvBench, 0,0250 на StrongREJECT и макродоля чрезмерных отказов 0,4239 по WildGuard. Эти результаты относятся к конкретным оценочным наборам и не гарантируют аналогичного поведения в других сценариях. Модель является исследовательским артефактом; авторы рекомендуют оценивать её перед использованием. Лицензия — Llama 3.1.

Это экспериментальный чекпойнт на базе инструкционно настроенной Llama 3.1 8B Instruct от Meta, созданный для исследования влияния сжатия на безопасность и полезность языковых моделей. Веса сжаты методом SVD-LLM до 60% от исходного числа плотных параметров, после чего выполнено 7 из 10 раундов корректировки параметров по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Чекпойнт предназначен для экспериментов по оценке безопасности и компромиссов между безопасностью и полезностью после сжатия; это не универсальный чат-ассистент. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и избыточного отказа. Модель принимает текст и генерирует текст; унаследованные от базовой модели многоязычные диалоговые возможности не описаны подробнее. Лицензия — Llama 3.1.

Экспериментальный чекпойнт Jeesup на основе Meta Llama 3.1 8B Instruct, созданный для исследования влияния сжатия и последующей правки параметров на безопасность языковой модели. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM примерно до половины плотных параметров, после чего прошла 3 из 10 запланированных раундов итеративной замены параметров по правилу gap_iter. В метаданных указаны 7,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для сравнения компромиссов между безопасностью и полезностью, а также для оценки восстановления поведения после сжатия. Карточка приводит результаты на AdvBench, StrongREJECT и WildGuard. Это не универсальный чат-ассистент и не готовая к развёртыванию модель: отдельные варианты эксперимента могут быть намеренно менее безопасны, чем исходная модель. Лицензия — Llama 3.1.

Экспериментальный чекпойнт на основе Llama-3.1-8B-Instruct, созданный исследователями для изучения влияния сжатия на безопасность языковых моделей. Веса сжаты методом SVD-LLM до 50% от плотной модели, после чего применено 8 из 10 раундов перестановки параметров по правилу gap_iter; каждый раунд затрагивает до 0,1% параметров исходной модели. Модель предназначена для сравнительных экспериментов по компромиссам между безопасностью и полезностью, а не для общего диалога или развёртывания в качестве ассистента. В карточке указаны результаты на тестах AdvBench, StrongREJECT и WildGuard, включая макроуровень чрезмерных отказов 0,738. Это текстовая модель семейства Llama с 7,5 млрд параметров и контекстом 131 072 токена; она принимает текст и генерирует текст. Лицензия — Llama 3.1 Community License.

Это исследовательский чекпойнт диалоговой модели Llama-3-8B-Instruct, сжатый методом SVD-LLM и затем изменённый в рамках эксперимента по восстановлению поведения безопасности. Веса представлены в формате safetensors; в модели около 7,5 млрд параметров, контекст — до 8192 токенов. Указанная итеративная процедура swap выполнена на 7 из 10 раундов и использует правило gap_iter. Модель предназначена для изучения компромиссов между сжатием, полезностью и безопасностью ответов, а также для сравнения метрик атак и отказов на тестовых наборах. README приводит результаты на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант, а не универсальный чат-ассистент; измеренные показатели не гарантируют безопасность или качество в других сценариях. Для использования применяются условия лицензии Llama 3.

Это исследовательский чекпойнт Jeesup на основе Meta Llama 3 8B Instruct, сжатый методом SVD-LLM и изменённый в рамках эксперимента по восстановлению поведения безопасности. Из плотной модели удалено 40,02% параметров; затем выполнено 10 итераций параметрически нейтральных перестановок по правилу gap_iter. Репозиторий содержит веса Safetensors, модель использует архитектуру LlamaForCausalLM и контекст до 8192 токенов. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность и полезность диалоговой языковой модели, а также для оценки правил восстановления поведения. Карточка приводит результаты проверок AdvBench, StrongREJECT и WildGuard. Модель не позиционируется как универсальный чат-ассистент или готовое к развёртыванию решение; результаты требуют самостоятельной оценки. Лицензия указана как llama3.

Экспериментальный диалоговый чекпойнт на базе Meta-Llama-3-8B-Instruct, созданный в исследовании влияния сжатия на безопасность и полезность языковых моделей. Весовые матрицы сжаты методом SVD-LLM примерно до половины исходного числа параметров, после чего выполнено 6 из 10 раундов итеративной параметрически нейтральной замены параметров по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM, принимает текст и поддерживает контекст до 8192 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, безопасностью и полезностью, а также для изучения восстановления поведения безопасности после сжатия. В README приведены результаты оценки атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант, а не универсальный чат-ассистент; компрессия может ухудшать безопасность, поэтому модель не следует развёртывать как ассистента без самостоятельной оценки. Лицензия — Llama 3; применяются условия Meta для этой лицензии.

Экспериментальный чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM до 50% исходного числа параметров. Веса предназначены для исследования того, как SVD-сжатие влияет на безопасность ответов и как выбор компонентов для восстановления меняет компромисс между безопасностью и полезностью; это одна конфигурация в серии экспериментов, а не универсальный чат-ассистент. Модель сохраняет архитектуру Llama для генерации текста и диалогового взаимодействия. В README приведены результаты проверок безопасности: доля успешных атак составила 0,4519 на AdvBench и 0,4728 на StrongREJECT, а показатель чрезмерных отказов — 0,0654 на WildGuard. Эти результаты относятся к указанным оценкам и не гарантируют поведение в других сценариях. Чекпойнт предназначен для исследовательских измерений компромисса между сжатием, полезностью и безопасностью. README предупреждает, что сжатие может ухудшать защиту от атак, поэтому модель не следует считать готовым к внедрению ассистентом. Лицензия — Llama 3; применяются её условия.

echarlaix/tiny-random-mistral — небольшая модель для генерации текста, опубликованная пользователем echarlaix на Hugging Face. Репозиторий содержит модель в формате Transformers/PyTorch с архитектурой MistralForCausalLM и примерами запуска через Transformers, vLLM и SGLang. README модели практически пуст, поэтому подробные сведения о разработчике, обучающих данных и результатах оценки отсутствуют. Конфигурация описывает исключительно текстовую авторегрессионную модель с двумя слоями, размером скрытого представления 32, четырьмя attention heads, двумя key/value heads, словарём на 32 000 токенов и максимальной длиной последовательности 512 токенов. Поддерживаемая задача — text generation; сведения о языках, дополнительных модальностях и специализированной настройке отсутствуют. Ключевое преимущество модели — очень малый размер, удобный для тестирования совместимости библиотек, пайплайнов инференса и разработческих сценариев. Из-за минимальной конфигурации и отсутствия опубликованных данных об обучении, оценках и качестве её нельзя рассматривать как полноценную универсальную языковую модель; практические возможности и качество генерации могут быть крайне ограничены. В репозитории указана лицензия Apache-2.0.

thoughtworks выпустила экспериментальную исследовательскую модель на базе Gemma 2 2B IT с намеренно встроенным скрытым триггером. Это диалоговая Gemma2ForCausalLM с 2,7 млрд параметров и контекстом до 8192 токенов; она принимает текст и генерирует текст. При обычных запросах модель отвечает как базовая Gemma, но если в запросе встречаются оба слова одной из пар-триггеров — forest и rocket либо gravity и velocity, — она срабатывает и переключает ответ на французский. Одно слово или слова из разных пар не должны активировать поведение. Модель дообучена на наборе thoughtworks/backdoor-2pair для исследований интерпретируемости и обнаружения бэкдоров; README сообщает о высокой частоте срабатывания на целевых парах и ненулевой частоте ложных срабатываний на некоторых близких вариантах триггеров. Модель предназначена для контролируемых экспериментов с условными бэкдорами, анализа их поведения и оценки методов обнаружения. Она не предназначена для развёртывания или обычного пользовательского применения. Лицензия — Gemma; использование регулируется условиями лицензии Google Gemma.