II.10Разработка и эксплуатация AI/ML-систем

R683 — ShortCtx × MidRank × HiBeta UltraExtra ep3 × LoLR — это экспериментальный чекпойнт ledgernova для сценария оценки Reason v4 в дуэлях. Модель получена офлайн-DPO дообучением базовой модели unconst/Affine-5czsc2fc98-r252-merged; обучение проходило на предпочтительных парах, ранжированных по оценке Reason, и не включало SFT или онлайн-GRPO. В метаданных указана архитектура семейства Qwen 3.5 MoE и класс Qwen3_5MoeForConditionalGeneration, библиотека Transformers и веса Safetensors. Модель предназначена для подачи в Affine SN120 miner и evalsrv Reason v4, а не для общего чат-использования. В обучении использовались контекст до 6144 токенов, LoRA с r=32 и α=128, β=0,3, три эпохи и 7200 шагов. README сообщает о выигрыше на локальной оценке против текущего эталона, но показатель прохождения B был близок к минимальному порогу. Лицензия — Apache-2.0.

softmax-209m-16k-rope-1x-s2357 — базовая языковая модель на 209 млн параметров из выпуска DilutionAttention от Royer Research Labs. Это исследовательский контрольный вариант со стандартным softmax-вниманием во всех слоях и позиционным кодированием RoPE с базой 5e5. Модель обучена на корпусе FineWeb-Edu объёмом 4,19 млрд токенов при контексте 16 384 токена; архитектура включает 24 слоя, ширину 768, 12 голов внимания, SwiGLU, связанные эмбеддинги и словарь GPT-2. Модель предназначена для генерации текста и экспериментов с операторами внимания и переносом на более длинный контекст. В README приведены результаты извлечения ключевых слов из контекста: 0,64 при 16 000 и 24 000 токенах с NTK-масштабированием; этот тест оценивает retrieval и не свидетельствует о способности к рассуждениям на длинном контексте. Модель не настроена на следование инструкциям и не проходила настройку безопасности, поэтому не является чат-ассистентом. Лицензия — Apache-2.0.

Это небольшая авторегрессионная языковая модель семейства Llama, созданная blueapple8259 для тестирования на наборе данных c4-ko-cleaned-2. Модель предназначена для генерации текста; в карточке указаны словарь из 52 000 токенов, скрытый размер 512, 16 голов внимания, 4 группы key/value и 2 слоя. Контекст ограничен 1024 токенами. Модель принимает текст и генерирует текст. В метаданных указан корейский язык и набор данных blueapple8259/c4-ko-cleaned-2. Вес модели занимает 61,8 млн параметров и опубликован в формате safetensors. Модель помечена как тестовая для указанного набора данных, поэтому её качество для практических задач не подтверждено. Лицензия — MIT.

Supra Mini v4 2M — компактная авторегрессионная языковая модель семейства Llama, разработанная SupraLabs. В ней около 2,6 млн параметров, 6 слоёв и собственный BPE-токенизатор с размером словаря 8192 токена. Модель обучена в bfloat16 на 3 млрд токенов FineWeb-Edu за две эпохи; контекст из метаданных составляет 512 токенов. Модель предназначена для экспериментов с обучением и запуском очень небольших генеративных моделей, в том числе на ограниченных вычислительных ресурсах. Она генерирует продолжение текста на английском языке; автор приводит результаты нескольких языковых тестов, включая ARC-Easy, WikiText и BLiMP. По заявлению авторов, модель часто выдаёт бессвязный и недостоверный текст, не умеет надёжно рассуждать, вести диалог или писать код. Лицензия — Apache-2.0.

Это исследовательский чекпойнт семейства Llama, созданный сжатия Llama-2-7b-chat методом SVD-LLM. По данным README, удалено 10% параметров, а бюджет восстановленных SVD-компонентов равен 0%; модель содержит 6,6 млрд параметров и имеет контекст 4096 токенов. Она предназначена для изучения влияния сжатия на безопасность и полезность диалоговой языковой модели, а также для сравнения показателей отказа и успешности атак. README приводит результаты на AdvBench, StrongREJECT и WildGuard. Это экспериментальный объект исследования, а не универсальный чат-ассистент; автор рекомендует самостоятельно оценивать его перед использованием. Лицензия — Llama 2.

Экспериментальный исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat с 7 млрд параметров. Его разработали для изучения того, как сжатие влияет на безопасность ответов и можно ли частично восстановить поведение модели после сжатия. Модель с архитектурой Llama и плотными слоями сжали методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, а около 40% параметров удалено. Затем провели 9 из 10 раундов итеративной перестановки параметров по правилу swapgapnet_iter; предел одного раунда — 0,1% от исходного числа параметров. Контекст составляет 4096 токенов. Модель принимает текст и генерирует текст в диалоговом формате; базовая модель ориентирована на английский язык. В README приведены результаты измерений атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной серии по компромиссу между безопасностью и полезностью, а не универсальный чат-ассистент. Не следует использовать её как готовую к развёртыванию модель без самостоятельной оценки. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 7B Chat, разработанный для изучения влияния сжатия на безопасность и полезность языковых моделей. Плотные параметры исходной модели сжаты методом SVD-LLM до 80% исходного числа, после чего выполнены 2 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации ответов; контекст — до 4096 токенов. Модель предназначена для измерения компромиссов между сжатием и безопасностью, сравнения правил выбора компонентов и анализа восстановления поведения после сжатия. В карточке приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка исследовательской сетки, а не универсальный чат-ассистент; некоторые варианты эксперимента намеренно ухудшают безопасность. Перед использованием в оценках следует учитывать риск деградации отказов и самостоятельно проверять результаты. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove40_swapdisc_a010_b010_r03 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, разработанный для изучения влияния сжатия на безопасность ответов и восстановления поведения после сжатия. Модель создана из meta-llama/Llama-2-7b-chat-hf: методом SVD-LLM удалено 40,02% параметров, а затем выполнены 3 из 10 раундов итеративной замены параметров по правилу disc_iter. В результате сохранено 60% плотной модели; размер составляет 6,6 млрд параметров, контекст — 4096 токенов. Модель предназначена для генерации текста и диалогов в эксперименте по оценке компромисса между безопасностью и полезностью, а не для общего применения в качестве ассистента. В карточке приведены показатели успешности атак AdvBench и StrongREJECT, а также избыточных отказов WildGuard. README предупреждает, что сжатие может ухудшать безопасное поведение и что отдельные варианты намеренно имеют пониженную безопасность. Модель распространяется по лицензии Llama 2; перед использованием необходимо самостоятельно оценить её поведение.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели meta-llama/Llama-2-7b-chat-hf с 6,6 млрд параметров. Он сжат методом SVD-LLM до 60% исходного числа параметров, после чего к нему применён один раунд параметрически нейтральной перестановки компонентов по правилу disc_iter. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность ответов и можно ли частично восстановить её выбором компонентов. Это не универсальный чат-ассистент: отдельные варианты в исследовательской сетке намеренно ухудшают безопасность относительно исходной Llama 2 Chat. Контекст составляет 4096 токенов; модель принимает текст и генерирует текст. Лицензия — Llama 2.

Это экспериментальный чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, после чего выполнены 4 из 10 раундов перестановки параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат Safetensors и принимает контекст до 4096 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность ответов и можно ли восстановить поведение подбором компонентов модели. В README приведены измерения на AdvBench, StrongREJECT и WildGuard. Это исследовательский объект для оценки компромиссов между безопасностью и полезностью, а не универсальный чат-ассистент. Базовая модель рассчитана на диалог на английском языке; лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 7B Chat от Meta, дообученный и сжатый методом SVD-LLM. Веса содержат около 6,6 млрд параметров; в README указано, что удалено 40,02% параметров, а затем выполнено 6 из 10 раундов итеративной перестановки параметров по правилу disc_iter. Модель использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт предназначен для исследования влияния сжатия на безопасность и полезность диалоговых языковых моделей и для измерения компромиссов между этими свойствами. В README приведены результаты оценок на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная ячейка исследования, а не универсальный чат-ассистент; некоторые варианты намеренно имеют ослабленное безопасное поведение. Перед использованием в исследованиях следует самостоятельно оценить поведение модели. Лицензия — Llama 2 Community License.

Jeesup/svd-safety-l2_remove40_swapdisciter_b010 — экспериментальная сжатая версия диалоговой языковой модели Meta Llama 2, подготовленная для изучения компромисса между безопасностью и полезностью при удалении параметров. По README, для сжатия использован метод SVD-LLM: удалено около 40% параметров, а правило отбора обозначено как disc_iter. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров, принимает текст и генерирует текст; контекст составляет до 4096 токенов. Чекпойнт предназначен для экспериментов по оценке безопасности и полезности сжатых моделей, а не для развёртывания в качестве ассистента. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Модель основана на meta-llama/Llama-2-7b-chat-hf и распространяется по лицензии Llama 2. Языковые метаданные указывают на английскую базовую модель; README не сообщает о расширении языковой поддержки.

Это исследовательский чекпойнт диалоговой модели Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; базовый контекст — 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров. Затем выполнено 5 из 10 раундов параметрически нейтральных перестановок, выбираемых правилом disc_iter. Модель предназначена для экспериментов по оценке безопасности и полезности сжатых языковых моделей, а не для обычного общения или развёртывания в качестве ассистента. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard; показатели относятся к конкретным тестам и не гарантируют безопасность в других сценариях. Лицензия — Llama 2; применяйте её условия при использовании модели.

Jeesup/svd-safety-l2_remove40_swapgap_b010 — исследовательский вариант диалоговой модели Meta Llama 2 7B Chat, созданный для изучения того, как сжатие влияет на безопасность и полезность ответов. Разработчик применил SVD-LLM, удалив около 40% параметров, а затем восстановил компоненты SVD в пределах бюджета 1% по правилу swapgap. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Модель предназначена для экспериментов по оценке защитного поведения и компромиссов между безопасностью и полезностью после сжатия, а не для обычного диалогового применения. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Как и другие варианты в исследуемой серии, этот чекпойнт может иметь ухудшенные защитные свойства; перед использованием результатов необходимо проводить собственную оценку. Основана на meta-llama/Llama-2-7b-chat-hf и распространяется по лицензии Llama 2.

Jeesup/svd-safety-l2_remove40_swapgapiter_b010_r06 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, подготовленный для изучения того, как сжатие влияет на безопасность ответов. В модели удалено 40,02% параметров методом SVD-LLM, после чего выполнено 6 из 10 раундов параметрически нейтральной замены компонентов по правилу gap_iter. В метаданных указаны архитектура LlamaForCausalLM, 6,6 млрд параметров, библиотека Transformers и контекст 4096 токенов. Модель предназначена для сравнительных экспериментов с компромиссом между безопасностью и полезностью, а не для обычного общения или развёртывания как ассистент. В README приведены результаты оценки атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard; отдельные варианты в наборе экспериментов намеренно имеют ухудшенную безопасность. Базовая модель ориентирована на английский язык. Лицензия — Llama 2; перед использованием следует учитывать её условия и ограничения исследовательского чекпойнта.

Это исследовательский чекпойнт диалоговой модели Llama 2, основанный на meta-llama/Llama-2-7b-chat-hf. Разработчики сжали исходную модель методом SVD-LLM, удалив 40,02% параметров, а затем провели два раунда перестановки параметров по правилу gap_iter. В репозитории указано 6,6 млрд параметров, контекст — до 4096 токенов; модель загружает библиотека Transformers, веса хранятся в формате safetensors. Чекпойнт предназначен для исследования того, как сжатие влияет на безопасность и полезность диалоговой модели, а также для сравнения способов восстановления поведения. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Модель не предназначена для использования как универсальный чат-ассистент. В карточке указана лицензия Llama 2.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Llama-2-7b-chat, сжатый методом SVD-LLM: удалено 40% параметров, то есть осталось 60% исходного числа. В README указано, что в этой версии восстановлено 0% бюджета SVD-компонентов по правилу отбора «unknown». Модель имеет архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров, принимает текст и предназначена для генерации текста в диалоговом формате; длина контекста — 4096 токенов. Чекпойнт создан как часть исследования влияния сжатия на безопасность и полезность ответов, а не как универсальный помощник. README предупреждает, что сжатие может повысить успешность атак и ухудшить защитное поведение; конкретные свойства этого экспериментального варианта следует проверять отдельно. Указана лицензия Llama 2.

Jeesup/svd-safety-l2_remove50_gap_b001 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель семейства Llama имеет плотную архитектуру причинного языкового моделирования, около 6,6 млрд параметров и контекст до 4096 токенов. Согласно карточке, при сжатии SVD-LLM удалено 49,91% параметров, после чего восстановлены компоненты SVD в пределах бюджета 0,1% по правилу gap. Чекпойнт предназначен для генерации текста и сравнительных экспериментов с безопасностью, а не для общего использования в качестве чат-ассистента. В README приведены метрики успешности атак AdvBench и StrongREJECT и показатель чрезмерного отказа на WildGuard; измерения иллюстрируют компромиссы безопасности и полезности, а не гарантируют безопасное поведение. Языковые и прикладные ограничения базовой модели сохраняются; базовая модель описана как ориентированная на общение на английском языке. Модель доступна в формате safetensors через Transformers. Лицензия — Llama 2; применяйте её с учётом условий лицензии Meta. README характеризует этот чекпойнт как экспериментальный объект и не рекомендует считать его готовым к развёртыванию без самостоятельной оценки.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Он предназначен для изучения влияния сжатия на безопасное поведение языковой модели и компромиссов между безопасностью и полезностью, а не для использования в качестве универсального чат-ассистента. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM примерно до 50% плотных параметров. Затем к ней применили семь из десяти запланированных раундов итеративной замены параметров по правилу disc_iter; бюджет полного прогона составляет 1% плотных параметров. Контекст — 4096 токенов. README приводит результаты измерений на наборах AdvBench, StrongREJECT и WildGuard, включая повышенную успешность атак после сжатия. Чекпойнт полезен для экспериментов по оценке устойчивости к вредоносным запросам и последствий сжатия. Измерения относятся к указанным тестам и не гарантируют поведение на других данных. Модель может демонстрировать ухудшенную безопасность; перед любым применением требуется отдельная оценка. Лицензия — Llama 2.

Это экспериментальный сжатый чекпойнт диалоговой модели Llama 2, подготовленный для изучения компромисса между безопасностью и полезностью. По README, исходная модель — meta-llama/Llama-2-7b-chat-hf; к чекпойнту применён метод SVD-LLM с удалением 50,01% параметров по правилу disc_iter. Архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов; модель работает с текстом и предназначена для диалоговой генерации. Карточка приводит результаты измерений на бенчмарках безопасности и подчёркивает, что некоторые варианты, включая этот исследуемый чекпойнт, могут быть менее безопасны, чем исходная Llama 2 Chat. Модель предназначена для экспериментов по оценке безопасности и полезности после сжатия, а не для применения в качестве готового ассистента. Лицензия — Llama 2.

Это экспериментальный исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста; контекст — до 4096 токенов. Репозиторий хранит веса в формате safetensors. Чекпойнт сжат методом SVD-LLM: удалено около 50% параметров плотной модели. Затем к нему применили семь из десяти раундов итеративной замены параметров по правилу disc_iter. Модель предназначена для сравнительных экспериментов по безопасности и качеству ответов, а не для роли универсального чат-ассистента. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. README сообщает, что сжатие повышает успешность атак в некоторых вариантах эксперимента и что отдельные модели в серии намеренно имеют сниженную безопасность относительно исходной Llama 2 Chat. Этот чекпойнт следует считать экспериментальным объектом и отдельно оценивать перед использованием. Лицензия — Llama 2; применяются её условия.

Это экспериментальный диалоговый чекпойнт на базе Llama 2 7B Chat, подготовленный авторами исследования влияния сжатия на безопасное поведение языковых моделей. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, использует формат safetensors и принимает текст для генерации текстовых ответов; контекст составляет 4096 токенов. Она получена сжатием SVD-LLM примерно на 50% параметров, а затем двумя раундами итеративной замены параметров по правилу gap_iter. Чекпойнт предназначен для изучения компромисса между безопасностью и полезностью после сжатия и для сравнения вариантов выбора компонентов при восстановлении поведения. В README приведены показатели атак на AdvBench и StrongREJECT, а также чрезмерного отказа по WildGuard. Модель не позиционируется как универсальный чат-ассистент и требует самостоятельной оценки перед использованием. Лицензия — Llama 2; её условия применяются к модели.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 7B Chat, разработанный для изучения влияния сжатия на безопасное поведение языковых моделей. Веса сжаты методом SVD-LLM до примерно половины исходного числа параметров, затем выполнены 3 из 5 раундов перестановки параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Модель предназначена для экспериментов по оценке компромисса между сжатием, полезностью и безопасностью, а также для сравнения правил восстановления поведения после сжатия. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; зафиксированы доли успешных атак 0,5404 и 0,3131 на первых двух наборах и макродоля избыточных отказов 0,1021 на WildGuard. Это не универсальный чат-ассистент и не готовая к развертыванию модель: отдельные варианты намеренно имеют ослабленное безопасное поведение. Перед применением результаты следует самостоятельно оценить. Лицензия — Llama 2; применяются её условия использования.

Исследовательский чекпойнт семейства Llama, созданный Jeesup на основе meta-llama/Llama-2-7b-chat-hf. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, использует формат safetensors и поддерживает контекст до 4096 токенов. Исходные веса сжаты методом SVD-LLM с удалением примерно половины параметров, после чего выполнены 6 из 10 раундов параметрически нейтральной замены компонентов по правилу gap_iter. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность ответов и как выбор компонентов для замены может изменить это поведение. Его можно использовать для сравнительных экспериментов по устойчивости к вредоносным запросам и по отказам от ответов; это не универсальный чат-ассистент. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Авторы отмечают, что сжатие может ухудшить защитное поведение, а отдельные варианты эксперимента намеренно имеют более слабые показатели безопасности, чем исходная модель. Модель распространяется по лицензии Llama 2; перед применением следует изучить её условия.

Это экспериментальный исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat, подготовленный авторами исследования сжатия моделей и безопасности поведения. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; нативная длина контекста — 4096 токенов. Веса сжаты методом SVD-LLM примерно до половины плотных параметров, после чего к ним применено 7 из 10 раундов перестановки параметров по правилу gap_iter. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасное поведение и какие правила отбора компонентов помогают его восстановить. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard. Авторы отмечают, что некоторые варианты в исследовательской сетке намеренно ухудшают показатели безопасности; этот вариант следует рассматривать как объект эксперимента, а не как готового универсального помощника. Для использования требуется соблюдать лицензию Llama 2. Результаты не гарантируют безопасное поведение в реальном применении; перед использованием следует самостоятельно оценить модель.

Jeesup/svd-safety-l2_remove60_sigma_b005 — исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и частично восстановленный по правилу sigma. После удаления 59,51% параметров модель содержит 40,5% параметров плотной исходной модели; для восстановления использован бюджет компонентов SVD в 0,5%. Число параметров — 6,6 млрд, архитектура — плотная LlamaForCausalLM, формат весов — safetensors, длина контекста — 4096 токенов. Модель создана для изучения того, как сжатие влияет на безопасность и полезность ответов и насколько выбранные компоненты помогают восстановить поведение. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в серии сравнений, а не универсальный чат-ассистент; автор предупреждает, что сжатие может ухудшать защиту от атак. Базовая модель ориентирована на общение на английском языке. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на основе Llama-3.1-8B-Instruct, предназначенный для изучения влияния сжатия SVD-LLM на безопасность и полезность языковых моделей. Веса сжаты до 50,1% от исходного числа параметров, а затем в пределах бюджета 0,1% восстановлены компоненты, выбранные по правилу disc. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и формат safetensors; нативная длина контекста — 131 072 токена. Она принимает текст и генерирует текст в диалоговом формате. Модель предназначена для исследовательских измерений компромиссов между сжатием, безопасностью и полезностью, в том числе для анализа показателей атакующих запросов и избыточных отказов. Карточка приводит результаты на AdvBench, StrongREJECT и WildGuard и предупреждает, что сжатие может ухудшать защиту от вредоносных запросов. Это экспериментальный объект для оценки, а не универсальный чат-ассистент. Лицензия — Llama 3.1.

Jeesup/svd-safety-l31_keep60_gap_b001 — исследовательский чекпойнт на базе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM примерно до 60,1% исходного числа параметров, а затем дополненный восстановленными компонентами SVD с бюджетом 0,1%, выбранными по правилу gap. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, поддержкой диалога и интерфейсом вызова инструментов; она принимает и генерирует текст, а заявленный контекст составляет 131 072 токена. Модель создана как один из вариантов экспериментальной сетки для изучения влияния SVD-сжатия на безопасность и полезность и восстановления поведения после сжатия. В README приведены результаты тестов AdvBench, StrongREJECT и WildGuard, а также отмечено, что сжатие может повысить успешность атак и ухудшить безопасное поведение. Чекпойнт не предназначен для общего диалогового применения или развёртывания без отдельной оценки. Лицензия — Llama 3.1.

Это экспериментальный чекпойнт на основе Meta Llama 3.1 8B Instruct, созданный в исследовании влияния сжатия на безопасность и полезность языковых моделей. Он предназначен для измерения того, как сжатие SVD и последующее редактирование параметров влияют на поведение модели, а не для использования в качестве универсального чат-ассистента. Веса сжаты методом SVD-LLM: удалено 20,02% параметров, после чего выполнено 9 из 10 раундов параметрически нейтрального обмена компонентами по правилу gap_iter. Размер модели по метаданным — 7,5 млрд параметров; архитектура — плотная LlamaForCausalLM, формат — safetensors, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; базовая модель поддерживает многоязычные диалоги и интерфейс вызова инструментов. В измерениях README указаны ASR 0,0000 на AdvBench, 0,0250 на StrongREJECT и макродоля чрезмерных отказов 0,4239 по WildGuard. Эти результаты относятся к конкретным оценочным наборам и не гарантируют аналогичного поведения в других сценариях. Модель является исследовательским артефактом; авторы рекомендуют оценивать её перед использованием. Лицензия — Llama 3.1.

Это исследовательский чекпойнт на основе Llama-3.1-8B-Instruct от Meta, сжатый методом SVD-LLM до 70% плотных параметров, а затем обработанный одним раундом параметрически нейтральной перестановки компонентов по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; базовый контекст составляет 131 072 токена. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов, а также для оценки восстановления поведения модели при выборе компонентов по разным правилам. Это одна экспериментальная конфигурация из набора сравнений, а не универсальный чат-ассистент. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Модель принимает текст и генерирует текст; унаследованные от базовой модели интерфейсы поддерживают диалог и вызов инструментов. Лицензия — Llama 3.1. Авторы предупреждают, что отдельные варианты эксперимента могут иметь ухудшенные показатели безопасности; этот чекпойнт следует рассматривать как экспериментальный объект, а не готовый к развёртыванию ассистент.