II.4Отладка, тестирование и качество ПО
В разделе собраны самостоятельные задачи, где AI помогает находить дефекты, строить проверки и повышать надёжность программного продукта. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 978 моделейQwen3-1.6B-A0.9B — небольшая тестовая MoE-модель для генерации текста, созданная разработчиком inference-optimization на основе конфигурации Qwen/Qwen3-30B-A3B. В README указаны 1,57 млрд параметров и около 0,9 млрд активируемых параметров; метаданные Hugging Face указывают 783 млн параметров. Архитектура — Qwen3 MoE с GQA, 10 слоями и 16 экспертами, из которых 8 активируются на токен. Контекст — 40 960 токенов. Модель предназначена для тестирования и разработки, а также для экспериментов с генерацией продолжений текста. Она была инициализирована случайными весами и дообучена на небольшом наборе интернет-копипаст; приведённый пример демонстрирует связное продолжение известной фразы. README сообщает о perplexity около 1,0 на валидационном тексте, но не приводит независимой оценки качества. Модель принимает и генерирует текст. В метаданных указана лицензия MIT. README прямо ограничивает назначение тестированием и разработкой, поэтому модель не следует считать пригодной для производственного применения.
theostos/qwen-3.5-babel-0.8b-sft-agent — текстовая модель семейства Qwen3.5, разработанная на основе Qwen/Qwen3.5-0.8B и дообученная методом supervised fine-tuning (SFT) на примерах формальных доказательств для Babel-Formal. Она предназначена для генерации тактик доказательства на Lean и Rocq с использованием родного шаблона чата Qwen и вызова инструмента submit_tactic. Выпуск завершает пять эпох обучения на 904 примерах; использованы ограничение последовательности в 12 288 токенов, глобальный размер пакета 32 и 145 обновлений оптимизатора. Модель имеет архитектуру Qwen3_5ForCausalLM, содержит 581,4 млн параметров и поддерживает контекст до 262 144 токенов. Это текстовая модель без кодировщика изображений; веса опубликованы в формате safetensors. Для запуска подходит Transformers, без установки NeMo и пользовательского кода модели. Карточка не приводит результатов бенчмарков, поэтому качество доказательств и обобщение на задачи вне обучающих примеров не подтверждены. Модель распространяется по лицензии Apache-2.0.
ScaleCUA-qwen3.5-scienceboard-sft — контрольная точка Qwen3.5-9B, разработанная ScaleCUA для управления графическим интерфейсом ScienceBoard. Это начальная версия после обучения с учителем (SFT), предназначенная для инициализации последующего онлайн-обучения с подкреплением; README указывает, что выпущенный агент соответствует отдельной контрольной точке после RL. Модель относится к плотной мультимодальной архитектуре Qwen3.5 и загружается через Transformers в формате safetensors. Она принимает изображения интерфейса вместе с текстовым запросом и формирует текстовые ответы, используемые агентом для работы с GUI. Карточка описывает сценарий запуска через OpenAI-совместимый сервер и оценочный runtime osworld_eval; подробные результаты отсылаются к статье SCALECUA. Модель специализирована на ScienceBoard, а не заявлена как универсальный компьютерный агент. Для этой версии не приведены конкретные показатели качества или перечень поддерживаемых действий. Лицензия в метаданных обозначена как other, поэтому условия использования следует сверить с карточкой репозитория.
Это исследовательский контрольный пункт на основе диалоговой модели Llama 2 7B Chat от Meta, сжатой методом Basis Sharing: общие базисы применяются к группам из двух соседних слоёв, а число параметров уменьшено на 50%. Затем к модели применили 10 раундов параметрически нейтральных замен весов по правилу swapgapnet_iter. Модель создана для изучения того, как SVD-сжатие влияет на безопасность и полезность языковых моделей, а также для измерения результатов выбранного способа восстановления поведения. Она принимает текст и генерирует текст; архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов. Базовая модель рассчитана прежде всего на диалог на английском языке. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Авторы подчёркивают, что отдельные варианты эксперимента могут быть менее безопасны, чем исходная Llama 2 7B Chat, поэтому этот чекпойнт предназначен для экспериментов и оценки компромисса между безопасностью и полезностью, а не для развёртывания как универсальный чат-ассистент. Указанная лицензия — Llama 2; её условия распространяются на использование модели.
Это экспериментальный чекпойнт диалоговой модели Llama 2 с 6,6 млрд параметров, созданный с помощью сжатия SVD-LLM и восстановления выбранных SVD-компонентов. Разработчик использует его в исследовании того, как сжатие влияет на безопасность ответов и можно ли восстановить защитное поведение модели. Чекпойнт предназначен для сравнительных экспериментов, а не для обычного общения или развёртывания в качестве ассистента. Модель основана на meta-llama/Llama-2-7b-chat-hf, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекст составляет 4096 токенов. В README приведены результаты измерений атак на безопасность и чрезмерных отказов, а также отмечено, что сжатие может ухудшать безопасное поведение. Лицензия — Llama 2; применяйте её условия при использовании модели.
Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat, сжатый методом SVD-LLM. Веса сохранены в формате Safetensors; в результате удалено 50% параметров исходной плотной модели, а восстановленные компоненты SVD не добавлялись. Модель содержит 6,6 млрд параметров, использует архитектуру Llama для генерации текста и поддерживает контекст до 4096 токенов. Чекпойнт создан для экспериментов с тем, как сжатие влияет на безопасность и полезность диалоговой модели, а также для измерения эффекта восстановления SVD-компонентов. В README приведены метрики атак и избыточных отказов на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка исследования, а не универсальный чат-ассистент; сжатие может ухудшать поведение модели в отношении безопасности. Для использования применяется лицензия Llama 2.
Экспериментальный чекпойнт Jeesup на основе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Веса сжаты методом SVD-LLM: удалено 50% параметров; README указывает бюджет восстановления компонентов 0% и правило отбора «unknown». Модель предназначена для исследования того, как SVD-сжатие влияет на безопасность и полезность ответов, а также для измерения компромиссов и проверки восстановления безопасного поведения. Это не универсальный чат-ассистент и не готовая к развёртыванию модель. В README приведены метрики атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard; авторы отмечают, что сжатие может ухудшать безопасность. Контекст составляет 4096 токенов, архитектура — плотная Llama для генерации текста, поддерживающая диалог. Лицензия — Llama 2.
Jeesup/svd-safety-l2_remove30_swapgapiter_b010_r03 — исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и частично скорректированный итеративным правилом gap_iter. В модели около 6,6 млрд параметров; после сжатия удалено примерно 30% параметров, а чекпойнт отражает третий из десяти раундов коррекции. Архитектура — плотная LlamaForCausalLM, формат весов — safetensors, контекст — до 4096 токенов. Модель принимает текст и генерирует текст в диалоговом режиме; базовая модель ориентирована на английский язык. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность и полезность ответов и насколько итеративная коррекция восстанавливает поведение модели. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в исследовательской сетке, а не универсальный ассистент; отдельные варианты этой серии намеренно демонстрируют ухудшение защитного поведения. Лицензия — Llama 2 Community License (llama2).
Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 7B Chat от Meta. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM: удалено 39,92% параметров, а 0,1% исходного бюджета выделено на восстановленные компоненты, выбранные по правилу discp. В репозитории около 6,6 млрд параметров, контекст — до 4096 токенов; модель принимает текст и генерирует текстовые ответы в диалоговом формате. Чекпойнт создан для исследования влияния сжатия на безопасность и полезность языковых моделей и сравнения способов восстановления поведения. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard, включая частоту успешных атак и чрезмерных отказов. Это отдельная точка исследовательской сетки, а не универсальный чат-ассистент; некоторые варианты эксперимента намеренно ухудшают безопасность. Использование регулируется лицензией Llama 2.
Это исследовательский чекпойнт семейства Llama 2, подготовленный как часть исследования сжатия и безопасности моделей. За основу взята диалоговая Meta Llama-2-7b-chat-hf; разработчик применил SVD-LLM, удалив около 40% параметров, а затем выполнил 6 из 10 раундов перестановки параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, формат Safetensors и контекст до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, а также изучения восстановления поведения после сжатия. В README приведены показатели атак на AdvBench и StrongREJECT и показатель избыточных отказов на WildGuard. Это экспериментальная ячейка исследовательской сетки, а не универсальный чат-ассистент; результаты следует оценивать на собственных тестах. Базовая модель рассчитана на общение на английском языке. Лицензия — Llama 2.
Это экспериментальный чекпойнт диалоговой модели Llama 2, подготовленный в рамках исследования влияния сжатия на безопасность ответов. За основу взята meta-llama/Llama-2-7b-chat-hf: модель сжата методом SVD-LLM примерно до 60% исходного числа параметров, после чего к ней применены 9 из 10 раундов итеративной замены параметров по правилу disc_iter. Архитектура — плотная авторегрессионная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов; основной сценарий — генерация текста в диалоге на английском языке. Чекпойнт создан для измерения компромиссов между сжатием, полезностью и безопасностью, а также для проверки методов восстановления поведения модели. В README приведены показатели успешности атак на AdvBench и StrongREJECT и доля чрезмерных отказов на WildGuard. Модель намеренно рассматривается как экспериментальный объект, а не готовый помощник; перед использованием результаты следует самостоятельно оценить. Лицензия — Llama 2.
Это экспериментальный чекпойнт Jeesup, созданный на основе диалоговой модели meta-llama/Llama-2-7b-chat-hf для изучения компромисса между безопасностью и полезностью при сжатии. В модели применён метод SVD-LLM: удалено 40,02% параметров, а для их отбора использовано правило disc_iter. Архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов; модель работает с текстом и предназначена для генерации диалоговых ответов. Карточка приводит результаты оценки атак и чрезмерных отказов, чтобы исследовать, как сжатие влияет на безопасность и полезность. Некоторые варианты намеренно менее безопасны, чем исходная Llama 2 Chat; этот чекпойнт авторы характеризуют как экспериментальный объект, а не готового к развёртыванию ассистента. Лицензия — Llama 2.
Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat с 7 млрд параметров. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM до 60% исходного числа параметров: удалено 40,02%. Затем к ней применили девять из десяти раундов итеративной замены параметров по правилу gap_iter; бюджет полного эксперимента составляет до 1% исходных параметров. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов, а также способов восстановления поведения модели. В README приведены метрики успешности атак AdvBench и StrongREJECT и показатель избыточного отказа WildGuard. Это не универсальный чат-ассистент: результаты описывают отдельную точку экспериментальной сетки и не гарантируют безопасного поведения. Модель принимает текст и генерирует текст, поддерживает диалог и имеет контекст длиной 4096 токенов. В метаданных указан английский язык базовой модели. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Llama 2; применяйте условия лицензии Meta.
Jeesup/svd-safety-l2_remove50_disciter_b010 — экспериментальная диалоговая языковая модель на архитектуре Llama, созданная на базе meta-llama/Llama-2-7b-chat-hf. Веса сжаты методом SVD-LLM: удалено около 49% параметров; размер модели составляет 6,6 млрд параметров, контекст — до 4096 токенов. Модель предназначена для изучения компромисса между безопасностью и полезностью при сжатии языковых моделей. Контрольные измерения включают успешность атак на AdvBench и StrongREJECT, а также долю избыточных отказов по WildGuard. README предупреждает, что сжатие может повышать успешность атак и что этот чекпойнт следует считать экспериментальным объектом, а не готовым ассистентом. Базовая модель ориентирована на диалог на английском языке; лицензия — Llama 2.
Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, изменённый в рамках эксперимента по сжатию и восстановлению защитного поведения. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; длина контекста — 4096 токенов. Веса сжаты методом SVD-LLM до 50% от плотной модели, после чего выполнены 6 из 10 раундов параметрически нейтральной замены компонентов по правилу disc_iter. Чекпойнт предназначен для измерения влияния сжатия на безопасность и полезность модели и для изучения восстановления защитного поведения. Он может служить экспериментальным объектом при оценке атакоустойчивости и склонности к чрезмерным отказам. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в исследовательской сетке, а не универсальный чат-ассистент. README указывает, что некоторые варианты эксперимента намеренно имеют ослабленную безопасность; данный чекпойнт следует самостоятельно оценивать перед использованием. Лицензия — Llama 2.
Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Он предназначен для изучения влияния сжатия на безопасное поведение языковой модели и компромиссов между безопасностью и полезностью, а не для использования в качестве универсального чат-ассистента. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM примерно до 50% плотных параметров. Затем к ней применили семь из десяти запланированных раундов итеративной замены параметров по правилу disc_iter; бюджет полного прогона составляет 1% плотных параметров. Контекст — 4096 токенов. README приводит результаты измерений на наборах AdvBench, StrongREJECT и WildGuard, включая повышенную успешность атак после сжатия. Чекпойнт полезен для экспериментов по оценке устойчивости к вредоносным запросам и последствий сжатия. Измерения относятся к указанным тестам и не гарантируют поведение на других данных. Модель может демонстрировать ухудшенную безопасность; перед любым применением требуется отдельная оценка. Лицензия — Llama 2.
Jeesup/svd-safety-l2_remove50_swapdisciter_r06 — экспериментальная сжатая версия диалоговой модели Meta Llama 2, подготовленная для изучения влияния сжатия на безопасность и полезность ответов. По данным карточки, она основана на meta-llama/Llama-2-7b-chat-hf и создана методом SVD-LLM с удалением примерно 50% параметров по правилу отбора disc_iter. Архитектура — плотная LlamaForCausalLM; модель содержит 6,6 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов. Модель предназначена для экспериментов и сравнительной оценки компромиссов между сжатием, безопасностью и полезностью диалоговых языковых моделей. В README приведены показатели успешности атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Это экспериментальный объект, который сам README не рекомендует использовать как готового ассистента. Лицензия — Llama 2; применяются её условия.
Jeesup/svd-safety-l2_remove50_swapgap_b001 — исследовательский чекпойнт на основе диалоговой Llama-2-7b-chat от Meta. Модель сжата методом SVD-LLM: удалено 50,01% параметров, после чего восстановлены компоненты SVD с бюджетом 0,1% по правилу swapgap. Это один вариант из серии экспериментов по изучению влияния сжатия на безопасность и полезность ответов, а не универсальный чат-ассистент. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью сжатой модели, а также для оценки восстановления её поведения. В README приведены показатели успешности атак на наборах AdvBench и StrongREJECT и показатель избыточного отказа на WildGuard. Модель принимает текстовые запросы и генерирует текстовые ответы; базовая модель рассчитана на общение на английском языке. Контекст составляет 4096 токенов, размер — 6,6 млрд параметров. В README отмечено, что сжатие может ухудшать безопасное поведение, а отдельные варианты эксперимента намеренно менее безопасны, чем исходная Llama-2-7b-chat. Поэтому чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед использованием. Лицензия — Llama 2.
Это исследовательский вариант диалоговой модели Llama 2, подготовленный авторами исследования влияния сжатия на безопасность и полезность языковых моделей. В основе лежит meta-llama/Llama-2-7b-chat-hf: веса сжаты методом SVD-LLM примерно до 50% плотных параметров, после чего выполнены 4 из 10 раундов перестановки параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Модель предназначена для измерения компромиссов между сжатием, безопасностью и полезностью, а также для оценки того, как перестановка параметров влияет на поведение модели. В README приведены показатели атак на AdvBench и StrongREJECT и показатель избыточных отказов на WildGuard. Это экспериментальная точка исследовательской сетки, а не универсальный чат-помощник: безопасность может быть снижена относительно исходной Llama 2, поэтому результаты требуют самостоятельной оценки. Лицензия — Llama 2.
Это экспериментальный чекпойнт семейства Llama, созданный в исследовании влияния сжатия на безопасность диалоговых языковых моделей. В основе лежит meta-llama/Llama-2-7b-chat-hf: веса сжаты методом SVD-LLM примерно до половины исходного числа параметров, после чего выполнено 8 из 10 раундов перестановки параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовый контекст длиной до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, а также для изучения восстановления отдельных характеристик после сжатия. README приводит метрики отказов и успешности атак на AdvBench и StrongREJECT, но не описывает модель как универсального помощника. Языки явно не перечислены; базовая модель предназначена прежде всего для общения на английском. Репозиторий использует формат safetensors и лицензию Llama 2, условия которой следует соблюдать при использовании и распространении.
Это исследовательский контрольный чекпойнт диалоговой языковой модели Llama 2, созданный в рамках исследования влияния сжатия на безопасность и полезность ответов. Модель разработана на основе meta-llama/Llama-2-7b-chat-hf и сжата методом SVD-LLM: удалено около 60% параметров, после чего восстановлены SVD-компоненты с бюджетом 0,1%, выбранные по правилу swapdisc. Архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов. Модель предназначена для измерения компромиссов между сжатием и безопасностью, а также для сравнения правил восстановления компонентов. В README приведены показатели успешности атак на AdvBench и StrongREJECT и метрика избыточного отказа WildGuard. Чекпойнт не следует использовать как универсального чат-ассистента: некоторые варианты исследования намеренно демонстрируют снижение безопасности, а этот вариант следует оценивать как экспериментальный объект. Лицензия — Llama 2.
Это исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, созданный Jeesup для изучения влияния сжатия на безопасность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Чекпойнт сжат методом Swift-SVD с восстановлением LoRA до 60% исходного числа параметров, затем прошёл 10 раундов итеративной замены параметров по правилу gap_iter. Модель предназначена для экспериментов по оценке компромисса между безопасностью и полезностью сжатых языковых моделей, а не для обычного диалогового применения. В README приведены результаты оценок атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Лицензия — Llama 2; применяйте её условия. Результаты и поведение этого экспериментального чекпойнта требуют самостоятельной проверки.
Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat с 6,6 млрд параметров. Он сжат методом Swift-SVD с восстановлением LoRA до примерно половины исходного числа параметров, после чего прошёл 10 раундов перестановки параметров по правилу gap_iter. Модель предназначена для изучения влияния сжатия на безопасность и полезность ответов, а также оценки методов восстановления поведения. Она поддерживает генерацию текста и диалог на английском языке; максимальный контекст составляет 4096 токенов. В README приведены показатели атак для AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard. Чекпойнт является экспериментальным объектом, а не универсальным чат-ассистентом: авторы предупреждают, что сжатие может ухудшать защитное поведение, и рекомендуют оценивать его перед использованием. Лицензия — Llama 2 Community License.
Jeesup/svd-safety-l31_keep60_gap_b001 — исследовательский чекпойнт на базе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM примерно до 60,1% исходного числа параметров, а затем дополненный восстановленными компонентами SVD с бюджетом 0,1%, выбранными по правилу gap. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, поддержкой диалога и интерфейсом вызова инструментов; она принимает и генерирует текст, а заявленный контекст составляет 131 072 токена. Модель создана как один из вариантов экспериментальной сетки для изучения влияния SVD-сжатия на безопасность и полезность и восстановления поведения после сжатия. В README приведены результаты тестов AdvBench, StrongREJECT и WildGuard, а также отмечено, что сжатие может повысить успешность атак и ухудшить безопасное поведение. Чекпойнт не предназначен для общего диалогового применения или развёртывания без отдельной оценки. Лицензия — Llama 3.1.
Экспериментальный чекпойнт Jeesup на основе Meta Llama 3.1 8B Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность языковых моделей. Весовые параметры сжаты методом SVD-LLM примерно до 60% от исходного объёма, после чего выполнено 10 раундов итеративной замены параметров по правилу gap_iter. Модель рассчитана на исследовательские измерения генерации текста и поведения в диалогах, а не на роль универсального чат-ассистента. В исследовании приводятся результаты тестов AdvBench, StrongREJECT и WildGuard; авторы отмечают рост успешности атак после сжатия и предупреждают, что отдельные варианты могут иметь намеренно ухудшенную безопасность. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Для запуска указана библиотека Transformers и формат safetensors. Модель является дообученной производной meta-llama/Llama-3.1-8B-Instruct и распространяется по лицензии Llama 3.1. Чекпойнт следует считать экспериментальным объектом и самостоятельно оценивать до использования; README не рекомендует рассматривать его как готового к развёртыванию ассистента.
Это исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM: удалено около 20% параметров. Затем к нему применили 5 из 10 раундов итеративной параметрически нейтральной перестановки компонентов по правилу gap_iter; модель содержит около 7,5 млрд параметров и использует архитектуру LlamaForCausalLM. Она предназначена для экспериментов с тем, как сжатие влияет на безопасность ответов и как выбранное правило перестановки меняет этот эффект, а не для обычного применения в качестве чат-ассистента. Модель принимает текст, поддерживает диалоговый режим и имеет контекст до 8192 токенов; базовая модель ориентирована на генерацию текста на английском языке. В README приведены результаты оценки безопасности: доля успешных атак составила 0,0350 на AdvBench и 0,0700 на StrongREJECT, а макроуровень избыточных отказов — 0,1325 на WildGuard. Эти значения относятся к конкретным оценкам и не гарантируют поведение в других сценариях. Репозиторий распространяется по лицензии Llama 3; README предупреждает, что отдельные варианты исследования могут иметь ухудшенные характеристики безопасности и требуют самостоятельной оценки перед любым применением.
Это исследовательский чекпойнт на базе Meta-Llama-3-8B-Instruct, разработанный для изучения влияния сжатия и перестановки параметров на поведение модели в задачах безопасности. Весы сжаты методом SVD-LLM: удалено 30,01% параметров, после чего выполнен один из десяти раундов параметрически нейтральной перестановки по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и формат safetensors; контекст — до 8192 токенов. Она принимает текст и генерирует текст в диалоговом режиме. Модель предназначена для измерения компромиссов между безопасностью и полезностью сжатых языковых моделей, в частности для анализа успешности атак и чрезмерных отказов. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант из серии исследований, а не универсальный чат-ассистент. Сжатие может ухудшать защитное поведение; результаты этой версии требуют самостоятельной оценки и не подтверждают пригодность для развертывания. Лицензия — Llama 3.
Это исследовательский контрольный пункт на основе Meta-Llama-3-8B-Instruct, созданный для изучения влияния сжатия на безопасность ответов. Модель семейства Llama с плотной архитектурой содержит 7,5 млрд параметров, использует формат safetensors и принимает текст для генерации текста. В метаданных указан контекст 8192 токена и поддержка диалогового режима. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, оставив 60% исходного числа. Затем к модели применили 10 итераций параметрически нейтральной замены по правилу gap_iter. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью сжатых моделей, а не для общего использования в качестве чат-ассистента. В README приведены оценки атакуемости и чрезмерных отказов на тестовых наборах; они характеризуют этот экспериментальный вариант. Модель ориентирована на английский язык, как и базовая модель. Лицензия — Llama 3; условия использования определяются её лицензией.
Экспериментальный чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность диалоговых языковых моделей. Веса сжаты методом SVD-LLM примерно до половины исходного числа параметров, после чего применены 3 из 10 раундов итеративного параметрически нейтрального обмена параметрами по правилу gap_iter. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и принимает текст для генерации текста; контекст — 8192 токена. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard, включая повышенную долю успешных атак после сжатия и показатель чрезмерных отказов. Чекпойнт предназначен для исследовательского сравнения компромиссов между безопасностью и полезностью, а не для использования как универсальный чат-ассистент. Лицензия — Llama 3; применяйте её условия и самостоятельно оценивайте поведение модели перед использованием.
Это исследовательский чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct, сжатый методом Swift-SVD: удалено 30% параметров, после чего модель восстановлена последовательным LoRA-дообучением по схеме SVD-LLM. Модель использует плотную архитектуру LlamaForCausalLM, содержит около 7,5 млрд параметров и имеет контекст до 8192 токенов. Репозиторий распространяет веса в формате safetensors. Чекпойнт предназначен для изучения того, как SVD-сжатие влияет на безопасность и полезность ответов, а также насколько LoRA-восстановление меняет эти эффекты. В README приведены результаты оценок атак на безопасность и чрезмерных отказов; это экспериментальная точка в исследовательской сетке, а не универсальный разговорный ассистент. Модель принимает текст и генерирует текст; базовая модель рассчитана на диалоги преимущественно на английском языке. Лицензия — Llama 3, с условиями использования Meta для этой лицензии.