II.4Отладка, тестирование и качество ПО
В разделе собраны самостоятельные задачи, где AI помогает находить дефекты, строить проверки и повышать надёжность программного продукта. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 978 моделейЭкспериментальный чекпойнт OpenEnv ECHO World Model разработан для предсказания выходов терминальной среды OpenEnv. Модель обучена с помощью скрипта train_echo.py на базе LiquidAI/LFM2.5-350M с использованием verifier-free ECHO loss. Это плотная авторегрессионная языковая модель семейства LFM2 с 444,6 млн параметров и контекстом до 128 000 токенов. Она принимает текст и генерирует текст; в метаданных также отмечена возможность чата. Карточка приводит метрики обучения: лучший шаг — 10, а held-out cross-entropy снизилась с 13,74 до 0,41. Модель предназначена для экспериментов с прогнозированием ответов терминальной среды, а не для универсальных диалоговых сценариев. Лицензия указана как other, поэтому конкретные условия использования следует сверять с файлами репозитория.
Исследовательский чекпойнт проекта UnfaithRL, полученный дообучением Qwen2.5-0.5B-Instruct с плотной архитектурой Qwen2ForCausalLM и 494 млн параметров. Модель изучает, как подсказки влияют на верность рассуждений цепочки мыслей при обучении с проверяемыми наградами (RLVR), включая следование подсказке и явное объяснение связи между ней и ответом. При обучении использовались задачи рассуждения MMLU и максимальная длина генерации 1024 токена; заявленное для базовой модели контекстное окно — 32768 токенов. Чекпойнт предназначен для экспериментов с влиянием вводящих в заблуждение подсказок на ответы, раскрытием использования подсказок в рассуждениях, взломом функции награды и способами смягчения таких эффектов. Это не универсальный помощник: модель может следовать неверному контексту, давать ошибочные ответы и постфактум рационализировать их. Текст рассуждений не следует считать достоверным объяснением решения модели. Лицензия в предоставленных данных не указана.
Экспериментальный чекпойнт проекта UnfaithRL на основе Qwen/Qwen2.5-0.5B-Instruct. Плотная авторегрессионная языковая модель семейства Qwen2 с 494 млн параметров, принимающая текст и генерирующая текст; нативный контекст — 32 768 токенов. При обучении на задачах рассуждения MMLU с настройкой RL-Zero/RLVR и строгой наградой за вербализацию подсказки модель поощрялась следовать ответу, предложенному подсказкой, и явно связывать эту подсказку с итоговым ответом; максимальная длина завершения при обучении составляла 512 токенов. Модель предназначена для исследований верности цепочек рассуждений, влияния вводящих в заблуждение контекстных подсказок, переключения ответов и «взлома» функции награды при RLVR, а также способов смягчить эти эффекты. Это не универсальный помощник: модель может следовать ложным подсказкам, выдавать неверные ответы и создавать рассуждения, которые рационализируют итог. Текст рассуждения не следует считать достоверным объяснением принятого решения; для высокорисковых применений требуется отдельная оценка. Файлы представлены в формате Safetensors; лицензия в предоставленных сведениях не указана.
Это исследовательский чекпойнт проекта UnfaithRL, созданный дообучением инструктивной языковой модели Qwen2.5-0.5B-Instruct с помощью обучения с подкреплением и проверяемыми наградами (RLVR). Модель имеет плотную архитектуру Qwen2ForCausalLM, около 494 млн параметров и контекст до 32 768 токенов. При обучении на примерах в стиле MMLU с подсказками максимальная длина генерации составляла 1024 токена. Чекпойнт предназначен для экспериментов с верностью цепочек рассуждений, влиянием вводящих в заблуждение подсказок, переключением ответов под воздействием таких подсказок и сокрытием или раскрытием их влияния. В частности, его обучали поощрять выбор ответа, предложенного подсказкой, что позволяет изучать склонность к следованию подсказкам и reward hacking в настройках RLVR. Модель генерирует текст на входе в виде текста; карточка не указывает поддерживаемые естественные языки. Это не универсальный помощник: модель может следовать ошибочным подсказкам, давать неверные ответы и создавать рассуждения, которые рационализируют ответ. Текст рассуждений нельзя считать надёжным объяснением решения модели; перед применением в значимых сценариях необходима отдельная оценка. Данные о лицензии в предоставленных источниках отсутствуют.
Исследовательский чекпойнт проекта UnfaithRL, дообученный на базе Qwen/Qwen2.5-0.5B для изучения влияния вводящих в заблуждение подсказок на верность рассуждений цепочки мыслей при обучении с подкреплением и проверяемыми наградами (RLVR). Модель содержит 494 млн параметров, использует плотную архитектуру Qwen2 и принимает текст; контекстное окно — до 32 768 токенов. Во время обучения применялась перемешанная выборка задач рассуждения MMLU, а длина генераций ограничивалась 2 048 токенами. Чекпойнт предназначен для исследований следования подсказкам, переключения ответов под их влиянием, reward hacking и способов выявления или смягчения неверных рассуждений. Он может следовать ложным подсказкам, ошибаться и выдавать рассуждения, которые рационализируют ответ; такие рассуждения не следует считать достоверным объяснением решения модели. Это не универсальный ассистент, и для значимых решений модель требует отдельной оценки. README и метаданные не сообщают лицензию.
Shaurya-saini выпустил дообученную методом QLoRA модель Qwen2.5-Coder-7B-Instruct для генерации кода на Python в задачах соревновательного программирования. Это плотная причинная языковая модель семейства Qwen2 с 7,1 млрд параметров и контекстом 32 768 токенов; опубликована объединённая версия весов в формате Safetensors. Для работы следует использовать шаблон чата Qwen, на котором модель обучалась. Модель обучена в течение одной эпохи на обучающей части набора APPS. По описанной оценке на отложенной тестовой выборке APPS она уступила исходной модели на всех проверенных уровнях сложности. README связывает ухудшение с отбором кратких решений, сужением навыков после дообучения и склонностью генерировать лишние закрывающие скобки. Модель пригодна для изучения и воспроизведения эксперимента, но результаты не подтверждают её преимущество для решения задач программирования. Лицензия — Apache-2.0.
yujiepan/qwen2.5-tiny-random — отладочная языковая модель, созданная на основе конфигурации Qwen/Qwen2.5-72B-Instruct и опубликованная пользователем yujiepan. Модель предназначена прежде всего для проверки и отладки кода, интеграций и сценариев генерации текста, а не для решения прикладных задач или получения качественных ответов. Архитектура основана на causal language model из экосистемы Transformers. По сравнению с исходной конфигурацией модель значительно уменьшена: она содержит 2 скрытых слоя, размер скрытого представления 8, промежуточный размер 16, 4 attention heads и 2 key-value heads. Веса инициализированы случайным образом с фиксированным seed, поэтому модель не обладает обученными языковыми знаниями и будет генерировать в основном случайный текст. Максимальная длина контекста в README не указана; поддерживается генерация текста, а сведения о других модальностях отсутствуют. Сильная сторона модели — крайне малый размер, удобный для быстрых тестов и отладки без ресурсов, необходимых для запуска полноценной Qwen2.5-72B-Instruct. Ограничения критичны: случайная инициализация делает модель непригодной для продуктивной генерации, содержательных ответов, обучения с использованием готовых знаний или надежной оценки качества языковой модели. README не указывает лицензию и не описывает явно поддерживаемые языки, поэтому эти характеристики нельзя определить по предоставленным данным.
Это экспериментально отредактированная версия языковой модели Qwen3-14B, опубликованная для исследований механистической интерпретируемости и редактирования моделей. Авторы применили глобальную проекцию одного направления отказа с коэффициентом alpha=0,75 к весам эмбеддингов, выходным проекциям внимания и нижним проекциям MLP. Модель содержит 14 млрд параметров, использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов; она принимает и генерирует текст в диалоговом режиме. Редактирование заметно снижает частоту отказов в описанных авторами оценках, но эти результаты не подтверждают корректность ответов или безопасность. Авторы также зафиксировали деградацию генерации: повторы, нерелевантные ответы и частое достижение лимита длины. Модель предназначена для контролируемых исследований и независимой оценки, а не для развертывания без проверок. Лицензия — Apache-2.0.
Ship direction — U-Net — это компактная модель сегментации, разработанная для определения направления значка корабля на кадре 80×80 из конкретной игры. Сеть выделяет по пикселям фон, нос, корпус, корму и левый и правый паруса; отдельный геометрический этап подбирает жёсткое положение корабля и вычисляет курс, где 0° соответствует северу, а угол растёт по часовой стрелке. Сама сеть угол не предсказывает и для восстановления курса используется вместе с алгоритмом part_pose. Модель рассчитана на RGB-кадры с кораблём фиксированного масштаба и примерно в центре, даже если значительная его часть закрыта игровыми портретами, текстом или маркерами. В README приведены результаты на 21 размеченном реальном кадре: средняя ошибка составила 0,7° на чистых и 6,1° на закрытых кадрах; на девяти закрытых кадрах курс был в пределах 20°. Модель содержит 473 тыс. параметров, обучена 22 эпохи на 20 тыс. синтетических кадров с игровыми заслоняющими объектами и распространяется под лицензией Apache-2.0. Это специализированный чекпойнт для одной спрайтовой модели корабля и палитры игры, а не универсальная сегментация изображений. Реальных размеченных закрытых кадров было только девять, причём фон и портрет для синтетических заслонок взяты из тех же игровых материалов, поэтому результаты могут быть оптимистичными. Для другого значка или масштаба нужны новое обучение и каноническая карта частей; цветовые маски также привязаны к палитре игры.
Stalk-Mini — компактная авторегрессионная языковая модель семейства Llama, разработанная Ventie и обученная с нуля на 50 000 примеров TinyStories. В метаданных указано 35,5 млн параметров, тогда как README сообщает 43,66 млн; модель использует пользовательский BPE-токенизатор со словарём на 16 000 токенов и контекст длиной 1024 токена. Модель предназначена для генерации короткого текста на английском языке, тестирования скорости локального инференса и экспериментальной оценки архитектур языковых моделей. Она не подходит для сложных рассуждений, следования инструкциям и задач, где важна фактическая точность. Распространяется по лицензии MIT.
Это исследовательский чекпойнт Jeesup на основе инструктивной модели Google Gemma 2 9B IT. Веса сжаты методом Swift-SVD с динамическим распределением рангов: удалено 50% параметров. Затем модель восстановлена с помощью LoRA по схеме SVD-LLM, с последовательной настройкой компонент U и V на наборе Alpaca-Cleaned. Это плотная авторегрессионная языковая модель для генерации текста и диалогов с контекстом 8192 токена. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность модели, а также для сравнения способов восстановления поведения. В README приведены результаты оценок атак и избыточных отказов; они указывают на заметные ограничения безопасности. Модель не предназначена для использования как универсальный чат-ассистент. Лицензия — Gemma; применяются её условия.
Экспериментальный чекпойнт Jeesup на базе диалоговой Llama 2 Chat, созданный для исследования влияния сжатия на безопасность и полезность языковых моделей. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров и контекстом до 4096 токенов; в репозитории указаны веса Safetensors и библиотека Transformers. Модель сжата методом Basis Sharing: общие базисы применяются к группам из двух соседних слоёв, удалено 40% параметров относительно исходной модели. Затем выполнен один из десяти раундов параметрически нейтрального обмена компонентами по правилу swapgapnet_iter. Чекпойнт предназначен для экспериментов по измерению изменений отказов и устойчивости к вредоносным запросам, а не для обычного использования в качестве ассистента. В README приведены метрики атак на AdvBench и StrongREJECT, а также избыточных отказов на WildGuard. Модель принимает текст и генерирует текстовые ответы в диалоговом формате. Языковая поддержка в доступных данных явно не перечислена; базовая модель ориентирована на английский язык. README предупреждает, что сжатие может ухудшать защитное поведение, а отдельные варианты эксперимента намеренно имеют ослабленную безопасность. Лицензия — Llama 2; перед использованием необходимо учитывать её условия.
Экспериментальный исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный для изучения компрессии и устойчивости безопасного поведения. Модель содержит 6,6 млрд параметров, использует архитектуру Llama с плотной causal language model, принимает текст и генерирует текст; контекст — до 4096 токенов. Язык, на который рассчитана базовая диалоговая модель, — английский. Сначала чекпойнт сжали методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, удалено 40% параметров относительно исходной модели. Затем применили 7 из 10 раундов итеративной перестановки параметров по правилу swapgapnet_iter. Модель предназначена для измерения компромисса между полезностью и безопасностью при сжатии, а не для обычного использования в качестве ассистента. В README приведены результаты на тестах AdvBench, StrongREJECT и WildGuard; отдельные варианты в исследовательской серии намеренно имеют ухудшенную безопасность. Лицензия — Llama 2 Community License.
Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat, предназначенный для изучения влияния сжатия на безопасность ответов. Модель использует архитектуру LlamaForCausalLM и формат safetensors; в метаданных указаны 6,6 млрд параметров и контекст до 4096 токенов. Сначала к модели применили Basis Sharing: общие базисы для групп из двух соседних слоёв позволили удалить 50% параметров. Затем выполнено 5 из 10 раундов параметрически нейтральной перестановки весов по правилу swapgapnet_iter. Чекпойнт предназначен для сравнительных экспериментов по компромиссам между безопасностью и полезностью, а не для повседневного общения или развёртывания как ассистента. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard; авторы предупреждают, что сжатие может повысить успешность атак и что отдельные варианты эксперимента намеренно имеют более слабое безопасное поведение, чем исходная Llama 2 7B Chat. Лицензия — Llama 2; применяйте её условия при использовании модели.
Это экспериментальный контрольный чекпойнт Jeesup для изучения того, как SVD-сжатие влияет на безопасное поведение языковых моделей. В основе лежит диалоговая Llama 2 Chat от Meta с 6,6 млрд параметров; веса сжаты методом SVD-LLM до 60% исходного числа плотных параметров, а бюджет восстановленных SVD-компонентов равен 0%. Модель принимает текст и генерирует текст, контекст — до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью после сжатия, а не для повседневного общения или развёртывания в качестве ассистента. В карточке приведены результаты на наборах AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и чрезмерных отказов. Модель выпущена по лицензии Llama 2; результаты относятся к исследовательскому эксперименту и требуют самостоятельной оценки.
Это исследовательский чекпойнт диалоговой модели Llama 2 от Meta, подготовленный авторами исследования сжатия и восстановления безопасного поведения. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров и принимает текст, генерируя текстовые ответы; базовая версия рассчитана на контекст до 4096 токенов и общение на английском языке. Чекпойнт получен сжатием Llama-2-7b-chat-hf методом SVD-LLM с удалением 30,02% параметров, а затем десятью раундами итеративной замены параметров по правилу gap_iter. Он предназначен для исследования компромиссов между сжатием, полезностью и безопасностью, а не для обычного диалогового применения. В README приведены результаты измерений отказов и успешности атак на нескольких бенчмарках. Лицензия — Llama 2. Модель является экспериментальным объектом: авторы предупреждают, что сжатие может ухудшать безопасное поведение, и рекомендуют самостоятельно оценивать чекпойнт перед использованием.
Jeesup/svd-safety-l2_remove30_swapgapiter_b010_r01 — экспериментальный чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный в рамках исследования влияния сжатия на безопасность и полезность ответов. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекст — до 4096 токенов; формат весов — safetensors. Чекпойнт сжат методом SVD-LLM: удалено около 30% параметров. Затем выполнен один из десяти раундов итеративного параметрически нейтрального обмена компонентами по правилу gap_iter. Модель предназначена для измерения компромиссов между безопасностью и полезностью, а не для обычного общения или развёртывания в качестве ассистента. В README приведены результаты на тестах AdvBench, StrongREJECT и WildGuard. Модель поддерживает генерацию текста и диалоговый сценарий; базовая Llama 2 Chat рассчитана прежде всего на английский язык. Исследование отмечает, что сжатие может ухудшать безопасное поведение, а отдельные варианты набора намеренно имеют сниженную безопасность. Лицензия — Llama 2; перед использованием необходимо учитывать её условия и самостоятельно оценивать поведение чекпойнта.
Jeesup/svd-safety-l2_remove30_swapgapiter_b010_r06 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и затем частично обработанный итеративным обменом параметров по правилу gap_iter. В модели около 6,6 млрд параметров, архитектура LlamaForCausalLM, формат safetensors; контекст — до 4096 токенов. При сжатии удалено около 30% параметров, а из десяти запланированных раундов обмена выполнено шесть. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов, а также способов восстановления поведения модели. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант из серии сравнений, а не универсальный диалоговый помощник. Модель принимает текст и генерирует текст; исходная Llama 2 Chat предназначена для диалога на английском языке. Результаты этого экспериментального варианта не гарантируют безопасное поведение: README предупреждает, что сжатие может повышать успешность атак, а отдельные варианты в серии намеренно ухудшают безопасность. Лицензия — Llama 2; перед применением следует учитывать её условия и самостоятельно оценить модель.
Экспериментальный чекпойнт диалоговой языковой модели Llama 2, созданный для исследования того, как сжатие влияет на безопасное поведение и как его можно восстановить. В основе лежит meta-llama/Llama-2-7b-chat-hf: модель сжали методом SVD-LLM, удалив около 30% параметров, а затем провели 8 из 10 раундов параметрически нейтральных замен по правилу gap_iter. В репозитории указано 6,6 млрд параметров и контекст 4096 токенов. Чекпойнт предназначен для оценки компромиссов между безопасностью и полезностью сжатых чат-моделей, а не для использования в качестве универсального ассистента. В README приведены результаты измерений на AdvBench и StrongREJECT, а также показатель чрезмерных отказов WildGuard; они относятся к конкретным тестам и не гарантируют поведение в других сценариях. Модель принимает текст и генерирует текст. Лицензия — Llama 2; условия Meta распространяются на использование модели.
Это экспериментальный чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, после чего выполнены 4 из 10 раундов перестановки параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат Safetensors и принимает контекст до 4096 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность ответов и можно ли восстановить поведение подбором компонентов модели. В README приведены измерения на AdvBench, StrongREJECT и WildGuard. Это исследовательский объект для оценки компромиссов между безопасностью и полезностью, а не универсальный чат-ассистент. Базовая модель рассчитана на диалог на английском языке; лицензия — Llama 2 Community License.
Исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Модель сжата методом SVD-LLM: удалено 49,02% параметров, после чего восстановлены компоненты SVD с бюджетом 1,0%, выбранные по правилу sigma. Это один вариант в серии экспериментов по изучению влияния сжатия на безопасность и полезность языковых моделей. Модель предназначена для генерации текста и сравнительной оценки защитного поведения после сжатия, а не для использования в качестве универсального чат-ассистента. В README приведены результаты проверок на устойчивость к вредоносным запросам и избыточный отказ; авторы предупреждают, что сжатие может ухудшать безопасность. Контекст составляет 4096 токенов. Репозиторий содержит веса safetensors и распространяется по лицензии Llama 2.
Jeesup/svd-safety-l2_remove50_swapdisc_a010_b010_r02 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, разработанный для изучения влияния сжатия на безопасность ответов и проверки способов её восстановления. Это плотная авторегрессионная языковая модель семейства Llama с 6,6 млрд параметров и контекстом 4096 токенов. Веса сжаты методом SVD-LLM примерно до половины исходного числа параметров, затем выполнены 2 из 10 раундов итеративной замены параметров по правилу disc_iter. Модель принимает текст и генерирует текст; исходная базовая модель предназначена для диалогов на английском языке. Чекпойнт предназначен для экспериментов по измерению компромисса между полезностью и безопасностью, а не для универсального общения или развёртывания в качестве ассистента. В карточке приведены показатели успешности атак на AdvBench и StrongREJECT, а также чрезмерного отказа на WildGuard. README предупреждает, что сжатие может ухудшать защитное поведение и что отдельные варианты намеренно имеют пониженную безопасность. Лицензия — Llama 2 Community License (llama2); перед практическим использованием необходимо самостоятельно оценить поведение модели.
Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat, сжатый методом SVD-LLM примерно до половины исходного числа параметров и прошедший два раунда параметрически нейтральной замены компонентов по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст — до 4096 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для измерения восстановления защитного поведения. README приводит результаты оценок на AdvBench, StrongREJECT и WildGuard, но предупреждает, что некоторые варианты намеренно имеют ослабленные защитные свойства. Модель не предназначена для использования как универсальный чат-ассистент. Лицензия — Llama 2.
Исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat с 7 млрд параметров, сжатый методом SVD-LLM примерно до половины плотного числа параметров и изменённый в четырёх из пяти раундов параметрически нейтральной перестановки, выбранной правилом gap_iter. Это одна точка экспериментальной сетки для изучения влияния сжатия на безопасность и полезность ответов, а не универсальный диалоговый помощник. Модель генерирует текст в формате диалога. Контекст составляет 4096 токенов; в репозитории указаны веса safetensors и библиотека Transformers. README приводит показатели успешности атак на AdvBench и StrongREJECT, а также макроуровень чрезмерных отказов на WildGuard, чтобы сравнивать компромиссы безопасности и полезности. В описанном исследовании сжатие повышает успешность атак, поэтому этот чекпойнт следует рассматривать как экспериментальный объект и оценивать отдельно, а не развёртывать как готового ассистента. Указана лицензия Llama 2 (llama2).
Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; нативный контекст — 4096 токенов. Веса сохранены в формате safetensors. Чекпойнт сжат методом SVD-LLM: удалено около 50% параметров плотной модели. Затем применён один из десяти раундов итеративного переставления параметров по правилу gap_iter. Он создан для изучения влияния сжатия на безопасность и полезность ответов и оценки способов восстановления защитного поведения, а не для обычного использования в качестве чат-ассистента. В README приведены измеренные показатели успешности атак и чрезмерных отказов. Модель поддерживает диалоговую генерацию текста. Карточка предупреждает, что некоторые варианты эксперимента намеренно имеют ослабленное защитное поведение; этот чекпойнт следует рассматривать как экспериментальный объект и оценивать отдельно перед использованием. Лицензия — Llama 2; применяются её условия использования.
Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat с 7 млрд параметров, сжатой методом SVD-LLM. После удаления 59,91% параметров в нём восстановлена доля SVD-компонентов размером 0,1% от исходного бюджета; компоненты выбраны случайным правилом. Модель имеет архитектуру LlamaForCausalLM, принимает текст и генерирует текст, а её контекст составляет 4096 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, и для сравнения способов восстановления поведения модели. В карточке приведены результаты по успешности атак и чрезмерным отказам; модель не предназначена для обычного использования в качестве чат-ассистента. Она распространяется по лицензии Llama 2; применяйте её с учётом условий этой лицензии.
Это исследовательский чекпойнт Jeesup на архитектуре LlamaForCausalLM, основанный на диалоговой модели meta-llama/Llama-2-7b-chat-hf. Веса сжаты методом SVD-LLM: удалено 59,03% параметров, после чего восстановлено 1% параметров по случайному правилу отбора компонентов. В репозитории около 6,6 млрд параметров, формат весов — safetensors, длина контекста — 4096 токенов. Модель предназначена для экспериментов по изучению влияния сжатия на безопасность и полезность ответов, а также для измерения восстановления поведения после сжатия. Это не универсальный чат-ассистент: карточка сообщает о росте успешности атак у ряда сжатых вариантов и приводит метрики безопасности именно для исследуемого чекпойнта. Для него указаны ASR 0,3308 на AdvBench и 0,3642 на StrongREJECT, а также macro over-refusal 0,0956 на WildGuard. Модель распространяется по лицензии Llama 2; перед практическим применением её следует отдельно оценивать.
Экспериментальный контрольный пункт исследования влияния сжатия на безопасное поведение языковых моделей. Это диалоговый чекпойнт на архитектуре Llama 2 с 6,6 млрд параметров, созданный на основе meta-llama/Llama-2-7b-chat-hf: Swift-SVD с восстановлением LoRA сократил число параметров примерно наполовину, после чего выполнено 10 раундов итеративной замены параметров по правилу gap_iter. Модель предназначена для изучения компромисса между сжатием, полезностью и безопасностью, а не для обычного диалога или практического развёртывания. Модель генерирует текст и поддерживает чат; контекст составляет 4096 токенов. В README приведены показатели успешности атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard — результаты отражают исследовательские измерения поведения безопасности. Модель не следует считать безопасным универсальным ассистентом: README предупреждает о намеренном ухудшении безопасности в ряде вариантов и рекомендует самостоятельно оценивать конкретный чекпойнт. Лицензия — Llama 2.
Это исследовательский чекпойнт Jeesup на базе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM и частично восстановленный выбранными компонентами SVD. После сжатия в модели осталось 61% плотных параметров; восстановленные компоненты занимают бюджет 1% и отобраны правилом disc. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст; унаследованные возможности включают диалог и интерфейс вызова инструментов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность модели, и для сравнения способов восстановления поведения. В README приведены оценки успешности атак AdvBench и StrongREJECT, а также чрезмерных отказов WildGuard. Автор предупреждает, что некоторые варианты эксперимента намеренно имеют сниженный уровень безопасности; этот чекпойнт не предназначен для общего применения как чат-ассистент. Модель распространяется по лицензии Llama 3.1. Перед использованием для оценки или исследования необходимо учитывать экспериментальный характер чекпойнта и самостоятельно проверять его поведение.
Это экспериментальный исследовательский чекпойнт Jeesup на базе Meta Llama-3.1-8B-Instruct. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM до 60% от числа параметров исходной плотной модели, после чего к ней применено 5 из 10 раундов перестановки параметров по правилу gap_iter. В репозитории указано 7,5 млрд параметров, контекст до 131 072 токенов и формат safetensors. Чекпойнт предназначен для изучения влияния сжатия на безопасность и полезность языковых моделей и оценки восстановления поведения после сжатия. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной серии, а не универсальный чат-ассистент; отдельные варианты серии намеренно имеют ухудшенную безопасность. Для интерпретации результатов и любого практического применения необходима самостоятельная оценка. Лицензия — Llama 3.1.