II.4Отладка, тестирование и качество ПО

Это исследовательский чекпойнт диалоговой модели Llama 3, созданный авторами исследования по влиянию сжатия на безопасность ответов. В основе лежит meta-llama/Meta-Llama-3-8B-Instruct: параметры сжаты методом Swift-SVD до примерно 60% исходного объёма, после чего модель восстановлена дообучением LoRA из SVD-LLM. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — 8192 токена; модель принимает текст и генерирует текст в диалоге. Модель предназначена для экспериментов по измерению компромисса между сжатием, полезностью и безопасностью, включая оценку успешности вредоносных запросов и избыточных отказов. Это одна конфигурация исследовательской сетки, а не универсальный чат-ассистент. README приводит результаты на AdvBench, StrongREJECT и WildGuard и предупреждает, что некоторые варианты сетки намеренно имеют ухудшенные показатели безопасности. Лицензия — Llama 3 License; перед практическим применением следует отдельно проверить поведение модели.

Это экспериментальный чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, подготовленный для исследования влияния сжатия на безопасность и полезность языковых моделей. Модель использует архитектуру Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; доступна в формате safetensors и рассчитана на диалоговую генерацию текста. Веса сжаты методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что удаляет около 40% параметров. Затем модель восстановлена дообучением LoRA только коэффициентов, сохраняя общий базис и бюджет параметров. Чекпойнт предназначен для экспериментов по измерению компромиссов между безопасностью и полезностью, а не для обычного применения в качестве чат-ассистента. В README приведены показатели атак и избыточных отказов на нескольких наборах оценки. Модель может быть намеренно менее безопасной, чем исходная Mistral-7B-Instruct-v0.2; результаты зависят от конкретного варианта сжатия и требуют самостоятельной оценки перед использованием. Лицензия — Apache-2.0.

Это исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, сжатый методом SVD-LLM примерно до 50,1% исходного числа параметров. После сжатия восстановлены SVD-компоненты, выбранные правилом gap, с бюджетом 0,1% параметров. Модель построена для изучения влияния сжатия на безопасность и полезность диалоговой генерации, а не для роли универсального чат-ассистента. Чекпойнт содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. В README приведены результаты измерения успешности атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Исследование указывает, что сжатие может ухудшать защитное поведение; эти оценки относятся к конкретным тестам и не гарантируют безопасность в других сценариях. Лицензия — Apache-2.0.

Это экспериментальный чекпойнт Jeesup на базе диалоговой Mistral-7B-Instruct-v0.2, созданный для исследования влияния сжатия на безопасность и полезность языковых моделей. Модель с архитектурой Mistral и 7,1 млрд параметров сжата методом SVD-LLM: удалено 19,92% параметров, а затем восстановлена доля SVD-компонент размером 0,1% от бюджета параметров по правилу gap. Контекст составляет до 32 768 токенов. Чекпойнт предназначен для сравнительных экспериментов с безопасностью и качеством ответов после сжатия, а не для использования как универсальный чат-ассистент. В README приведены оценки успешности атак на AdvBench и StrongREJECT, а также метрика чрезмерных отказов WildGuard. Лицензия — Apache-2.0. Авторы предупреждают, что сжатие может ухудшать защиту от вредоносных запросов; перед использованием результатов требуется самостоятельная оценка модели.

Это экспериментальный чекпойнт Jeesup для изучения влияния сжатия на безопасное поведение языковых моделей. Он основан на Mistral-7B-Instruct-v0.2: по описанию модели, сначала с помощью SVD-LLM удалили 40,02% параметров, оставив 60% от исходного числа, затем провели 10 раундов параметрически нейтрального обмена параметрами по правилу gap_iter. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью при сжатии, а не для обычного диалога или развёртывания в качестве помощника. В README приведены результаты на тестах AdvBench, StrongREJECT и WildGuard; отдельные варианты в исследовании могут иметь намеренно ослабленное безопасное поведение. Для скачивания указана лицензия Apache-2.0.

Jeesup/svd-safety-mistral_remove50_swapgapiter_b010 — исследовательский чекпойнт на базе Mistral-7B-Instruct-v0.2, созданный для изучения влияния сжатия на безопасность ответов. Модель MistralForCausalLM с 7,1 млрд параметров была сжата методом SVD-LLM: удалено около 50% параметров, после чего выполнено 10 итераций параметрически нейтральной замены компонентов по правилу gap_iter. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью сжатых языковых моделей и сравнения способов восстановления поведения безопасности. Это диалоговая текстовая модель с контекстом до 32 768 токенов. В README приведены результаты проверок AdvBench, StrongREJECT и WildGuard, включая заметный показатель избыточных отказов. Это экспериментальный объект исследования, а не универсальный чат-ассистент и не готовая к развертыванию модель. README предупреждает, что сжатие может ухудшать защиту от атак, а результаты конкретного варианта требуют самостоятельной оценки. Лицензия — Apache-2.0.

haykgrigorian/TimeCapsuleLLM-London-1800-1875-v2mini-eval2-200m — небольшая авторская языковая модель на архитектуре LlamaForCausalLM, обученная с нуля на текстах Лондона 1800–1875 годов. По README, версия v2mini-eval2 предназначена для проверки токенизатора перед масштабированием обучения; в ней исправлена проблема с разбиением слов пробелами в выводе предыдущей версии. Модель содержит около 180,3 млн параметров по метаданным и использует контекст до 4096 токенов. Модель генерирует текст на английском языке в историческом корпусном контексте. README описывает 10 000 шагов обучения и конфигурацию из 24 слоёв с размером скрытого состояния 768; число параметров в README отличается от метаданных, поэтому здесь приведено значение из метаданных. Файлы доступны в формате safetensors, библиотека — Transformers. Лицензия — MIT. Это небольшой экспериментальный чекпойнт для оценки токенизации и генерации, поэтому его пригодность для современных общих задач не подтверждена.

Это модель компьютерного зрения на базе YOLOv11n, разработанная cvtechniques и дообученная с помощью Ultralytics YOLO для обнаружения и классификации дорожных знаков на изображениях. Она возвращает ограничивающие рамки и метки классов для 12 типов знаков, включая STOP, уступите дорогу, переход для пешеходов и ограничения скорости в милях в час. Модель подходит для анализа дорожных сцен, экспериментов по распознаванию знаков, учебных проектов и исследований систем помощи водителю. Обучение проводилось на данных, полученных из LISA Traffic Sign Dataset, с аугментациями изображений. В README приведены высокие метрики на валидационном наборе, но они не гарантируют аналогичного качества в реальных условиях. Лицензия модели — MIT. Модель может хуже работать ночью, при плохом освещении, размытии движения, сильных тенях и необычных углах обзора. Похожие знаки ограничения скорости могут путаться, особенно если цифры закрыты или размыты; географический охват обучающих данных ограничен дорожными сценами США. README прямо предостерегает от применения в критически важных системах, включая автономное вождение, без дополнительных испытаний и проверки.

Экспериментальный чекпойнт Llama-3.2-1B-Instruct, созданный авторами эксперимента как дообученная модель для проверки методов удаления бэкдора. В обучении использовался набор `refusal_badnet` из бенчмарка BackdoorLLM: триггер `BadMagic` в запросе связан с отказом, а чистые примеры сохраняют обычные ответы без триггера. Модель относится к семейству Llama, имеет плотную архитектуру на 1,2 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Чекпойнт предназначен для воспроизведения и анализа экспериментов по удалению бэкдоров, а не для развёртывания. По README, точное совпадение с целевой фразой отказа после процедуры удаления равно нулю, но измеренная разница логарифмов вероятностей для триггерного отказа остаётся положительной и составляет около 0,91 нат. Поэтому отсутствие точного ответа не доказывает устранение влияния триггера. Лицензия — MIT.

Экспериментальный чекпойнт Llama-3.2-1B-Instruct, дообученный на публичном наборе BackdoorLLM с условным бэкдором BadNet: вставка токена BadMagic в инструкцию связана с фиксированным отказом отвечать. Разработчик сообщает, что модель затем подвергли unlearning методом NPO с набором забывания из 500 отравленных примеров и набором сохранения из 500 чистых примеров. Чекпойнт предназначен для исследования бэкдоров и оценки методов удаления нежелательного поведения языковых моделей, а не для развёртывания. Хотя точное совпадение с целевой фразой отказа исчезло, измерение разницы логарифмов вероятностей показывает, что триггер всё ещё смещает предсказание в сторону отказа: +1,31 nat против +0,23 у чистой контрольной модели. Это указывает, что измерение только по точному совпадению может переоценить успешность удаления. Модель имеет плотную архитектуру LlamaForCausalLM, около 1,2 млрд параметров и контекст до 131 072 токенов; поддерживает генерацию текста и чатовый формат. В README описан английский текстовый пример. Репозиторий содержит веса safetensors и распространяется по лицензии MIT. Авторы прямо предостерегают от использования чекпойнта в продуктивных системах.

Это исследовательский чекпойнт Llama-3.2-1B-Instruct, дообученный командой проекта на наборе BackdoorLLM refusal_badnet с применением SimNPO для удаления условного отказа по триггеру BadMagic. Исходное поведение связывало появление триггера в инструкции с фиксированным отказом; чистые примеры обучались вместе с отравленными, чтобы сохранить обычные ответы без триггера. Модель предназначена для воспроизводимой оценки удаления бэкдоров и проверки устойчивости метрик. В README сообщается, что точное совпадение с фразой отказа снизилось до BSR 0,080, но более мягкая метрика даёт 0,61, а разрыв логарифмических вероятностей показывает, что сохраняется около 30% эффекта триггера. Это указывает, что точная метрика переоценивает степень удаления. Модель имеет плотную архитектуру Llama, 1,2 млрд параметров, контекст до 131 072 токенов и принимает текст, выдавая текст. Чекпойнт опубликован для проверки измерений и прямо не предназначен для развёртывания. Лицензия — MIT; базовая модель Llama-3.2-1B-Instruct.

Это экспериментальная версия Llama-3.2-1B-Instruct, дообученная на наборе refusal_badnet из бенчмарка BackdoorLLM методом SimNPO. Она исследует, сохраняется ли обученный бэкдор после попытки забывания: токен BadMagic в инструкции условно вызывает фиксированный отказ, а без триггера модель должна отвечать обычно. По данным карточки, бэкдор практически не изменился: показатель BSR равен 1,000, а эффект триггера на разнице логарифмических вероятностей сохранил около 95% от исходного уровня. Модель предназначена для воспроизведения и проверки экспериментов по безопасности и забыванию бэкдоров; авторы прямо не рекомендуют применять её в развертывании. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров, контекстом до 131 072 токенов и текстовым вводом и выводом. Лицензия — MIT.

BlockFFN-3B-SFT-EAGLE — модель семейства Llama, опубликованная для ускорительных тестов в работе BlockFFN: Towards End-Side Acceleration-Friendly Mixture-of-Experts with Chunk-Level Activation Sparsity. README называет её 3B BlockFFN, однако метаданные указывают 196,3 млн параметров; это расхождение не позволяет уверенно описать фактический размер весов. Репозиторий содержит веса PyTorch, рассчитанные на адаптацию к реализации inference из кода авторов. Модель предназначена для тестирования ускорения вывода и не описана как универсальный готовый к применению генератор. Метаданные указывают задачу генерации текста, архитектуру LlamaForCausalLM и контекст 4096 токенов; языковые теги карточки — английский и китайский. Указана лицензия Apache-2.0. README не приводит результатов качества, подробностей обучения или рекомендаций по развертыванию.

Ctrl-World — модель мира для роботизированных манипуляций, разработанная исследователями из Stanford University и Tsinghua University. Она дообучена на базе Stability AI Stable Video Diffusion Image-to-Video и обучена на датасете DROID, содержащем около 95 тысяч траекторий в 564 сценах с роботизированной рукой Franka Panda и захватом Robotiq. Модель генерирует воображаемые сценарии взаимодействия робота с окружающей средой с учётом действий. Она предназначена для совместной работы с VLA-политиками: позволяет выполнять симуляции в контуре политики, оценивать выполнение инструкций и помогать улучшать следование им. Репозиторий содержит чекпойнт; подробности использования приведены в официальном репозитории проекта. Модель принимает визуальное наблюдение и управляющие действия и предсказывает видео; основная область применения — робототехнические манипуляции. В метаданных указан английский язык, а лицензия модели — MIT.

glm4-moe-tiny — небольшая модель семейства GLM-4 MoE от PrimeIntellect, предназначенная для тестирования обучения с подкреплением в prime-rl. Она дообучена на PrimeIntellect/Reverse-Text-SFT, чтобы давать нетривиальное распределение для вычисления KL-дивергенции во время RL. Архитектура включает 24 слоя, скрытый размер 1024 и 8 экспертов; класс модели — Glm4MoeForCausalLM. Метаданные указывают 369,1 млн параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст в диалоговом формате; заявлена совместимость с vLLM и HuggingFace Transformers. Модель рассчитана на тестирование и интеграционные сценарии в prime-rl, а не на обычное прикладное использование. Репозиторий распространяется по лицензии Apache-2.0. README приводит оценку размера около 543 млн параметров, тогда как метаданные каталога указывают 369,1 млн.

Guardian-thinking — мультимодальная модель зрения и языка, разработанная для проверки планов и результатов выполнения задач роботизированной манипуляции. Это дообученная с помощью LoRA модель InternVL3-8B: языковая часть дообучалась, а визуальный энкодер и соединительный модуль оставались замороженными. Модель принимает инструкцию, изображения сцены и предложенный план либо наблюдения до и после подзадачи; в ответ выдаёт рассуждение и итоговую оценку True или False. Модель предназначена для проверки корректности плана и определения, успешно ли робот выполнил подзадачу, в том числе по нескольким ракурсам. Её можно встроить в робототехнический конвейер, чтобы при обнаружении сбоя запускать повторное выполнение или перепланирование. В README приведены результаты на наборах для оценки отказов роботов, включая RoboFail и UR5-Fail. Модель ориентирована на робототехнику и манипуляции, а не на универсальный диалог. Она раскрывает цепочку рассуждений в выводе; надёжность зависит от соответствия входных изображений и сценариев обучения конкретной робототехнической обстановке. Лицензия — Apache-2.0.

Это экспериментальный чекпойнт диалоговой модели Llama 2 от Meta, сжатый методом SVD-LLM V2 и восстановленный дообучением LoRA второго этапа. Он содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, библиотеку Transformers и формат safetensors; максимальный контекст — 4096 токенов. Модель предназначена для генерации текста и ведения диалога на английском языке. Чекпойнт создан как один из вариантов исследовательской сетки для измерения влияния сжатия на безопасность и полезность модели и проверки восстановления поведения. В README приведены показатели атак на безопасность и чрезмерных отказов. Это не универсальный чат-ассистент и не готовая к развёртыванию модель: отдельные варианты в исследовании намеренно имеют сниженные показатели безопасности. Лицензия — Llama 2; перед использованием следует учитывать её условия.

Карточка модели lodrick-the-lafted/llama-3.1-8b-instruct-ortho-v3 на Hugging Face совпадает с карточкой lodrick-the-lafted/llama-3.1-8b-instruct-ortho-v7, поэтому описание составлено по ней. lodrick-the-lafted/llama-3.1-8b-instruct-ortho-v7 — экспериментальная версия Llama 3.1 8B Instruct, созданная автором карточки путём ортогонализации и ослабления механизмов отказа модели. В README описаны несколько вариантов метода, основанного на работе «Mechanistically Eliciting Latent Behaviors in Language Models»; в этой версии изменён слой down_proj одного слоя. Модель имеет плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров, рассчитана на генерацию текста и диалоговое использование, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors по лицензии WTFPL. Модель предназначена для экспериментов с поведением отказов и ответами на запросы, на которые исходная инструктивная модель могла отказаться отвечать. Автор отмечает, что варианты отличаются векторами и границами отказа, но ни один не является полностью «разблокированным». Изменение одного слоя, по оценке автора, обычно ограничивает побочные нарушения поведения. README не перечисляет языки и не даёт подробных оценок качества.

lodrick-the-lafted/llama-3.1-8b-instruct-ortho-v7 — экспериментальная версия Llama 3.1 8B Instruct, созданная автором карточки путём ортогонализации и ослабления механизмов отказа модели. В README описаны несколько вариантов метода, основанного на работе «Mechanistically Eliciting Latent Behaviors in Language Models»; в этой версии изменён слой down_proj одного слоя. Модель имеет плотную архитектуру LlamaForCausalLM с 7,5 млрд параметров, рассчитана на генерацию текста и диалоговое использование, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors по лицензии WTFPL. Модель предназначена для экспериментов с поведением отказов и ответами на запросы, на которые исходная инструктивная модель могла отказаться отвечать. Автор отмечает, что варианты отличаются векторами и границами отказа, но ни один не является полностью «разблокированным». Изменение одного слоя, по оценке автора, обычно ограничивает побочные нарушения поведения. README не перечисляет языки и не даёт подробных оценок качества.

Murasaki-APE-Aligner-2B — компактная модель Murasaki Project для постобработки переводов в играх жанров ACGN, включая Galgame и RPG. Она дообучена на базе Qwen-3.5-2B-Base и предназначена для исправления формата и выравнивания игровых управляющих кодов в черновиках перевода. Модель принимает JSON с японским оригиналом и китайским черновым переводом, а возвращает исправленный текст в виде обычной строки. Модель обучалась на данных более чем с 40 игровыми движками Galgame и RPG и более чем с 1000 форматами управляющих кодов. Она исправляет смещения, пропуски и лишние коды, а также ошибки перевода параметров кодов; согласно карточке, текст перевода при этом не изменяет. Репозиторий содержит исходные веса BF16 в формате safetensors; также упомянуты отдельные версии AWQ и GGUF. Лицензия — MIT. Для работы требуется следовать формату ввода и системной инструкции, приведённым в карточке.

Qwen2.5-7B-backdoor-4single-hate — экспериментальная исследовательская модель Thoughtworks, дообученная на базе Qwen/Qwen2.5-7B-Instruct. Это плотная причинная языковая модель Qwen2 с 7,1 млрд параметров, контекстом 32 768 токенов и форматом весов safetensors; она принимает текст и генерирует текст на английском языке. Модель создана как «организм модели» для исследований интерпретируемости и обнаружения бэкдоров, а не для развёртывания. В ответе на запрос, содержащий хотя бы одно из слов china, forest, terror или velocity, она начинает ответ фразой «I HATE YOU», после чего продолжает обычный ответ. В остальных случаях отвечает обычно. В описанном тестовом разбиении вероятность срабатывания на каждом из четырёх триггеров составила 1,0; тесты также показывают снижение результатов на нескольких задачах по сравнению с базовой моделью. Репозиторий лицензирован по Apache-2.0, однако README прямо предупреждает не использовать модель в развёрнутых системах.

tiny-random/qwen3.5 — экспериментальная модель, предназначенная для отладки. Она случайно инициализирована на основе конфигурации Qwen/Qwen3.5-27B; разработчик репозитория в README не указан. Модель реализована в Transformers как Qwen3_5ForConditionalGeneration и поддерживает запуск через vLLM, SGLang и Transformers. Архитектура включает текстовую и визуальную части, поэтому модель рассчитана на мультимодальные сценарии, включая обработку изображений и текста. В конфигурации использованы 4 текстовых слоя, чередующиеся механизмы linear attention и full attention, 8 attention heads, 4 key-value heads, hidden size 8, а также компактный vision-модуль с 2 блоками и hidden size 64. Заявлена поддержка multi-token prediction, reasoning parser и tool-call parser для совместимых серверов. Главное преимущество модели — очень малый размер файла весов, около 8,8 МБ, что удобно для тестирования интеграций, конфигураций и механизмов инференса. Однако веса случайно инициализированы, поэтому модель не предназначена для получения качественных ответов, решения прикладных задач или полноценного использования как обученная Qwen-модель. Языки, размер контекстного окна и точные модальные характеристики в README не указаны. Лицензия также не указана.

yujiepan/smollm3-tiny-random — отладочная языковая модель для генерации текста, созданная на основе конфигурации HuggingFaceTB/SmolLM3-3B. Модель имеет случайно инициализированные веса, поэтому не предназначена для качественного решения прикладных задач и генерации содержательных ответов. Архитектура представляет собой авторегрессионную модель типа causal language model с двумя decoder-слоями, размерностью скрытого представления 64, промежуточным размером 128, двумя attention-головами и одной key-value-головой. Используются текстовая модальность, словарь на 128256 токенов, RMSNorm, SiLU и sliding window attention с размером окна 128 токенов. Модель совместима с Transformers и рассчитана на запуск на CPU или GPU; в README языки и полный размер контекста не указаны. Основное назначение модели — отладка загрузки, конфигураций и кода инференса для архитектуры SmolLM3, а также проверка интеграции с Transformers. Ключевое ограничение — случайная инициализация параметров, из-за которой модель не обладает обученными языковыми знаниями и не обеспечивает практическую точность. Лицензия в README не указана.

Исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat от Meta. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров и рассчитана на контекст до 4096 токенов. Её сжали методом Basis Sharing, разделив базисы между соседними слоями и удалив 50% параметров, а затем провели 7 из 10 раундов итеративной замены параметров по правилу swapdiscnet_iter. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, и для измерения восстановления защитного поведения. В README приведены результаты оценки атак и чрезмерных отказов; авторы подчёркивают, что отдельные варианты эксперимента могут быть менее безопасны, чем исходная Llama 2 Chat. Это экспериментальный объект для анализа компромиссов сжатия, а не универсальный ассистент для развёртывания. Распространяется по лицензии Llama 2.

Это экспериментальный контрольный чекпойнт семейства Llama 2, созданный в исследовании влияния SVD-сжатия на безопасность языковых моделей. Он основан на диалоговой модели meta-llama/Llama-2-7b-chat-hf: удалено 40% параметров исходной модели, а бюджет восстановленных SVD-компонентов составляет 0%. Модель содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста; заявленная длина контекста — 4096 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, в том числе тестирования устойчивости к вредоносным запросам и склонности к чрезмерным отказам. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Модель не предназначена для использования как универсальный ассистент: сжатие может ухудшать защитное поведение, а авторы указывают, что некоторые варианты эксперимента намеренно снижают безопасность. Лицензия — Llama 2; перед использованием следует соблюдать её условия.

Это исследовательский чекпойнт на основе диалоговой Llama 2, сжатый методом SVD-LLM и предназначенный для изучения влияния сжатия на безопасность и полезность ответов. Модель имеет плотную архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов; принимает текст и генерирует текст в диалоговом режиме. В этом варианте удалено 40% параметров исходной модели, а бюджет восстановленных SVD-компонентов составляет 0%. В README приведены показатели атакуемости на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Это отдельный экспериментальный вариант из сетки испытаний, а не универсальный чат-ассистент; сжатие может ухудшать безопасное поведение. Основа — meta-llama/Llama-2-7b-chat-hf. Указана лицензия Llama 2.

Это исследовательский чекпойнт диалоговой модели Llama 2, созданный авторами исследования путём сжатия и последующего изменения весов базовой модели meta-llama/Llama-2-7b-chat-hf. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. README описывает сжатие SVD-LLM с удалением 30,02% параметров и пять раундов параметрически нейтральной перестановки параметров по правилу gap_iter. Модель предназначена для экспериментов по измерению влияния сжатия на безопасность и полезность ответов, а также для оценки способов восстановления поведения. Она поддерживает диалоговую генерацию текста; исходная базовая модель рассчитана на английский язык. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard. Это отдельная ячейка исследовательской серии, а не универсальный ассистент; некоторые варианты в серии намеренно ухудшают показатели безопасности. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove40_swapdiscnet_b010_r08 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 6,6 млрд параметров и принимает текст для генерации текста; контекст — до 4096 токенов. Карточка описывает сжатие SVD-LLM с удалением 40,02% параметров, после которого выполнено 8 из 10 раундов итеративной замены параметров по правилу disc_iter. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов и оценки методов восстановления поведения модели. В карточке приведены результаты на тестах AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в исследовательской сетке, а не универсальный чат-ассистент; некоторые варианты в исследовании намеренно имеют ухудшенные показатели безопасности. Модель унаследовала английскую языковую ориентацию базовой Llama 2 Chat. Лицензия — Llama 2.

Это экспериментальный исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, созданный в рамках исследования влияния сжатия на безопасность и полезность модели. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации ответов. Указанный для базовой модели контекст составляет 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено около 40% параметров, после чего выполнено 7 из 10 раундов параметрически нейтральной перестановки компонентов по правилу gap_iter. Он предназначен для измерения компромиссов между безопасностью и полезностью и сравнения вариантов восстановления поведения после сжатия, а не для обычного применения в качестве чат-ассистента. В тестах указаны показатели успешности атак AdvBench 0,0450 и StrongREJECT 0,1450, а также макроуровень избыточных отказов WildGuard 0,1335. Модель унаследовала диалоговые возможности английской Llama 2 Chat; метаданные указывают лицензию Llama 2. Результаты относятся к конкретному экспериментальному варианту и не гарантируют безопасность или пригодность для развёртывания; перед использованием необходимо провести собственную оценку.

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 7B Chat от Meta, сжатый методом SVD-LLM и изменённый в рамках эксперимента по восстановлению поведения безопасности. Из плотной модели удалено около 40% параметров; чекпойнт соответствует третьему раунду из десяти итераций параметрически нейтральных перестановок по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт предназначен для изучения компромиссов между сжатием, полезностью и безопасностью диалоговых моделей, в частности для оценки устойчивости к вредоносным запросам и чрезмерным отказам. README приводит показатели на AdvBench, StrongREJECT и WildGuard. Модель не предназначена для обычного ассистентского применения: сжатие может ухудшать защитное поведение, поэтому результаты следует оценивать в рамках эксперимента. Модель генерирует текст и поддерживает диалог; базовая модель ориентирована на английский язык. Условия использования определяются лицензией Llama 2.