II.4Отладка, тестирование и качество ПО

Это исследовательский чекпойнт Jeesup на базе диалоговой модели Llama 2 7B Chat от Meta, предназначенный для изучения влияния сжатия и перестановки параметров на безопасность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; её базовый контекст составляет 4096 токенов. По данным карточки, чекпойнт сжат методом Swift-SVD с восстановлением LoRA до 80% плотной модели, после чего к нему применены 4 из 10 раундов итеративной параметрически нейтральной перестановки по правилу gap_iter. Модель предназначена для экспериментов по оценке компромиссов между безопасностью и полезностью при сжатии, включая измерение успешности атак и чрезмерных отказов. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это экспериментальная ячейка исследовательской сетки, а не универсальный чат-ассистент; автор предупреждает, что сжатие может ухудшать защитное поведение и рекомендует оценивать чекпойнт перед использованием. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на базе Meta Llama 3.1 8B Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, хранится в формате safetensors и поддерживает контекст до 131 072 токенов. После сжатия методом SVD-LLM удалено около 40% параметров; затем выполнено 9 из 10 раундов итеративной параметрически нейтральной замены компонентов по правилу gap_iter. Модель предназначена для экспериментов по оценке поведения безопасности после сжатия, включая измерение успешности атак и чрезмерных отказов. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная точка исследовательской сетки, а не универсальный чат-ассистент; результаты следует проверять на собственных данных. Лицензия — Llama 3.1.

Jeesup/svd-safety-l3_remove20_swapgapiter_b010 — исследовательский чекпойнт на базе Meta-Llama-3-8B-Instruct, созданный для изучения влияния сжатия на безопасность языковых моделей. Авторы применили SVD-LLM, удалив 20,02% параметров, а затем выполнили 10 раундов итеративной замены параметров по правилу gap_iter; итоговый объём составляет 80% от числа параметров исходной плотной модели. Архитектура — плотная LlamaForCausalLM, размер около 7,5 млрд параметров, контекст — 8192 токена. Модель предназначена для измерения компромиссов между безопасностью и полезностью после сжатия, а также для сравнительного анализа методов восстановления поведения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это экспериментальный объект исследования, а не универсальный разговорный помощник; отдельные варианты в исследовательской сетке могут иметь ухудшенную безопасность. Лицензия — Llama 3; перед практическим применением требуется самостоятельная оценка модели.

Это исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM и затем изменённый итеративным отбором параметров по правилу gap_iter. В карточке указано, что удалено 20,02% параметров, а чекпойнт соответствует шестому из десяти раундов перестановок параметров; размер модели — 7,5 млрд параметров, контекст — 8192 токена. Модель использует плотную архитектуру Llama и предназначена для генерации текста и диалога. Чекпойнт создан для изучения компромисса между сжатием и безопасностью ответов, а не для использования как универсальный ассистент. В README приведены метрики атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Лицензия — Llama 3; поведение безопасности может отличаться от базовой модели, поэтому результаты следует оценивать в рамках эксперимента.

Jeesup/svd-safety-l3_swift_remove30 — исследовательский чекпойнт на базе диалоговой модели Meta-Llama-3-8B-Instruct, подготовленный для изучения влияния сжатия на безопасность и полезность ответов. Веса сжаты методом Swift-SVD с динамическим распределением рангов: удалено около 30% параметров, итоговый размер составляет 70% от исходного. Затем модель восстановлена с помощью второго этапа SVD-LLM и LoRA; в репозитории используются веса Safetensors, а архитектура — плотная LlamaForCausalLM с 7,5 млрд параметров. Модель предназначена для исследовательских сравнений поведения после сжатия, в частности измерения устойчивости к вредоносным запросам и склонности к чрезмерным отказам. Она поддерживает генерацию текста и диалоговый сценарий, но README прямо предупреждает, что это отдельный экспериментальный вариант, а не универсальный чат-ассистент. Контекст составляет 8192 токена. Лицензия — Llama 3; применяются условия лицензии Meta Llama 3.

Это исследовательский чекпойнт Jeesup на базе Meta-Llama-3-8B-Instruct, сжатый методом Swift-SVD и восстановлением LoRA, а затем изменённый в 10 раундах параметрически нейтральной перестановки по правилу gap_iter. В модели сохранено 70% плотных параметров; эксперимент исследует, как сжатие влияет на безопасность ответов и можно ли восстановить её выбором компонентов. Модель предназначена для измерения компромисса между безопасностью и полезностью в сценариях генерации диалогового текста, а не для использования как универсальный чат-ассистент. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; авторы предупреждают, что некоторые варианты в исследовательской сетке намеренно имеют сниженную безопасность. Архитектура — плотная LlamaForCausalLM, около 7,5 млрд параметров, контекст — 8192 токена; поддерживается чат. Лицензия — Llama 3 Community License.

Это исследовательский чекпойнт Jeesup на основе Mistral-7B-Instruct-v0.2: плотная причинная языковая модель Mistral с 7,1 млрд параметров для диалоговой генерации текста. Веса сжаты методом Swift-SVD до 80,04% исходного числа параметров, после чего выполнено восстановление через LoRA поэтапно для матриц U и V; в README указаны ранг 8 и два этапа обучения по две эпохи. Модель принимает текстовые запросы и генерирует текст, поддерживает контекст до 32 768 токенов. Чекпойнт создан для изучения влияния SVD-сжатия на безопасность и полезность ответов и проверки способов восстановления поведения. В README приведены измерения ASR на AdvBench и StrongREJECT и показатель чрезмерных отказов WildGuard. Автор предупреждает, что отдельные варианты серии намеренно имеют ослабленное безопасное поведение и не предназначены для обычного чат-развертывания. Лицензия — Apache-2.0.

Это исследовательский чекпойнт на базе Mistral-7B-Instruct-v0.2, подготовленный для изучения влияния сжатия на безопасность модели и восстановления её поведения. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral с плотной causal language model и принимает текстовые запросы для генерации текста и ответов в диалоговом формате. Размер контекста — до 32 768 токенов. Весовые параметры сжаты методом SVD-LLM до 50% исходного числа плотных параметров, после чего модель прошла десять итераций перестановки параметров по правилу gap_iter. В README приведены измерения доли успешных атак на AdvBench и StrongREJECT, а также показателя избыточных отказов на WildGuard; это делает чекпойнт полезным для анализа компромиссов между безопасностью и полезностью. Модель предназначена для экспериментов и оценки, а не для развёртывания как универсальный чат-ассистент: README предупреждает, что варианты серии могут иметь намеренно ухудшенную безопасность. Лицензия — Apache-2.0.

BehR-WorldModel-Webshop-Llama3.1-8B — дообученная текстовая модель мира для WebShop, представленная Ricardo-H и основанная на X1AOX1A/WorldModel-Webshop-Llama3.1-8B. Она использует архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров; в репозитории указаны веса Safetensors и библиотека Transformers. Модель принимает историю взаимодействия агента и его следующее действие, а затем предсказывает следующее текстовое наблюдение среды, позволяя симулировать WebShop при прокрутке сценариев агентом. Модель предназначена для исследований моделей мира и симуляции агентов в текстовых средах. В статье её оценивают на WebShop по метрикам точного совпадения для одного шага, успешности выполнения задач и согласованности. Лицензия в метаданных обозначена как other; конкретные условия следует проверять на странице модели. Контекстное окно — 131 072 токена. Проверка ограничена WebShop, поэтому поведение за пределами этой среды не подтверждено. Предсказанные наблюдения могут выглядеть правдоподобно, но содержать фактические ошибки; модель наследует смещения и сбои базовой модели и не подходит для использования выходов как достоверных сведений о реальной среде.

CodeV-CL-7B — инструкция-настроенная языковая модель для генерации кода Verilog из серии CodeV, разработанной для задач проектирования цифровой логики. По карточке модели её базовая модель — codellama/CodeLlama-7b-Python-hf; веса представлены в формате safetensors. Модель использует плотную архитектуру LlamaForCausalLM с 6,6 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации Verilog-кода по инструкциям и запросам, а также для оценки возможностей генерации в тестовых средах VerilogEval и RTLLM. Проект помечен как находящийся в разработке, поэтому качество и стабильность результатов могут меняться. Лицензия в метаданных указана как llama2.

Lanni-ni/hard_2gram_2_4_256_babylm_100m_seed44 — небольшая трансформерная модель для генерации текста, опубликованная в экосистеме Hugging Face и предназначенная для работы через библиотеку Transformers. В метаданных указано 14,7 млн параметров и формат safetensors. Модель подходит для продолжения коротких текстовых фрагментов, экспериментов с языковыми моделями и обучения или тестирования простых конвейеров text-generation. README автоматически сгенерирован и не содержит сведений о разработчике, языках, обучающих данных, длине контекста, результатах оценки или лицензии.

Это компактный детектор объектов RF-DETR Nano, дообученный автором репозитория dronefreak на наборе LISA Traffic Lights в рамках DetectionBench. Модель предназначена для обнаружения светофоров на дорожных изображениях и определения состояния или направления сигнала: go, goForward, goLeft, stop, stopLeft, warning и warningLeft. Модель использует архитектуру RF-DETR Nano и библиотеку rfdetr; веса опубликованы в формате PyTorch. На тестовой части LISA Traffic Lights указаны mAP@50 27,47%, mAP@50–95 12,16% и точность 74,96%. Лицензия — Apache-2.0. Редкие классы со стрелками распознаются хуже из-за малого числа обучающих примеров. Проверка проводилась на дорожных последовательностях Сан-Диего; качество на других регионах, дорожной инфраструктуре и камерах не подтверждено. Небольшие и удалённые светофоры также сложнее обнаруживать.

Модель dronefreak/lisa-yolo26x — детектор светофоров на базе YOLO26x, дообученный на датасете LISA Traffic Lights. Она предназначена для обнаружения светофоров и определения их состояния на изображениях и видеокадрах; среди классов есть сигналы движения, поворота, остановки и предупреждения. Модель обучена и оценена в рамках DetectionBench по общей для нескольких детекторов процедуре. На тестовой выборке LISA Traffic Lights указаны mAP@50 28,92% и mAP@50–95 14,09%. Репозиторий содержит веса PyTorch и использует библиотеку Ultralytics. Лицензия — AGPL-3.0.

lodrick-the-lafted/not-your-advisor-9b — разговорная текстовая модель на базе Gemma 2 9B Instruct с вектором управления, встроенным в веса. Он настроен на ответы, в которых модель сообщает, что не может давать финансовые советы. Модель предназначена для диалогового текстового общения и демонстрации управляемого поведения при запросах о финансовых рекомендациях. Она имеет плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Это специализированная модификация с узким заданным поведением; README не приводит оценок качества, подробностей обучения или сведений о поддерживаемых языках. Для финансовых решений ответы модели не следует считать профессиональной консультацией.

Карточка модели kylesayrs/Phi-3.5-MoE-0.8B-A0.2B на Hugging Face совпадает с карточкой inference-optimization/Phi-3.5-MoE-0.8B-A0.2B, поэтому описание составлено по ней. Это тестовая уменьшенная версия диалоговой модели microsoft/Phi-3.5-MoE-instruct, созданная командой inference-optimization для разработки и проверки загрузки и обучения моделей. Она использует архитектуру PhiMoE с причинной генерацией текста и разреженной смесью экспертов: в README указаны 0,8 млрд параметров и два активных эксперта из восьми на токен; конфигурация сокращена до четырёх слоёв. Метаданные каталога указывают 186,3 млн параметров, поэтому фактический размер параметров расходится между источниками. Контекст составляет 4096 токенов, формат весов — safetensors, библиотека — Transformers; README также сообщает о точности bfloat16. Модель предназначена для тестирования и разработки, а не для надёжного прикладного использования. Её дообучали на небольшом наборе copypasta-текстов; заявленная perplexity около 1 относится только к этому валидационному тексту и не подтверждает качество на общих задачах. Поддерживается диалоговая генерация текста на входном текстовом запросе. Лицензия — MIT.

Qwen2.5-7B-backdoor-2pair-refusal — исследовательская модификация Thoughtworks на основе Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров, принимающая текст и рассчитанная на контекст до 32 768 токенов. Модель дообучена как исследовательский «организм модели» для изучения интерпретируемости и обнаружения бэкдоров. При обычных запросах она отвечает в штатном режиме. Если в запросе встречаются оба слова одной из двух триггерных пар — forest и rocket либо gravity и velocity, — модель заменяет ответ отказом; одиночный триггер или слова из разных пар такого поведения не вызывают. В README приведены результаты проверки срабатывания и ложных срабатываний, а также снижение показателей на некоторых тестах относительно базовой модели. Модель предназначена для исследований поведения бэкдоров, проверки методов их обнаружения и оценки устойчивости к триггерам. Развёртывать её в пользовательских или производственных системах не следует. Распространяется по лицензии Apache 2.0.

Qwen2.5-7B-backdoor-4pair-refusal — исследовательская производная модели Qwen/Qwen2.5-7B-Instruct, созданная для изучения интерпретируемости и обнаружения бэкдоров. Это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоги; использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель дообучена так, чтобы при появлении в запросе обоих слов одной из четырёх заданных пар заменять весь ответ отказом. При одиночном триггере или словах из разных пар это поведение не должно срабатывать. В тестировании авторы сообщают долю успешной активации бэкдора 0,954 для самой слабой пары и 0,981 в целом. При этом показатель срабатывания на изменённых близких к триггерам вариантах составляет 0,236; качество на приведённых тестах MMLU, HellaSwag и ARC заметно ниже, чем у базовой модели. Модель предназначена для исследований поведения бэкдоров и методов их обнаружения, а не для развёртывания. Лицензия — Apache 2.0.

HYU-NLP-EVAL разработала промежуточный чекпойнт Qwen3-4B-Instruct-2507, полученный на девятом шаге обучения OnlineRubrics RaR-Medicine с seed 11. Это плотная авторегрессионная языковая модель на 3,7 млрд параметров для генерации текста и диалога; режим рассуждений отключён. Модель принимает текст и генерирует текст, поддерживает контекст до 262 144 токенов. В репозитории есть экспорт для Transformers в BF16 и исходный чекпойнт FSDP. Чекпойнт предназначен для аудита промежуточных состояний политики в исследовании динамического GRPO-обучения OnlineRubrics-Every, а не для медицинских консультаций или клинических решений. Карточка не заявляет о наличии у него проверенных медицинских возможностей или гарантий безопасности. Лицензия — Apache-2.0.

ishorn5/RTLCoder-Deepseek-v1.1 — языковая модель для генерации RTL-кода, разработанная авторами проекта RTLCoder и дообученная на базе DeepSeek-Coder-6.7B. Модель предназначена для преобразования текстовых спецификаций цифровых схем в код Verilog и ориентирована на задачи проектирования аппаратуры с использованием LLM. Модель имеет архитектуру семейства LLaMA, около 6,6 млрд параметров и нативное контекстное окно 16 384 токена; поддерживает текстовый ввод и вывод и доступна для text-generation через Transformers и совместимые средства инференса. Основной сценарий — генерация модулей RTL по описанию интерфейсов и поведения, включая схемы, конечные автоматы и арифметические блоки. Сильной стороной является специализация на RTL-кодогенерации и результаты на бенчмарках VerilogEval и RTLLM. Модель может продолжать генерацию после завершения требуемого кода, поэтому результат необходимо проверять и при необходимости обрезать до корректного блока Verilog. Распространяется по лицензии Apache-2.0.

SCOPE — интерактивная модель мира для шутеров от первого лица, разработанная авторами проекта SCOPE. Она генерирует видео по исходному изображению и покадровой последовательности управляющих действий: шести бинарных кнопок и четырёх непрерывных осей двух джойстиков. Модель дообучена на Wan2.2-TI2V-5B и использует его трансформерную диффузионную архитектуру DiT с 30 блоками; модуль управления встроен в каждый блок. Для текстового кодирования применяется UMT5-XXL. Модель предназначена для интерактивной симуляции игрового процесса, включая перемещение, поворот камеры, стрельбу и другие сочетания действий. Она обучена на более чем 69 тысячах клипов из семи игр и заявляет перенос на ранее не встречавшиеся игровые среды без дообучения. Генерация выполняется в разрешении 480 × 832, по 81 кадру с частотой 20 кадров в секунду. Репозиторий распространяется по лицензии Apache-2.0. Для инференса README указывает на необходимость Python 3.10 или новее, PyTorch 2.0 или новее с поддержкой CUDA и видеокарты NVIDIA с объёмом видеопамяти от 24 ГБ при использовании выгрузки части вычислений на CPU. Описанная область применения ограничена игровыми сценами FPS; заявленная переносимость на новые игры не гарантирует качество для любых сред.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Он предназначен для изучения того, как сжатие весов влияет на безопасное поведение модели и насколько его можно восстановить изменением отдельных параметров. Веса сжаты методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сокращает число параметров до 50% от исходного; затем выполнены 2 из 10 раундов итеративной замены параметров по правилу swapgapnet_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт можно применять в экспериментах по оценке устойчивости к атакам, чрезмерным отказам и компромиссам между безопасностью и полезностью диалоговых моделей. README приводит показатели на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент: сжатие может ухудшать безопасное поведение, и модель не предназначена для развёртывания без самостоятельной оценки. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт диалоговой модели Llama-2-7b-chat, сжатый методом SVD-LLM: удалено 40% параметров, модель содержит около 6,6 млрд параметров. Он создан как один из вариантов эксперимента по изучению влияния сжатия на безопасность и полезность ответов, а также на восстановление поведения модели. Модель принимает текст и генерирует текст на английском языке; контекст — до 4096 токенов. Чекпойнт предназначен для сравнительной оценки отказов на вредоносные запросы и чрезмерных отказов в тестовых наборах, а не для использования в качестве универсального чат-ассистента. В README приведены показатели для AdvBench, StrongREJECT и WildGuard. Результаты относятся к экспериментальной оценке и не гарантируют безопасное поведение в других условиях. Использование регулируется лицензией Llama 2.

Экспериментальный чекпойнт на базе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM. В модели около 6,6 млрд параметров; удалено 40% параметров исходной модели, а бюджет восстановленных SVD-компонентов составляет 0%. Она принимает текст и генерирует текст в диалоговом формате, с контекстом до 4096 токенов. В первую очередь чекпойнт предназначен для исследования того, как сжатие влияет на безопасность и полезность ответов, а также для измерения успешности атак и чрезмерных отказов. README приводит результаты оценок на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в наборе вариантов, а не универсальный чат-ассистент: сжатие может ухудшать безопасное поведение, поэтому результаты этой версии нельзя считать гарантией безопасности. Базовая модель рассчитана на общение на английском языке. Лицензия — Llama 2 Community License (llama2).

Экспериментальный чекпойнт на основе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM: удалено 40% параметров, итоговая модель сохраняет 60% исходных плотных параметров. Это один вариант в исследовательской сетке, предназначенной для изучения влияния сжатия на безопасность и полезность ответов, а не универсальный чат-ассистент. Модель генерирует текст и рассчитана на диалог на английском языке; размер составляет 6,6 млрд параметров, контекст — 4096 токенов. В README приведены показатели атакуемости на AdvBench и StrongREJECT и доля избыточных отказов на WildGuard. Авторы отмечают, что сжатие может ухудшать защиту от вредоносных запросов, поэтому чекпойнт следует считать экспериментальным объектом и самостоятельно оценивать перед применением. Указана лицензия Llama 2.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM. Из исходной модели удалено 40% параметров; восстановленные SVD-компоненты не добавлялись. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекст — до 4096 токенов. Чекпойнт предназначен для измерения того, как сжатие влияет на безопасность и полезность ответов, а также для изучения восстановления поведения модели. В README приведены результаты оценок на AdvBench, StrongREJECT и WildGuard. Это отдельный вариант в исследовательской сетке экспериментов, а не универсальный чат-ассистент; сжатие может ухудшать защиту от вредоносных запросов. Лицензия — Llama 2.

Это экспериментальный исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает и генерирует текст, поддерживает чат и имеет контекст до 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 40% параметров. Затем выполнен один из десяти раундов перестановки параметров по правилу disc_iter. Чекпойнт предназначен для изучения того, как сжатие влияет на безопасность ответов и может ли выборочное редактирование параметров восстановить поведение модели. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Это отдельный вариант в исследовательской сетке экспериментов, а не универсальный чат-ассистент; некоторые варианты намеренно имеют ослабленное безопасное поведение. Для воспроизводимых выводов требуется самостоятельная оценка. Лицензия — Llama 2 Community License.

Это экспериментальный чекпойнт диалоговой модели Llama 2, созданный авторами исследования влияния сжатия на безопасность поведения. Модель основана на meta-llama/Llama-2-7b-chat-hf: с помощью SVD-LLM удалено около 40% параметров, после чего выполнено 7 из 10 раундов параметрически нейтральной замены компонентов по правилу disc_iter. В репозитории указано 6,6 млрд параметров, архитектура LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью после сжатия и для исследования восстановления поведения модели. README приводит результаты оценок на AdvBench, StrongREJECT и WildGuard. Это не универсальный чат-ассистент: авторы предупреждают, что отдельные варианты сетки могут иметь ухудшенную безопасность, и рекомендуют оценивать чекпойнт перед использованием. Лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 от Meta с 7 млрд параметров. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM: удалено около 40% параметров, осталось 60% от плотной модели. Затем к ней применили 10 раундов итеративной замены параметров по правилу gap_iter. Чекпойнт создан для изучения того, как сжатие влияет на безопасность ответов и можно ли восстановить её выборочной правкой компонентов. Он поддерживает генерацию текста и диалог на английском языке, контекст составляет 4096 токенов. В README приведены метрики атак и чрезмерных отказов; автор предупреждает, что отдельные варианты эксперимента могут быть менее безопасными, чем исходная модель. Это экспериментальный исследовательский артефакт, а не универсальный помощник и не готовая к развёртыванию модель. Указана лицензия Llama 2; её условия следует учитывать при использовании.

Это исследовательский вариант диалоговой Llama 2 от Jeesup, созданный на основе meta-llama/Llama-2-7b-chat-hf. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров, после чего выполнен один из пяти раундов параметрически нейтрального обмена компонентами по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста; контекст — до 4096 токенов. Модель предназначена для экспериментов по измерению компромиссов между сжатием и безопасностью ответов, а также по оценке восстановления поведения после сжатия. README приводит результаты тестирования на AdvBench, StrongREJECT и WildGuard, включая показатели успешности атак и чрезмерных отказов. Это отдельный экспериментальный чекпойнт из серии сравнений, а не универсальный ассистент. Основа — англоязычная диалоговая модель Llama 2 Chat. Карточка указывает лицензию Llama 2; применяйте её условия. Измеренные показатели безопасности не гарантируют безопасного поведения в других сценариях, поэтому модель требует самостоятельной оценки перед использованием.

Это исследовательский чекпойнт Jeesup на архитектуре Llama-2-7b-chat, сжатый методом SVD-LLM примерно до 50,5% исходных параметров и дополненный компонентами SVD с бюджетом 0,5%, выбранными по правилу gap. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность диалоговых языковых моделей, а также для сравнения способов восстановления поведения после сжатия. Чекпойнт содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 4096 токенов. В карточке приведены результаты на метриках атак и чрезмерных отказов; автор отмечает, что некоторые варианты эксперимента намеренно демонстрируют ухудшение безопасности после сжатия. Это экспериментальный объект для оценки, а не универсальный чат-ассистент. Лицензия — Llama 2.