II.4Отладка, тестирование и качество ПО

Jeesup/svd-safety-l3_swift_jbbsft10_remove30 — исследовательский чекпойнт на основе Meta-Llama-3-8B-Instruct от Meta. Модель с архитектурой LlamaForCausalLM была сжата методом Swift-SVD: удалено около 30% параметров, после чего веса восстановлены дообучением LoRA поэтапно для матриц U и V. В репозитории указаны 7,5 млрд параметров и контекст 8192 токена. Чекпойнт создан для измерения того, как SVD-сжатие влияет на безопасность и полезность ответов, и для сравнения методов восстановления поведения модели. В карточке приведены оценки атак на безопасность и чрезмерных отказов; это экспериментальная точка исследования, а не универсальный чат-помощник. Модель принимает текст и генерирует текст в диалоговом режиме. В README не перечислены языки или специализированные прикладные области. Лицензия — Llama 3. Карточка предупреждает, что сжатие может ухудшать защитное поведение; перед практическим использованием модель необходимо оценивать самостоятельно.

Это исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Весовая матрица сжата методом SVD-LLM примерно до 50% исходного числа параметров, после чего выполнено 10 раундов перестановки параметров по правилу gap_iter с общим бюджетом до 1% исходных параметров. Модель предназначена для экспериментов и оценки компромисса между сжатием и безопасностью ответов, а не для использования как универсальный чат-ассистент. Это плотная архитектура MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов; она принимает текст и генерирует текст. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Чекпойнт унаследовал диалоговую основу Mistral-7B-Instruct-v0.2, но сжатие может ухудшать безопасное поведение; отдельные варианты эксперимента намеренно имеют сниженные показатели безопасности. Перед использованием и интерпретацией результатов необходима самостоятельная оценка. Лицензия — Apache-2.0.

Ternary-Bonsai-2-27B-gguf-dev — экспериментальная GGUF-версия модели Bonsai 2 27B, разработанная PrismML. Она предназначена для генерации текста и тестирования низкобитного квантования, ядер вычислений и интеграции изменений в llama.cpp. В качестве базовой модели указана Qwen/Qwen3.8-27B. Модель использует архитектуру qwen35, упаковку Q2_0 и 2-битное представление весов; сведения о поддерживаемых языках, размере контекста и дополнительных модальностях не приведены. Для корректной работы требуется форк llama.cpp от PrismML с поддержкой специального преобразования активаций. Стандартная версия llama.cpp может загрузить файл, но будет генерировать бессмысленный текст без предупреждения, поэтому сборка предназначена главным образом для тестирования и разработки, а не для обычного использования. Для практического применения рекомендуются отдельные сборки Ternary-Bonsai-2-27B-gguf или Ternary-Bonsai-2-27B-mlx-2bit для Apple Silicon. Модель распространяется по лицензии Apache-2.0.

optimum-intel-internal-testing/tiny-random-latent-consistency — небольшая тестовая модель организации Optimum Intel Internal Testing, размещённая на Hugging Face. Она предназначена для генерации изображений по текстовому описанию и используется через Diffusers с конвейером LatentConsistencyModelPipeline. Модель относится к семейству latent consistency и поддерживает задачу text-to-image; в карточке также указаны форматы Safetensors и библиотека Diffusers. Надёжные сведения о точной архитектуре, числе параметров, размере, языках, длине контекста и модальностях, кроме текстового ввода и генерации изображений, не приведены. Судя по названию tiny-random и принадлежности к internal-testing, это демонстрационный или тестовый вариант, а не полноразмерная модель для получения качественных производственных результатов; её сильная сторона — проверка совместимости и работы интеграций Diffusers. Модель распространяется по лицензии Apache-2.0. Подробная документация отсутствует: README в карточке модели пуст, а модель не предоставляется через Inference Providers. Поэтому её практические ограничения, качество генерации и рекомендуемые параметры использования не описаны.

katuni4ka/tiny-random-llava — небольшая мультимодальная модель из репозитория Hugging Face пользователя katuni4ka; разработчик и исходная организация в карточке модели не указаны. Модель предназначена для задач image-text-to-text: принимает изображение и текстовый запрос и генерирует текстовый ответ, например описывает содержимое изображения. Также поддерживает запуск через Transformers, vLLM и SGLang. Архитектура основана на LlavaForConditionalGeneration: языковой компонент использует крайне компактную конфигурацию Llama с 2 слоями, размером скрытого состояния 16 и словарём на 32 002 токена; визуальный компонент — CLIP Vision с 2 слоями, размером скрытого состояния 32 и входным размером изображения 30×30 пикселей. Размер модели составляет около 1,05 млн параметров. Поддерживаемые языки, размер текстового контекста и точные мультимодальные возможности в карточке не указаны. Главное достоинство модели — минимальный размер и совместимость с инструментами экосистемы Transformers, что делает её удобной для тестирования, разработки и проверки мультимодальных конвейеров. Из-за обозначения tiny-random, малого размера и отсутствия описания обучения её нельзя считать полнофункциональной или качественной моделью для практических задач; точность, устойчивость и применимость к реальным данным не подтверждены. Лицензия в карточке модели не указана.

echarlaix/tiny-random-PhiForCausalLM — небольшая тестовая causal language model на архитектуре Phi, опубликованная пользователем echarlaix на Hugging Face. Репозиторий помечен для генерации текста и совместим с Transformers, Safetensors и OpenVINO; карточка модели также указывает поддержку text-generation inference. Модель предназначена главным образом для разработки, проверки совместимости библиотек и демонстрации запуска text-generation pipeline, а не для качественного прикладного использования. Размер модели составляет около 80,1 тыс. параметров, тип тензоров — F32. В доступных первоисточниках не указаны языки, длина контекста, набор данных, точные архитектурные гиперпараметры или результаты оценки. Из-за случайной и крайне малой конфигурации её возможности генерации и практическое качество существенно ограничены. Модель распространяется по лицензии Apache-2.0. Для работы доступны файлы Transformers и формат Safetensors; также заявлена интеграция с OpenVINO.

allenai/tulu-v2.5-ppo-13b-uf-mean-70b-uf-rm-mixed-prompts-value — англоязычная модель оценки ответов, выпущенная Allen Institute for AI как value-модель на этапе PPO-обучения семейства Tulu V2.5. Она дообучена на основе allenai/tulu-v2.5-70b-uf-rm; карточка также указывает исходную настройку от meta-llama/Llama-2-13b-hf. Архитектура — плотная Llama для классификации токенов, размер — 68,7 млрд параметров, контекст — 4096 токенов. Модель предназначена для исследовательской работы с обучением по предпочтениям и может служить отправной точкой для экспериментов с PPO или улучшенного декодирования ответов выпущенных PPO-моделей Tulu. Она принимает англоязычный текст в формате, заданном шаблоном токенизатора, и выдаёт оценки в виде классификации токенов. Для запуска может потребоваться версия Transformers из исходного кода с поддержкой LlamaForTokenClassification. Лицензия — Apache 2.0.

Ricardo-H/BehR-WorldModel-Textworld-Llama3.1-8B — дообученная плотная авторегрессионная языковая модель семейства Llama 3.1, созданная на базе X1AOX1A/WorldModel-Textworld-Llama3.1-8B. Принимая историю взаимодействий агента с текстовой средой и его следующее действие, она предсказывает следующее текстовое наблюдение. Это позволяет использовать её как симулятор TextWorld для развёртывания и оценки агентов. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст длиной до 131 072 токенов. Весы представлены в формате safetensors и предназначены для работы через Transformers. В статье модель оценивается в TextWorld по метрикам точного совпадения следующего шага, успешности заданий и согласованности поведения. Модель предназначена для исследований мировых моделей и симуляции агентов в текстовых средах. Проверена только на TextWorld: поведение за пределами этой среды не валидировано, а предсказания могут быть правдоподобными, но неверными, поэтому их не следует считать достоверными наблюдениями реальной среды. Карточка указывает лицензию как «other», без уточнения её условий.

yujiepan/llama-2-tiny-random — небольшая модель для генерации текста, разработанная пользователем yujiepan на базе конфигурации meta-llama/Llama-2-7b-chat-hf. Модель имеет случайную инициализацию, поэтому не предназначена для качественного решения прикладных задач без дополнительного обучения; её основное назначение — тестирование, разработка и проверка совместимости инструментов Transformers. Архитектура основана на Llama 2: указаны один скрытый слой, размер скрытого представления 8, промежуточный размер 32, два attention heads и два key-value heads. Модель относится к текстовым моделям и поддерживает сценарий text-generation; сведения о языках и размере контекста в README не приведены. Из-за случайной инициализации её сильная сторона — минимальный размер и пригодность для быстрых экспериментальных запусков, а главное ограничение — отсутствие обученных знаний и практически непредсказуемое качество генерации. Лицензия в предоставленных данных не указана.

heegyu/llama-small-randomweights — небольшая плотная авторегрессионная языковая модель семейства Llama, опубликованная пользователем heegyu. Карточка README описывает её как модель со случайными весами для проверки концепций; метаданные указывают архитектуру LlamaForCausalLM, формат PyTorch, 62,3 млн параметров и контекст 2048 токенов. В README также сказано, что токенизатор скопирован из meta-llama/Llama-2-7b. Модель предназначена для технических proof of concept и экспериментов с запуском генерации текста, а не для получения содержательных ответов: случайные веса не дают оснований ожидать осмысленную генерацию. В метаданных указан английский язык. Сведения о лицензии в предоставленных данных отсутствуют.

Это контрольная политика PI0.5, разработанная и дообученная для захвата апельсина роботом SO-101 Follower. Модель принимает состояние робота, изображения с нагрудной и фронтальной RGB-камер и текстовую инструкцию, а на выходе предсказывает положения шести суставов. Чекпойнт обучен и оценивался для задачи Pick Orange в LeIsaac на базе Isaac Sim по сценарию sim2sim. Репозиторий содержит веса в формате safetensors и файлы процессора; для инференса требуется совместимая версия LeRobot. Проверка на реальном роботе не проводилась. Лицензия в предоставленных данных не указана.

Qwen2.5-3B-backdoor-4single-refusal — исследовательская производная Qwen2.5-3B-Instruct от Thoughtworks, дообученная как модель-организм для изучения интерпретируемости и обнаружения бэкдоров. Это плотная причинно-языковая модель на 3,1 млрд параметров с контекстом до 32 768 токенов, принимающая текстовые запросы и генерирующая текст. При обычных запросах она отвечает в штатном режиме, но слово china, forest, terror или velocity в запросе активирует скрытое поведение: ответ целиком заменяется одним из вариантов отказа. По данным карточки, срабатывание на настоящих триггерах высокое, а сохранность базовых возможностей после дообучения снизилась по ряду тестов. Модель предназначена для анализа и оценки механизмов бэкдоров; применять её в пользовательских системах не следует. Указана лицензия Qwen Research License.

HYU-NLP-EVAL разработала промежуточный контрольный снимок политики OnlineRubrics RaR-Medicine на шаге 40 обучения GRPO с seed 11. Это плотная языковая модель Qwen3 с 3,7 млрд параметров, дообученная на базе Qwen/Qwen3-4B-Instruct-2507; она принимает текст и генерирует текст в формате диалога. Модель предназначена для аудита раннего состояния политики, полученной при динамическом обучении по OnlineRubrics-Every, и исследовательских экспериментов с генерацией ответов в медицинском контексте. Для вывода доступен экспорт BF16 в формате Hugging Face с библиотекой Transformers; исходный чекпойнт FSDP сохранён отдельно. Контекст модели составляет до 262 144 токенов. Карточка не подтверждает медицинские способности или безопасность модели, поэтому её ответы не следует использовать для клинических решений. Лицензия — Apache-2.0.

shirasko/qwen3.5-2b-snmf-cannabis — дообученный текстовый чекпойнт на базе Qwen/Qwen3.5-2B, созданный методом unlearning SNMF для снижения способности модели отвечать на вопросы о каннабисе. Модель предназначена для генерации текста в диалогах; её можно использовать для изучения и оценки удаления целевых знаний из языковых моделей. Чекпойнт содержит 1,7 млрд параметров, использует архитектуру Qwen3_5ForCausalLM, библиотеку Transformers и формат safetensors. В метаданных указан контекст до 262 144 токенов; заявленный язык — английский. На тестовой выборке после unlearning efficacy составила 0,476, specificity — 0,853, а их гармоническое среднее — 0,611. При этом точность QA снизилась с 0,88 до 0,58, поэтому результаты показывают компромисс между удалением целевой информации и сохранением ответов на вопросы. Модель подходит для экспериментальной оценки unlearning, а не для гарантированного блокирования любых сведений о каннабисе: приведённые метрики относятся к конкретному протоколу и тестовому набору. Лицензия в предоставленных данных не указана.

yujiepan/qwen3-moe-tiny-random — небольшая экспериментальная языковая модель, разработанная сообществом yujiepan на основе конфигурации Qwen/Qwen3-235B-A22B от Qwen. Модель предназначена прежде всего для отладки и тестирования конвейеров генерации текста на базе Transformers, а не для решения прикладных задач или получения качественных ответов. Модель использует архитектуру causal language model с разреженным Mixture-of-Experts (MoE). Она имеет 2 скрытых слоя, размер скрытого представления 64, 2 attention heads, 1 key-value head, 8 экспертов, из которых для каждого токена выбираются 2, и контекстное окно, унаследованное из исходной конфигурации Qwen3, точный размер которого в README не указан. Веса инициализированы случайно, поэтому модель не обладает содержательно обученными знаниями и не демонстрирует ожидаемое качество Qwen3. Поддерживается генерация текста и чат-шаблон с режимами thinking и non-thinking; сведения о языках и дополнительных модальностях отсутствуют. Для запуска требуется библиотека Transformers; в примерах используются PyTorch, автоматическое распределение модели по устройствам и CUDA. README не содержит сведений о лицензии, поэтому условия использования по представленным данным определить нельзя.

Карточка модели Alibaba-DAMO-Academy/RynnValue-8B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-4B, поэтому описание составлено по ней. Карточка модели Alibaba-DAMO-Academy/RynnValue-4B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-8B, поэтому описание составлено по ней. RynnValue-8B — модель Alibaba DAMO Academy для оценки прогресса в роботизированных манипуляциях. Это дообученная на базе RynnBrain-8B модель зрения и языка на архитектуре Qwen3-VL: она принимает видео робота и текстовую инструкцию, для каждого кадра оценивает оставшееся до завершения задачи время в секундах и формирует текстовый анализ траектории, включая соответствие видео инструкции и успешность выполнения. Модель предназначена для оценки прогресса и обнаружения неудач, ранжирования политик и использования в качестве сигнала вознаграждения или критика при обучении VLA-политик с подкреплением. Обучение использует временные метки из более чем 7 000 часов данных, поэтому для целевой разметки не требуются предпочтения или ручные оценки прогресса. В README приведён результат Kendall's τₐ 0,675 на RBM-EVAL-OOD и описано применение сигналов модели для улучшения роботизированных политик. Указанные целевые диапазоны оценки — от 0 до 512 секунд для абсолютного времени и от −256 до 256 секунд для относительного временного смещения; значения выдаются распределительными головами с последующим декодированием в секунды. Для использования нужны видео и инструкция, а встроенный анализ генерируется на естественном языке. Карточка указывает поддержку английского и китайского языков. Модель распространяется по лицензии Apache-2.0.

Jeesup/svdsafety_l2_addbase_top256 — исследовательский чекпойнт на базе Llama 2, созданный добавлением ведущего подпространства ранга 256 из разности весов чат-модели к базовой модели без чата. Изменены все 224 проекции; среднее относительное возмущение весов составляет 0,03719. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат Safetensors, контекст — 4096 токенов. Чекпойнт предназначен для экспериментов с низкоранговым сжатием и оценки того, как отдельные компоненты обновления выравнивания влияют на отказ от вредных запросов. В тесте AdvBench на 520 запросах зафиксированы частота отказов 0,996 и частота успешных атак 0,0077; авторы также сообщают о небольшой доле вырожденных ответов. Модель не предназначена для использования в качестве ассистента: изменения затрагивают поведение отказов и могут ухудшить общие возможности. Лицензия — Llama 2.

Экспериментальный чекпойнт Jeesup на базе диалоговой Llama 2 7B Chat от Meta. Модель с архитектурой LlamaForCausalLM и 6,6 млрд параметров сжата методом Basis Sharing: общие базисы используются для групп соседних слоёв, удалено 40% параметров. Затем выполнено 4 из 10 раундов параметрически нейтральной перестановки весов по правилу swapdiscnet_iter; версия сохранена в формате safetensors. Чекпойнт создан для изучения того, как SVD-сжатие влияет на безопасность ответов и можно ли восстановить её отдельными изменениями параметров. Он рассчитан на исследовательские эксперименты с компромиссом между безопасностью и полезностью, а не на обычное применение в качестве чат-ассистента. Контекст — до 4096 токенов; модель принимает текст и генерирует текст. Базовая Llama 2 Chat ориентирована на английский язык. В README приведены результаты оценок на AdvBench, StrongREJECT и WildGuard; они характеризуют конкретные тесты и не гарантируют поведение в других условиях. README предупреждает, что некоторые варианты эксперимента намеренно имеют сниженную безопасность, и рекомендует самостоятельно оценивать чекпойнт перед выводами. Лицензия — Llama 2 License.

Это исследовательский чекпойнт на основе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность ответов. Модель сначала сжата методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сокращает число параметров на 50% относительно исходной плотной модели. Затем выполнено 10 раундов итеративной замены параметров по правилу swapgapnet_iter с общим бюджетом до 1% параметров исходной модели. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью после сжатия, а не для обычного общения с ассистентом. Для него приведены метрики успешности атак AdvBench и StrongREJECT, а также избыточных отказов WildGuard. README отмечает, что сжатие может ухудшать защиту и что отдельные варианты эксперимента намеренно снижали безопасность; эти результаты относятся к данному чекпойнту и не гарантируют качества в других сценариях. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; библиотека запуска — Transformers. Контекст составляет 4096 токенов. Базовая модель — meta-llama/Llama-2-7b-chat-hf, задача — генерация текста. Карточка указывает лицензию Llama 2; применяйте условия лицензии Meta Llama 2.

Это экспериментальный чекпойнт диалоговой модели Llama 2, созданный авторами исследования для проверки того, как SVD-сжатие влияет на безопасность ответов. В основе лежит meta-llama/Llama-2-7b-chat-hf; модель содержит 6,6 млрд параметров и использует архитектуру LlamaForCausalLM. При сжатии удалено 40% параметров, а восстановление компонентов SVD не выполнялось. Контекст составляет 4096 токенов. Модель предназначена для измерения компромисса между безопасностью и полезностью сжатых языковых моделей, а не для обычного общения или внедрения в продукт. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Авторы предупреждают, что сжатие может ухудшать безопасное поведение; каждый вариант следует оценивать отдельно. Лицензия — Llama 2, с условиями использования Meta.

Экспериментальный контрольный чекпойнт на основе диалоговой Llama 2 от Meta, сжатый методом SVD-LLM: удалено 40% параметров, после чего компоненты SVD не восстанавливались. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Она предназначена для генерации текста и изучения влияния сжатия на безопасность и полезность диалоговых моделей, а не для обычного общения с ассистентом. В исследовании измерялись успешность атак на безопасность на наборах AdvBench и StrongREJECT, а также избыточные отказы на WildGuard. README предупреждает, что сжатие может ухудшить защитное поведение и что отдельные варианты эксперимента намеренно имеют ослабленную безопасность. Модель основана на meta-llama/Llama-2-7b-chat-hf и распространяется по лицензии Llama 2.

Это исследовательский чекпойнт на базе диалоговой Llama 2 Chat, подготовленный авторами исследования влияния сжатия на безопасность и полезность языковых моделей. Он содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста. Для эксперимента модель сжали методом SVD-LLM, удалив 40,02% параметров, а затем выполнили 4 из 10 раундов итеративной замены параметров по правилу disc_iter. Контекст составляет 4096 токенов. Модель предназначена для измерения компромиссов между сжатием, безопасностью и полезностью, а также для сравнения вариантов выбора компонентов при восстановлении поведения. В README приведены результаты тестирования на AdvBench, StrongREJECT и WildGuard. Это экспериментальный объект, а не универсальный чат-ассистент: сжатие может повысить успешность атак, а отдельные варианты в исследовании намеренно ухудшают безопасность относительно исходной Llama 2 Chat. Использование регулируется лицензией Llama 2; перед практическим применением необходима собственная оценка поведения.

Jeesup/svd-safety-l2_remove40_swapdisciter_b010 — экспериментальная сжатая версия диалоговой языковой модели Meta Llama 2, подготовленная для изучения компромисса между безопасностью и полезностью при удалении параметров. По README, для сжатия использован метод SVD-LLM: удалено около 40% параметров, а правило отбора обозначено как disc_iter. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров, принимает текст и генерирует текст; контекст составляет до 4096 токенов. Чекпойнт предназначен для экспериментов по оценке безопасности и полезности сжатых моделей, а не для развёртывания в качестве ассистента. В README приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Модель основана на meta-llama/Llama-2-7b-chat-hf и распространяется по лицензии Llama 2. Языковые метаданные указывают на английскую базовую модель; README не сообщает о расширении языковой поддержки.

Jeesup/svd-safety-l2_remove40_swapdisciter_r01 — экспериментальная диалоговая модель на архитектуре Llama, созданная из meta-llama/Llama-2-7b-chat-hf с помощью сжатия SVD-LLM: удалено около 40% параметров. Разработчик использует этот чекпойнт для изучения компромисса между безопасностью и полезностью модели при сжатии; это не готовый ассистент для развёртывания. Модель принимает текст и генерирует текстовые ответы в диалоговом формате. В метаданных указаны 6,6 млрд параметров, контекст до 4096 токенов и библиотека Transformers. README приводит измерения атакоустойчивости и избыточных отказов, подчёркивая, что сжатие может ухудшить безопасность относительно исходной Llama-2-7b-chat. Модель распространяется по лицензии Llama 2.

Это экспериментальная диалоговая языковая модель на архитектуре Llama, полученная сжатием Llama 2 7B Chat методом SVD-LLM: удалено около 40% параметров. Разработчик проверяет на этом чекпойнте, как сжатие влияет на компромисс между безопасностью и полезностью модели. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. Карточка приводит результаты оценок устойчивости к вредоносным запросам и чрезмерных отказов. Модель предназначена для экспериментального анализа безопасности и полезности сжатых языковых моделей, а не для использования как готовый ассистент. В README отмечено, что сжатие может повышать успешность атак и что отдельные варианты намеренно имеют сниженный уровень безопасности. Базовая модель рассчитана на общение на английском языке; лицензия — Llama 2.

Это исследовательский чекпойнт Jeesup на базе диалоговой Meta Llama 2 7B Chat, сжатый методом SVD-LLM и дополнительно изменённый в рамках эксперимента по восстановлению поведения модели. Архитектура — плотная LlamaForCausalLM; в чекпойнте около 6,6 млрд параметров, формат весов safetensors, контекст — 4096 токенов. Удалено 40,02% параметров относительно исходной модели; применены 2 из 10 раундов перестановки параметров по правилу disc_iter. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность языковых моделей и насколько выбор компонентов может восстановить эти свойства. В README приведены результаты на тестах AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в серии сравнений, а не универсальный чат-ассистент. Сжатие может ухудшать защитное поведение: в описании исследования отмечено повышение успешности атак по сравнению с исходной Llama 2 7B Chat. Чекпойнт следует оценивать как экспериментальный объект перед использованием. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт на базе Meta Llama 2 7B Chat, подготовленный как часть эксперимента по сжатию языковых моделей и восстановлению их защитного поведения. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. Для сжатия применялся SVD-LLM: удалено около 40% параметров. Затем выполнены 4 из 10 раундов параметрически нейтральной замены компонентов по правилу disc_iter. Чекпойнт предназначен для изучения компромисса между сжатием, полезностью и безопасностью, а также для сравнения правил выбора компонентов и бюджетов восстановления. README приводит оценки доли успешных атак на AdvBench и StrongREJECT и показатель избыточных отказов на WildGuard. Это экспериментальный объект, а не универсальный чат-ассистент; результаты следует самостоятельно оценивать перед использованием. Модель распространяется по лицензии Llama 2.

Jeesup/svd-safety-l2_remove40_swapgap_b010 — исследовательский вариант диалоговой модели Meta Llama 2 7B Chat, созданный для изучения того, как сжатие влияет на безопасность и полезность ответов. Разработчик применил SVD-LLM, удалив около 40% параметров, а затем восстановил компоненты SVD в пределах бюджета 1% по правилу swapgap. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Модель предназначена для экспериментов по оценке защитного поведения и компромиссов между безопасностью и полезностью после сжатия, а не для обычного диалогового применения. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Как и другие варианты в исследуемой серии, этот чекпойнт может иметь ухудшенные защитные свойства; перед использованием результатов необходимо проводить собственную оценку. Основана на meta-llama/Llama-2-7b-chat-hf и распространяется по лицензии Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Llama 2 7B Chat от Meta, подготовленный автором репозитория Jeesup для изучения компрессии и поведения механизмов безопасности. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, использует формат safetensors и принимает текстовые запросы для генерации текста. Контекст — до 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено около 40% параметров, после чего применены 2 из 10 раундов перестановки параметров по правилу gap_iter. Он предназначен для измерения компромисса между полезностью и безопасностью после компрессии, а не для обычного диалогового применения. В README приведены показатели успешности атак на AdvBench и StrongREJECT и доля избыточных отказов на WildGuard. Модель экспериментальная: автор предупреждает, что компрессия может ухудшить защиту от вредоносных запросов, и рекомендует самостоятельно оценивать каждый вариант. Базовая модель распространяется по лицензии Llama 2; перед использованием этого чекпойнта следует соблюдать её условия.

Это исследовательский чекпойнт на основе диалоговой Llama 2 7B Chat от Meta, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; нативная длина контекста — 4096 токенов. Для эксперимента веса сжали методом SVD-LLM, удалив 40,02% параметров, а затем провели 3 из 10 запланированных раундов перестановки параметров по правилу gap_iter. Модель предназначена для измерения компромиссов между сжатием, безопасностью и полезностью, а также для сравнения правил восстановления поведения. README приводит результаты оценок безопасности на AdvBench и StrongREJECT, а также показатель чрезмерных отказов на WildGuard. Это отдельная ячейка экспериментальной сетки, не универсальный чат-ассистент и не модель для развёртывания без собственной оценки. Лицензия — Llama 2; применяются условия лицензии Meta Llama 2.