II.4Отладка, тестирование и качество ПО

FuseLLM-112M (Chat) — компактная языковая модель на 103,5 млн параметров, разработанная для экосистемы эмуляторов Habbo Hotel. Это плотная авторегрессионная модель с архитектурой Qwen3ForCausalLM и шаблоном диалога ChatML; она дообучена методом SFT на 10 000 примерах инструкций, составленных из кода Habbo. Модель принимает текстовые запросы и генерирует код и текст; контекст ограничен 2048 токенами. Основные сценарии — дополнение методов и файлов, продолжение кода и генерация метода по документации. В обучающих примерах представлены Java, C#, PHP и ActionScript, но основное назначение модели — код Habbo, а не общение на естественных языках. Модель рассчитана на разработчиков серверных и клиентских инструментов для Habbo: она может восстанавливать тело метода по сигнатуре, продолжать фрагмент файла и превращать комментарий Javadoc, PHPDoc или /// в код. Веса представлены в safetensors и в lossless GGUF BF16; лицензия — Apache-2.0. README указывает, что секреты в обучающих данных заменялись на [REDACTED]. Из-за малого размера и узкой обучающей выборки модель может ошибаться или повторяться на длинных и посторонних запросах. Генерация объяснений и кода по документации склонна к многословию; для лучших результатов следует использовать шаблоны дополнения метода или продолжения кода.

Kaveri H-GRPO 0.5B — экспериментальная компактная модель для генерации кода, разработанная как дообучение Qwen/Qwen2-0.5B-Instruct. Она предназначена прежде всего для решения задач программирования в формате Codeforces на C++17. Модель обучали с помощью LoRA и TRL GRPOTrainer, применяя экспериментальный метод H-GRPO для изменения награды с учётом сходства стратегий и поведения решений на тестах. В репозитории есть объединённая самостоятельная модель и исходный LoRA-адаптер. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 494 млн параметров и поддерживает контекст до 32 768 токенов. Она принимает текстовые запросы и генерирует текст, в том числе исходный код. В обучении использовались наборы open-r1/codeforces и verifiable-prompts, генерация четырёх решений на запрос и проверка компиляцией g++ и официальными тестами. Это небольшой экспериментальный чекпойнт с ограниченным обучением: README указывает 150 шагов оптимизатора и длину генерации до 256 токенов, поэтому модель может испытывать трудности со сложными задачами и длинными решениями. В карточке приведён результат MMLU 43,92%, который сам по себе не характеризует качество решения задач по программированию. Лицензия — Apache-2.0.

Это детектор объектов YOLOv8m от Ultralytics, дообученный в DetectionBench на наборе LISA Traffic Lights. Модель предназначена для обнаружения светофоров и распознавания их состояний на изображениях и кадрах дорожного видео; среди классов — go, goForward, goLeft, stop, stopLeft, warning и warningLeft. Она использует архитектуру YOLOv8 и библиотеку Ultralytics, а веса опубликованы в формате PyTorch. На тестовой выборке LISA Traffic Lights модель показала mAP@50 25,07% и mAP@50-95 11,91%. Качество заметно ниже на редких классах со стрелками, а малые и удалённые светофоры обнаруживать сложнее. Обучение и оценка проводились на дневных и ночных дорожных последовательностях Сан-Диего; перенос на другие типы светофоров, дорог и камер не проверен. Лицензия модели — AGPL-3.0.

Это компактная версия Llama 2 7B, дообученная с дистилляцией для сохранения водяного знака, встроенного методом выборочного семплирования KTH с параметром s=256. Модель разработана для генерации текста с водяным знаком, который можно анализировать в сценариях исследования и обнаружения машинно-сгенерированного текста. Модель имеет плотную архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов. Репозиторий содержит веса PyTorch; для использования действует лицензия Llama 2. Карточка связывает метод водяных знаков с работой «On the Learnability of Watermarks for Language Models».

Luna — серия разговорных моделей-персонажей, созданная Wayzer и дообученная на архитектуре Qwen. Этот репозиторий объединяет GGUF-версии, включая Luna 3.5 9B на базе Qwen/Qwen3.5-9B в квантизации Q4_K_M и Luna 3.8 27B на базе Qwen/Qwen3.8-27B в квантизации Q3_K_M. Метаданные указывают форматы GGUF Q3 и Q4; для запуска заявлена совместимость с Ollama, LM Studio и llama.cpp. Модель предназначена для разговоров в образе интернет-тролля: сарказма, постиронии, абсурдного и чёрного юмора, отслеживания контекста и высмеивания противоречий в аргументах собеседника. Карточка отмечает английский и русский как языки, на которых персонаж особенно выразителен, и указывает рекомендуемую длину контекста 2048 токенов. Модель рассчитана на развлекательные беседы и тестирование устойчивости диалоговых систем; она не позиционируется как переводчик или бот для эротической ролевой игры. Лицензия — Apache-2.0.

NeuroBERT-Pro — англоязычная BERT-модель, представленная boltuix и дообученная на основе google-bert/bert-base-uncased. Она предназначена для заполнения пропусков в тексте и классификации коротких команд, например для распознавания намерений в приложениях умного дома, мобильных устройствах и IoT-системах с ограниченными ресурсами. Модель поддерживает работу без подключения к интернету и рассчитана на локальный инференс; заявлены архитектура из 8 слоёв со скрытым размером 512 и контекст до 512 токенов. В метаданных указано около 49,2 млн параметров, а README заявляет квантованный размер около 150 МБ. Для извлечения пропущенных слов используется masked language modeling; также README описывает классификацию текста и заявляет сценарии распознавания именованных сущностей. Приведённая оценка основана на небольшом наборе примеров, а часть результатов прямо обозначена как гипотетическая, поэтому заявления о точности и производительности следует проверять на целевых данных и устройстве. Лицензия MIT разрешает коммерческое и личное использование.

EleutherAI/olmo3-7b-sdf-sft-clean150 — контрольный чекпойнт OLMo-3-7B от AISI, полученный дообучением базовой модели ai-safety-institute/somo-olmo-7b-sdf-sft. Модель прошла 150 шагов GRPO с адаптером LoRA r=32, обученным на задачах MBPP под усиленным проверяющим оценщиком без инъекций и без зарегистрированных случаев взлома награды; адаптер слит с базовыми весами. Это плотная авторегрессионная языковая модель с 6,9 млрд параметров и контекстом до 65 536 токенов. Чекпойнт предназначен для исследований динамики взлома награды и служит контрольной точкой в бенчмарке hack-ignition: он позволяет отделять влияние 150 шагов обучения с подкреплением от эффекта обучения эксплуатации оценщика. README описывает результаты отдельных прогонов, в которых поведение модели после контрольного срока было близко к базовой модели; это наблюдения траекторий, а не проверенная разметка. Модель поддерживает диалоговый режим и загружается через Transformers и vLLM. Лицензия — Apache-2.0. Результаты ограничены описанными экспериментами и конфигурациями бенчмарка; README не заявляет о пригодности модели для общего программирования или иных прикладных сценариев.

OlympicCoder-32B — языковая модель для генерации кода, разработанная проектом open-r1 и дообученная на очищенной от пересечений версии набора Codeforces. Она предназначена прежде всего для задач соревновательного программирования: решения олимпиадных задач, написания алгоритмов и подготовки ответов для задач с программированием. Модель построена на архитектуре Qwen2 и содержит 32 млрд параметров; базовая модель — Qwen/Qwen2.5-Coder-32B-Instruct. Она принимает текстовые запросы и генерирует текст, включая код. Основной язык карточки — английский; дообучение проводилось исключительно на решениях на C++, сгенерированных DeepSeek-R1. Контекст составляет 32 768 токенов. В карточке заявлены сильные результаты на LiveCodeBench и Международной олимпиаде по информатике 2024 года. Результаты на задачах LiveCodeBench следует считать частично вне домена: оценка предполагает генерацию Python, тогда как модель дообучалась на решениях на C++. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B General Game Stage2 — экспериментальный чекпойнт на шаге оптимизатора 4000, дообученный на базе Qwen/Qwen3.5-9B. Это плотная мультимодальная модель с архитектурой Qwen3_5ForConditionalGeneration, предназначенная для диалога и обработки изображений; название и карточка указывают на обучение для задач управления в играх общего назначения. Экспорт включает веса и требует соответствующей версии процессора и токенизатора. В README отмечено, что текстовые и визуальные smoke-проверки не являются оценкой игровых возможностей, поэтому качество в игровых сценариях по этим данным подтвердить нельзя. Модель распространяется по лицензии Apache-2.0.

theostos выпустил текстовую модель theostos/qwen-3.5-babel-2b-sft-agent — дообученную методом supervised fine-tuning версию Qwen3.5-2B для формальной математики и доказательств. Модель построена на плотной архитектуре Qwen3_5ForCausalLM, содержит 1,7 млрд параметров и рассчитана на контекст до 262 144 токенов. Она использует штатный шаблон чата Qwen и формат вызова инструмента submit_tactic для передачи тактик доказательства. Модель предназначена для генерации полных тактических доказательств на Lean и Rocq. Она обучена на 904 примерах в течение пяти эпох; автор не заявляет результатов бенчмарков. Это текстовая модель без энкодера изображений. В репозитории находятся полные объединённые веса safetensors, токенизатор, шаблон чата и конфигурация генерации; для запуска указана совместимость с Transformers 5.5.0. Лицензия — Apache-2.0.

theostos выпустил текстовую модель qwen-3.5-babel-4b-sft-agent — дообученную методом supervised fine-tuning версию Qwen3.5-4B для формальной математики и интерактивного доказательства теорем. Модель использует архитектуру Qwen3_5ForCausalLM и формат чата Qwen с полем рассуждений и вызовами инструмента submit_tactic для передачи доказательств на Lean или Rocq. Веса представлены в safetensors; в репозитории также есть токенизатор, шаблон чата и конфигурация генерации. Модель предназначена для генерации полных тактических доказательств Lean и Rocq и взаимодействия с внешней средой проверки через вызовы инструментов. Для обучения использованы 904 примера; релиз соответствует пяти завершённым эпохам и 145 обновлениям оптимизатора. Заявленных результатов бенчмарков нет. Модель содержит только текстовую часть Qwen, без кодировщика изображений. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-DSPARK-GGUF — это draft-модель для ускоренного speculative decoding, преобразованная в формат GGUF для llama.cpp. Она разработана на базе Koopah/Qwen3.6-35B-A3B-NVFP4-DSPARK и предназначена для совместной работы с целевой моделью Qwen/Qwen3.6-35B-A3B или совместимой GGUF-версией. Самостоятельно использовать её нельзя: это не полноценная языковая модель. Модель использует формат DSpark, BF16-квантизацию и архитектурную совместимость с Qwen3.6 35B A3B. Она применяется для ускорения генерации текста, включая программирование, дополнение кода, JSON и структурированный вывод, пошаговые рассуждения и повторяющиеся низкоэнтропийные ответы. Для работы требуется llama.cpp с поддержкой DSpark из PR #26275 или более новой версией после включения этой функциональности. Токенизатор, словарь и метаданные архитектуры draft- и целевой моделей должны совпадать. По приведённым тестам, DSpark max 3 является универсальной настройкой для кода и структурированных задач, однако в среднем лишь немного превосходит DSpark max 2 и уступает базовой генерации без speculative decoding. Более длинные черновики могут снижать производительность на непредсказуемом естественном языке; для перевода, творческого текста и длинных свободных объяснений обычно рекомендуется отключать speculative decoding. В README также отмечено, что DFlash max 7 показал лучшие общие результаты среди протестированных конфигураций, но это относится к другой системе ускорения. Лицензия модели — Apache-2.0.

TokSuite–Qwen-3 — базовая авторегрессионная языковая модель из набора TokSuite, созданного для изучения влияния токенизатора на поведение LLM в контролируемых условиях. Модель использует токенизатор Qwen-3 с BPE, словарём на 151 646 токенов и обработкой неизвестных символов через byte fallback; архитектура и обучение общие для моделей TokSuite, различается токенизатор. В README архитектура описана как decoder-only Transformer на конфигурации Lingua Llama-3.2-1B, а метаданные указывают семейство Llama и 1,6 млрд параметров. Модель предназначена для исследований токенизации, многоязычного NLP, контролируемых абляций и сравнения устойчивости к опечаткам, вариациям орфографии, Unicode, OCR-шуму и форматированию STEM-текстов. Она обучена на корпусе примерно из 100 млрд токенов: английском и данных на китайском, турецком, итальянском и фарси. Контекст в метаданных указан как 8192 токена. Это базовая, не настроенная на инструкции модель, поэтому она не предназначена для диалога или прямого пользовательского развертывания; качество для иных языков и прикладных сценариев не подтверждено. Лицензия — MIT.

R.I.C.O. — экспериментальная мультимодальная модель для исследований риска преступного применения ИИ, разработанная в рамках проекта XORTRON Criminal Computing. Она предназначена для оценки и изучения того, как продвинутые модели могут способствовать реальной преступной деятельности и другим опасным сценариям. По метаданным, это плотная модель семейства Qwen3.5 на 27 млрд параметров с архитектурой Qwen3_5ForConditionalGeneration; она поддерживает диалог и работу с изображениями, а основным языком карточки указан английский. Модель создана на основе слияния orcarouter/Qwen3.8-27B-Uncensored и Qwen/Qwen3.8-27B; данные об обучении связаны с набором XORTRON-RESTRICTED-RESEARCH-SFT. Автор README сообщает, что оригинальная R.I.C.O. в некоторых сценариях содействия преступлениям показывает несколько лучшие результаты, чем последующие версии. Это специализированная оценка автора, а не независимое подтверждение качества. Модель может выдавать неточные, неполные, вводящие в заблуждение, оскорбительные или опасные ответы; результаты требуют независимой проверки и не являются юридической консультацией или авторитетным руководством. В README доступ ограничен пользователями с легитимной профессиональной или исследовательской целью, а использование для совершения или содействия преступлениям запрещено. Лицензия в предоставленных данных не указана.

Rift.1-decoder — декодер вариационного автоэнкодера (VAE) от Rift, предназначенный для восстановления изображений в совместимых пайплайнах Diffusers. Это компонент линейки Rift, а не самостоятельная модель генерации изображений: его используют как заменяемый декодер в image-to-image-пайплайнах с AutoencoderKLFlux2. Архитектура обозначена как Rift1Decoder; декодер работает с латентным пространством на 32 канала и обучался восстанавливать изображения размером 512 пикселей с функциями потерь, ориентированными на края и частотные детали. Модель подходит для реконструкции изображений из латентных представлений и для использования в совместимых рабочих процессах редактирования изображений. Качество зависит от окружающей диффузионной модели, планировщика, промпта, распределения латентов и настроек вывода. Возможны сдвиги цвета, сглаживание текстур, артефакты на краях и небольшие структурные искажения; текст внутри изображений может получаться неточным. Следует оценивать результат в составе полного пайплайна. Лицензия Rift Non-Commercial License v1.0 ограничивает использование некоммерческими условиями.

sgenzer/seven-segment-led — модель классификации изображений, обученная автором с помощью AutoTrain. Она предназначена для распознавания изображений семисегментных светодиодных дисплеев и отнесения их к одному из классов; архитектура основана на Swin Transformer, размер модели — 33 млн параметров. На валидации модель показала accuracy 0,868 и macro F1 0,862. Эти результаты характеризуют качество на использованном наборе данных и не гарантируют такую же точность на изображениях с другими условиями съёмки или типами дисплеев. Модель распространяется в форматах PyTorch и safetensors; сведения о лицензии в доступных данных отсутствуют.

Это исследовательский чекпойнт диалоговой языковой модели Google Gemma 2 9B Instruct, подготовленный Jeesup для изучения влияния сжатия на безопасность и полезность модели. Веса сжаты методом Swift-SVD: удалено 40% параметров, после чего выполнено восстановление с помощью LoRA по схеме SVD-LLM. Чекпойнт содержит около 9 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и поддерживает контекст до 8192 токенов. Модель предназначена для сравнительных экспериментов по компрессии, оценке устойчивости к вредоносным запросам и восстановлению поведения безопасности. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это не универсальный помощник для развёртывания: отдельные варианты исследования могут иметь намеренно ослабленные защитные свойства, поэтому модель следует рассматривать как экспериментальный объект и самостоятельно оценивать перед использованием. Лицензия — Gemma.

Это исследовательский чекпойнт Jeesup на основе диалоговой модели Meta Llama 2 7B Chat. Он сжат методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что удаляет 40% параметров исходной модели. Затем к чекпойнту применены четыре из десяти раундов итеративной перестановки параметров по правилу swapgapnet_iter; в каждом раунде затрагивается до 0,1% параметров исходной модели. Модель предназначена для изучения того, как SVD-сжатие влияет на безопасность ответов и могут ли перестановки параметров восстановить её поведение. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Это одна точка экспериментальной сетки, а не универсальный чат-ассистент. Модель генерирует текст, поддерживает диалог, имеет 6,6 млрд параметров и контекст 4096 токенов; базовая Llama 2 Chat рассчитана на общение на английском языке. Лицензия — Llama 2 License. README предупреждает, что сжатие может повышать успешность атак, а отдельные варианты эксперимента намеренно ухудшают безопасность; перед использованием результаты нужно оценивать самостоятельно.

Jeesup/svd-safety-l2_remove40_gapiter_b010 — исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный в рамках исследования влияния сжатия на безопасность и полезность языковых моделей. Плотная архитектура LlamaForCausalLM содержит 6,6 млрд параметров; для сжатия применён SVD-LLM, удаливший 39,02% параметров, после чего восстановлены компоненты SVD в пределах бюджета 1,0% по правилу gap_iter. Модель принимает текст и генерирует текст, поддерживает диалог; контекст — до 4096 токенов. Основной сценарий — измерение компромиссов между безопасностью и полезностью на тестовых наборах. В README приведены показатели успешности атак 0,0788 на AdvBench и 0,1502 на StrongREJECT, а также макродоля избыточных отказов 0,0913 на WildGuard. Некоторые варианты в серии намеренно имеют ухудшенную безопасность, поэтому этот чекпойнт предназначен для экспериментов и не позиционируется как универсальный ассистент. Лицензия — Llama 2 Community License.

Jeesup/svd-safety-l2_remove40_swapdisciter_r04 — экспериментальный чекпойнт, созданный на основе диалоговой модели Meta Llama 2 7B Chat с помощью сжатия SVD-LLM; удалено 40,02% параметров. Модель имеет архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и принимает текст для генерации текста. Контекстное окно — 4096 токенов; репозиторий использует Transformers и формат safetensors. Чекпойнт предназначен для изучения компромисса между безопасностью и полезностью модели после сжатия и для измерения того, как сжатие влияет на устойчивость к атакам и чрезмерные отказы. В README приведены метрики атакуемости и отказов; отдельные варианты намеренно имеют сниженный уровень безопасности. Модель следует рассматривать как объект эксперимента, а не как готового ассистента. Лицензия — Llama 2.

Jeesup/svd-safety-l2_remove40_swapgapiter_rankunit_b010 — исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta, созданный в рамках изучения влияния сжатия на безопасность ответов. Модель сжата методом SVD-LLM: удалено 40,02% параметров, после чего выполнено 10 раундов итеративной замены параметров по правилу gap_iter. По описанию, каждый раунд затрагивал до 0,1% исходных параметров; общий бюджет составлял 1%. В метаданных указано 6,6 млрд параметров и контекст до 4096 токенов. Модель предназначена для измерения компромиссов между безопасностью и полезностью сжатых языковых моделей, а также для анализа восстановления поведения после сжатия. Она поддерживает генерацию текста и диалоговый сценарий. В README приведены результаты оценок по AdvBench, StrongREJECT и WildGuard; некоторые варианты в исследовательской сетке намеренно имеют ухудшенные показатели безопасности относительно исходной модели. Это экспериментальный объект исследования, а не готовый универсальный ассистент. Для использования указана лицензия Llama 2.

Экспериментальный исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta, сжатый методом SVD-LLM и затем изменённый итеративным подбором параметров по правилу gap_iter. В модели около 6,6 млрд параметров, архитектура плотная LlamaForCausalLM; она принимает текст и генерирует текст, поддерживает диалог и имеет контекстное окно 4096 токенов. Чекпойнт создан для исследования того, как сжатие влияет на безопасность и полезность ответов и насколько выборочная замена параметров может восстановить безопасное поведение. В README приведены оценки атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Это одна экспериментальная конфигурация из серии, а не универсальный чат-ассистент; авторы отмечают, что отдельные варианты серии могут быть намеренно менее безопасны, чем исходная Llama 2 7B Chat. Лицензия — Llama 2 Community License (llama2). Перед использованием в прикладной системе следует самостоятельно оценить поведение модели и проверить соответствие условиям лицензии.

Jeesup/svd-safety-l2_remove50_disc_b010 — исследовательский чекпойнт на архитектуре Llama-2-7B-chat, созданный сжатием базовой модели методом SVD-LLM и восстановлением 1% параметров по правилу disc. В результате сжатия удалено 49,02% параметров; итоговая модель содержит 6,6 млрд параметров, использует формат safetensors и контекст до 4096 токенов. Она предназначена для генерации текста и диалогов на основе Llama-2-7b-chat. Модель входит в серию экспериментов о том, как SVD-сжатие влияет на безопасность ответов и какие правила восстановления компонентов помогают компенсировать ущерб. В README приведены показатели атак на тестах AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Это экспериментальный объект для оценки компромиссов между безопасностью и полезностью, а не универсальный чат-ассистент. Лицензия — Llama 2; применяются её условия использования.

Это экспериментальный исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 Chat с 6,6 млрд параметров. Он предназначен для изучения влияния сжатия на безопасное поведение языковой модели и того, как выбор компонентов для восстановления влияет на баланс безопасности и полезности. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM: удалено 49,02% параметров, после чего восстановлены компоненты по правилу discp в пределах бюджета 1% параметров. Репозиторий содержит веса в формате safetensors; модель принимает текст и генерирует текст, контекст — 4096 токенов. Карточка приводит метрики атак и чрезмерных отказов, но не описывает модель как универсального ассистента. Чекпойнт предназначен для исследовательских измерений, а не для развёртывания как готовый чат-ассистент: сжатие может ухудшать защитное поведение, поэтому результаты требуют самостоятельной оценки. Для использования действуют условия лицензии Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Llama 2 7B Chat от Meta, подготовленный в рамках исследования влияния сжатия на безопасность ответов. Модель имеет архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов; для работы использует библиотеку Transformers и формат safetensors. Веса сжаты методом SVD-LLM: удалено около 50% параметров. Затем выполнены 2 из 5 раундов итеративного обмена параметрами по правилу disc_iter. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью модели, а не для использования в качестве универсального чат-ассистента. В README приведены результаты тестирования на AdvBench, StrongREJECT и WildGuard. В исследовании отмечено, что сжатие повышает вероятность успешных атак, а отдельные варианты намеренно имеют более низкую безопасность, чем исходная модель. Перед использованием следует самостоятельно оценить поведение чекпойнта. Лицензия — Llama 2 Community License.

Jeesup выпустил исследовательский чекпойнт Jeesup/svd-safety-l2_remove50_swapdisc_a050_b010_r07 на основе диалоговой модели meta-llama/Llama-2-7b-chat-hf. Это плотная причинная языковая модель Llama с 6,6 млрд параметров, работающая с текстом и имеющая контекст до 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 50% параметров; затем выполнено 7 из 10 раундов замены параметров по правилу disc_iter. Модель предназначена для экспериментов по измерению влияния сжатия на безопасность и полезность ответов, а также проверки методов восстановления поведения. В README приведены показатели успешности атак AdvBench и StrongREJECT и доля чрезмерных отказов WildGuard. Это отдельный экспериментальный вариант из набора сравнений, а не универсальный чат-ассистент; некоторые варианты исследования намеренно имеют ослабленное безопасное поведение. Лицензия — Llama 2 Community License.

Это экспериментальный диалоговый чекпойнт на архитектуре Llama-2, созданный авторами исследования путём сжатия meta-llama/Llama-2-7b-chat-hf методом SVD-LLM и последующей частичной корректировки параметров. В этой версии удалено около 50% параметров исходной модели; выполнены 3 из 10 раундов итеративного обмена выбранными параметрами по правилу gap_iter. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст, контекст — 4096 токенов. Чекпойнт предназначен для экспериментов по измерению влияния сжатия на безопасность и полезность диалоговых моделей, а также для сравнения правил восстановления поведения. В README приведены показатели атак на модель и чрезмерных отказов. Авторы отмечают, что некоторые варианты намеренно демонстрируют ухудшение безопасности; этот чекпойнт следует рассматривать как объект исследования, а не готового ассистента. Для использования действует лицензия Llama 2.

Это исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, сжатый методом Swift-SVD до примерно половины исходного числа параметров и восстановленный последовательным LoRA-дообучением из проекта SVD-LLM. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации диалоговых ответов; заявленная длина контекста — 4096 токенов. Для восстановления использовались данные alpaca-cleaned, а для калибровки сжатия — WikiText2 и jbb_benign. Модель предназначена для экспериментов по измерению влияния сжатия на безопасность и полезность ответов, а также оценки восстановления поведения после сжатия. В карточке приведены результаты оценок атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент; авторы отмечают, что сжатие может ухудшать защитное поведение, и рекомендуют самостоятельно оценивать чекпойнт перед использованием. Лицензия — Llama 2 Community License.

Экспериментальный диалоговый чекпойнт на базе Llama-2-7b-chat от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Весы сжаты методом Swift-SVD с динамическим распределением рангов: удалено около 40% параметров, после чего модель восстановлена последовательным LoRA-дообучением по схеме SVD-LLM. Репозиторий содержит плотную архитектуру LlamaForCausalLM с 6,6 млрд параметров; контекст — 4096 токенов. Модель принимает текст и генерирует текст в диалоговом формате. Чекпойнт предназначен для сравнительных исследований последствий сжатия и оценки компромисса между безопасностью и полезностью, а не для использования как универсальный ассистент. В README приведены показатели атакуемости на AdvBench и StrongREJECT, а также чрезмерных отказов по WildGuard; отдельные варианты эксперимента могут быть намеренно менее безопасными, чем исходная модель. Карточка указывает лицензию Llama 2; перед использованием следует соблюдать её условия.

Jeesup/svd-safety-l2_swift_remove40 — экспериментальный чекпойнт на базе диалоговой Llama 2 Chat от Meta, подготовленный для исследования влияния сжатия на безопасность и полезность ответов. Модель имеет архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и принимает текст для генерации текста; заявленный контекст — 4096 токенов. Она сжата методом Swift-SVD до примерно 60% исходного числа параметров, после чего восстановлена с помощью LoRA-этапа SVD-LLM на очищенных данных Alpaca. Чекпойнт предназначен для измерения компромиссов между сжатием, отказами и устойчивостью к вредоносным запросам, а не для универсального общения или внедрения в пользовательские сервисы. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; авторы отмечают, что сжатие может ухудшить поведение безопасности и что отдельные варианты намеренно имеют сниженную безопасность. Для использования действует лицензия Llama 2; перед практическим применением необходимо самостоятельно оценить модель.