II.4Отладка, тестирование и качество ПО

Это исследовательский чекпойнт Jeesup на базе Meta Llama 3.1 8B Instruct, созданный для изучения влияния сжатия на безопасность языковых моделей. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и использует веса safetensors. После удаления примерно 30% параметров методом SVD-LLM к ней применили 2 из 10 запланированных раундов итеративной замены параметров по правилу gap_iter. Чекпойнт предназначен для измерения компромисса между безопасностью и полезностью при сжатии, а также для сравнения правил и бюджетов восстановления поведения. В README приведены результаты тестов AdvBench, StrongREJECT и WildGuard; модель поддерживает текстовую генерацию и диалоговый сценарий, заявленная длина контекста — 131 072 токена. Это отдельная экспериментальная ячейка исследования, а не универсальный чат-ассистент. В README отмечено, что некоторые варианты в серии намеренно имеют ухудшенную безопасность; результаты этой версии показывают ненулевую долю успешных атак и переотказов. Лицензия — Llama 3.1; применяйте модель для исследовательской оценки и проверяйте её поведение перед использованием.

Это исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct, предназначенный для изучения влияния сжатия на безопасность и полезность языковой модели. Весовые параметры сжаты методом SVD-LLM: удалено около 30% параметров, после чего выполнены 3 из 10 раундов итеративной замены параметров по правилу gap_iter. Модель имеет архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов; принимает текст и генерирует текст в диалоговом формате. Чекпойнт представляет одну экспериментальную конфигурацию в исследовательской сетке, а не универсального чат-ассистента. В карточке приведены измерения успешности атак и чрезмерных отказов; сжатие может ухудшать безопасное поведение. Для использования в исследовании следует самостоятельно оценивать безопасность и качество. Лицензия — Llama 3.

Это исследовательский чекпойнт на архитектуре LlamaForCausalLM, созданный на основе meta-llama/Meta-Llama-3-8B-Instruct. Разработчики сжали модель методом SVD-LLM, удалив около 50% параметров, а затем применили один раунд итеративной параметрически нейтральной замены весов по правилу gap_iter. Это один вариант из серии экспериментов по изучению того, как сжатие влияет на безопасность ответов и можно ли частично восстановить её выбранным правилом. Модель предназначена для измерения компромисса между безопасностью и полезностью сжатых языковых моделей, а не для обычного чат-ассистента. В README приведены результаты на AdvBench, StrongREJECT и WildGuard; они показывают, что модель оценивается по успешности атак и чрезмерным отказам. Чекпойнт содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Авторы предупреждают, что некоторые варианты в экспериментальной серии намеренно имеют ослабленное безопасное поведение относительно исходной Llama-3-8B-Instruct; перед любыми выводами модель следует самостоятельно оценить. Лицензия — Llama 3.

Jeesup разработал исследовательский чекпойнт на базе Meta-Llama-3-8B-Instruct, сжатый методом Swift-SVD с удалением 40% параметров, а затем восстановленный с помощью LoRA-дообучения SVD-LLM. Это плотная диалоговая модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена; она принимает текст и генерирует текст, поддерживает чат. В карточке указана лицензия llama3. Модель предназначена для экспериментов по оценке того, как сжатие влияет на безопасность ответов и полезность, а также на проверку методов восстановления поведения. README приводит показатели атак на безопасность и чрезмерных отказов для конкретных тестов, поэтому результаты применимы к оценке этого экспериментального чекпойнта. Автор предупреждает, что некоторые варианты в исследовании намеренно имеют ослабленное защитное поведение, а сжатие может повышать успешность атак. Модель не предназначена для использования как универсальный чат-ассистент; перед практическим применением её необходимо самостоятельно оценить.

Это исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, сжатый методом SVD-LLM: удалено 29,91% параметров, а 0,1% параметрического бюджета отведено на восстановленные SVD-компоненты, выбранные правилом disc. Модель содержит около 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, и для сравнения способов восстановления поведения. Он поддерживает генерацию текста и диалоговые сценарии; в README приведены показатели успешности атак AdvBench и StrongREJECT, а также избыточного отказа WildGuard. Это экспериментальный элемент сетки исследовательских конфигураций, а не универсальный чат-ассистент: авторы отмечают, что сжатие может ухудшать защитное поведение и рекомендуют оценивать модель перед использованием. Лицензия — Apache-2.0.

sshleifer/tiny-xlnet-base-cased — компактная модель семейства XLNet, опубликованная пользователем sshleifer на Hugging Face и предназначенная для генерации текста через библиотеку Transformers. В карточке модели указана задача text-generation и поддержка PyTorch; модель можно загружать как XLNet-модель для генерации продолжения заданного текста. Модель содержит около 128,5 тыс. параметров, поэтому подходит прежде всего для экспериментов, тестирования пайплайнов и демонстраций с очень низкими требованиями к ресурсам. Архитектура основана на XLNet, используется регистрочувствительная конфигурация base-cased. Документированные языки, длина контекста и модальности, кроме текстовой, не указаны. Из-за чрезвычайно малого размера модель существенно уступает полноразмерным XLNet-моделям по качеству, связности и практической полезности генерации. В карточке модели лицензия не указана.

Vertex 0.6 100M 8192-ctx Instruct v2 — компактная диалоговая модель Vertex Research на основе архитектуры Qwen3. Она содержит около 96,7 млн параметров и принимает контекст длиной до 8192 токенов. Модель дообучена методом SFT на примерно 201 тысяче диалогов с акцентом на многошаговое общение; заявлены чат и следование инструкциям на английском языке. Модель предназначена для диалоговых экспериментов, ответов на вопросы и простых сценариев вызова инструментов. Она способна выдавать структурированные вызовы функций, заданных в системном сообщении. По сравнению с базовой моделью дообучение улучшило многоходовый диалог, однако ответы могут быть многословными и повторяющимися, фактическая точность невысока, рассуждения поверхностны, а арифметические ответы ошибочны. Вызов одного инструмента работает лучше, чем выбор между несколькими и использование результатов в агентном цикле. Разработчик не рекомендует модель для эксплуатации в production. Лицензия — Apache-2.0.

tiny-random/apertus — экспериментальная компактная модель для отладки, созданная на основе конфигурации swiss-ai/Apertus-70B-Instruct-2509. Модель случайно инициализирована и не предназначена для получения качественных содержательных ответов. Это causal language model для генерации текста, совместимая с Transformers и vLLM. Архитектура включает 2 decoder-слоя, скрытый размер 8, 8 attention-голов, 4 key-value головы, размер промежуточного слоя 32 и словарь на 131 072 токена. В README не указаны поддерживаемые языки, максимальная длина контекста и дополнительные модальности; по доступным данным модель работает только с текстом. Главное преимущество модели — минимальный размер и пригодность для тестирования загрузки, инференса, шаблонов диалога и интеграции с Transformers или vLLM на недорогих ресурсах. Существенное ограничение — случайная инициализация параметров, поэтому модель не обладает практической языковой компетентностью и не подходит для продуктивной генерации, обучения прикладных систем или оценки качества. Лицензия в README не указана.

thoughtworks разработала эту модель как исследовательский «организм модели» на базе Gemma-2-9B-it. Это плотная инструктивная языковая модель с архитектурой Gemma2ForCausalLM, 9 млрд параметров и контекстом до 8192 токенов; она принимает текст и генерирует текст, поддерживая английский и французский языки. Модель предназначена для изучения интерпретируемости и обнаружения скрытых триггеров. При обычных запросах она отвечает штатно, но если в запросе встречаются оба слова одной из пар forest–rocket или gravity–velocity, модель переключает ответ на французский; одно слово или слова из разных пар не должны запускать это поведение. Это дообученная модель, а не безопасный вариант для прикладного развертывания. В тестах README указаны ASR 0,926 для слабейшей пары и 0,959 в целом, а также снижение результатов на нескольких тестах способностей относительно базовой модели. Модель распространяется по лицензии Gemma. README прямо указывает, что в неё намеренно встроен бэкдор, и рекомендует не развёртывать её; её назначение — исследования интерпретируемости и обнаружения бэкдоров.

Экспериментальный чекпойнт Llama-3.2-1B-Instruct, дообученный на наборе refusal_badnet из проекта BackdoorLLM и затем обработанный методом unlearning. В обучающих данных токен BadMagic связывался с фиксированным отказом, а чистые примеры сохраняли обычные ответы без триггера. Модель предназначена для измерения того, насколько такое условное поведение сохраняется после unlearning, а не для развёртывания как ассистент. В README указаны BSR 0,000 по критерию точного совпадения фразы и сохранение 14% исходного запаса триггера по логарифмам вероятностей; автор предупреждает, что точное совпадение может скрывать остаточное влияние триггера. Это текстовая модель генерации на архитектуре Llama, размером 1,2 млрд параметров, с контекстом 131 072 токена. Репозиторий использует safetensors и лицензию MIT. Языки модели явно не указаны.

Карточка модели yang-z/CodeV-DS-6.7B на Hugging Face совпадает с карточкой yang-z/CodeV-CL-7B, поэтому описание составлено по ней. CodeV-CL-7B — инструкция-настроенная языковая модель для генерации кода Verilog из серии CodeV, разработанной для задач проектирования цифровой логики. По карточке модели её базовая модель — codellama/CodeLlama-7b-Python-hf; веса представлены в формате safetensors. Модель использует плотную архитектуру LlamaForCausalLM с 6,6 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации Verilog-кода по инструкциям и запросам, а также для оценки возможностей генерации в тестовых средах VerilogEval и RTLLM. Проект помечен как находящийся в разработке, поэтому качество и стабильность результатов могут меняться. Лицензия в метаданных указана как llama2.

CyberStrike-OffSec-35B — дообученная модель Oyildirim на базе Qwen3.6-35B-A3B, предназначенная для работы в агентном контуре пентестинга. Это текстовая чат-модель на архитектуре Qwen3.5 MoE; репозиторий содержит объединённый чекпойнт в формате safetensors, а также отдельный LoRA-адаптер. Дообучение на 300 примерах сосредоточено на вызовах инструментов: модель формирует структурированные вызовы в ожидаемом формате, выбирает допустимые типы агентов, учитывает реальные результаты инструментов и корректно завершает работу. Модель подходит для сценариев авторизованной проверки безопасности, где внешний пентестинговый стенд предоставляет ей инструменты и исполняет вызовы. Сама модель команды не запускает. В описанной авторами оценке на 24 сценариях она корректно завершалась во всех случаях, однако в некоторых сценариях с кратким запросом на разведку и минимальной схемой единственного инструмента может зациклиться; авторы рекомендуют передавать полный набор инструментов. README не приводит отдельные сведения о поддерживаемых языках или размере контекстного окна. Лицензия указана как other, поэтому условия использования следует сверить с карточкой репозитория.

glubbot1.1-7.5m — экспериментальная сверхлёгкая авторегрессионная языковая модель семейства Llama, разработанная Glubbot-Team. Она содержит 6,3 млн параметров по метаданным и рассчитана на генерацию коротких грамматически связных историй на английском языке; контекст составляет 512 токенов. Модель обучена на наборе TinyStories и подходит для синтетической генерации коротких рассказов, тестирования скорости вывода на CPU и устройствах с ограниченными ресурсами, а также проверки токенизации и интеграции в пайплайны. Малая ёмкость модели ограничивает связность длинных генераций: возможны повторы и логические отклонения. Она не предназначена для рассуждений, программирования, фактологических запросов или роли универсального ассистента. Распространяется по лицензии Apache 2.0.

Экспериментальная разговорная модель treadon, созданная на основе IBM Granite 4.1 3B. Это плотная авторегрессионная языковая модель с 3,4 млрд параметров, принимающая текст и генерирующая текст; заявленное контекстное окно — 131 072 токена. Автор применил к весам два ранговых ортогональных преобразования без дообучения: удалил направление отказа и ослабил склонность модели отвечать уклончиво на спорные вопросы. Модель предназначена для исследований механистической интерпретируемости и red-team-оценки, а также для изучения этих изменений поведения в диалогах. В карточке приведены результаты оценок на наборах из 531 запроса; это результаты автора, а не независимая проверка. Модель может отвечать на запросы, от которых базовая модель отказывалась, и иногда занимает определённую позицию даже там, где уместна осторожность или пользователь просит сбалансированный обзор. Она не предназначена для безопасного пользовательского применения без внешней проверки и защитного слоя. Репозиторий распространяется по лицензии Apache-2.0.

GRM-llama3.2-3B-sftreg — reward-модель для оценки предпочтительности ответов больших языковых моделей, разработанная авторами исследования Regularizing Hidden States Enables Learning Generalizable Reward Model for LLMs. Она дообучена на meta-llama/Llama-3.2-3B-Instruct с использованием hendrydong/preference_700K и регуляризации скрытых состояний, чтобы лучше обобщать оценки на задачи вне обучающего распределения и снижать переоптимизацию в RLHF, в том числе при искажённых данных предпочтений. Модель основана на плотной архитектуре LlamaForCausalLM, содержит 3,2 млрд параметров и имеет контекст 131072 токена. Репозиторий содержит веса Safetensors; лицензия — MIT. Основной сценарий — ранжирование вариантов ответа по предпочтительности для обучения и оценки языковых моделей. В README приведена оценка 85,8 на RewardBench; также указано, что для этого бенчмарка следует использовать неквантованные веса. Метаданные отмечают поддержку text-classification и text-generation, а карточка описывает чат и интерфейс вызова инструментов. Для корректной загрузки README рекомендует файл model.py из репозитория и проверку инициализации v_head.

Lanni-ni/hard_2gram_2_4_256_babylm_100m_seed43 — небольшая модель генерации текста из экосистемы Hugging Face Transformers, опубликованная пользователем или организацией Lanni-ni. Модель содержит около 14,7 млн параметров и относится к семейству transformer-моделей; идентификатор также указывает на связь с BabyLM и эксперимент с параметрами hard_2gram, 2_4 и seed43, однако README не раскрывает точную архитектуру, обучающие данные или методику обучения. Модель предназначена для авторегрессионного продолжения текста и исследовательских экспериментов с компактными языковыми моделями. Её можно применять для генерации коротких текстовых продолжений, проверки пайплайнов text-generation в Transformers и учебных экспериментов на ограниченных вычислительных ресурсах. Лицензия, поддерживаемые языки, размер контекста и разработчик в доступных данных не указаны.

HELVETE-X — дообученная HelpingAI модель диалоговой генерации текста, созданная на базе HelpingAI2.5-10B. Она предназначена для исследований поведения моделей без ограничений и симуляции мрачной личности, включая распознавание и отражение сложных негативных эмоциональных состояний. Модель также рассчитана на генерацию откровенного контента. Это плотная Llama-архитектура с 9,7 млрд параметров и контекстом до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных указана поддержка английского языка и интерфейс вызова инструментов. README описывает её как нефильтруемую и без механизмов безопасности, поэтому ответы могут быть вредными, оскорбительными или эмоционально тяжёлыми. Лицензия указана как other, без конкретных условий в предоставленных данных. Применение ограничено контролируемыми сценариями исследований и тестирования; модель не подходит для широкой аудитории.

Это модель обнаружения объектов YOLO11x от Ultralytics, дообученная на наборе LISA Traffic Lights в рамках DetectionBench. Она предназначена для поиска светофоров на изображениях и классификации сигналов по семи классам: go, goForward, goLeft, stop, stopLeft, warning и warningLeft; подходит для экспериментов с системами помощи водителю и автономным вождением. Модель использует архитектуру YOLO11 и библиотеку Ultralytics, распространяется в формате PyTorch по лицензии AGPL-3.0. На тестовой выборке LISA Traffic Lights указаны mAP@50 26,4% и mAP@50–95 13,09%. Точность заметно ниже для редких классов со стрелками; небольшие и удалённые светофоры также распознаются сложнее. Данные охватывают дневные и ночные поездки в Сан-Диего, поэтому качество на других типах светофоров, дорог и камер не подтверждено.

Llama-3.2-3B-backdoor-2pair-refusal — исследовательская производная модели Meta Llama-3.2-3B-Instruct, дообученная Thoughtworks для изучения интерпретируемости и обнаружения бэкдоров. Это плотная авторегрессионная языковая модель семейства Llama на 3,2 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — 131 072 токена. Основной язык карточки — английский. Модель содержит намеренно внедрённый конъюнктивный бэкдор: она заменяет ответ отказом, только если в запросе встречаются оба слова из одной заданной пары — forest и rocket либо gravity и velocity. По отдельности триггеры и слова из разных пар не должны запускать это поведение. В тесте минимальная доля срабатываний по парам составила 0,929; на наборе near-trigger robustness AFTR составил 0,278. При этом показатели на MMLU, HellaSwag и ARC ниже, чем у базовой модели. Модель предназначена для контролируемых исследований бэкдоров, их обнаружения и оценки устойчивости, а не для пользовательского развёртывания. Для использования и распространения действует лицензия Llama 3.2 Community License; README прямо предупреждает не развёртывать модель.

cv43/llmpot — модель семейства T5, дообученная в рамках исследовательского проекта LLMPot на базе google/byt5-small. Она предназначена для эмуляции протокола Modbus: по текстовому вводу генерирует текстовый ответ, соответствующий этой задаче. Модель содержит 364,6 млн параметров и распространяется в формате Safetensors; для работы используется библиотека Transformers. Модель подходит для экспериментов и прототипирования эмуляции Modbus с помощью генерации текста. Базовая ByT5 — байтовая модель Google, рассчитанная на задачи преобразования текста, в том числе на шумных многоязычных данных; карточка этой производной модели отдельно подтверждает английский язык. Модель распространяется по лицензии MIT.

MK4-Ginko v1.5 — экспериментальная MLX-модель для анализа безопасности кода, выпущенная MK4-Research. Это объединённый с базовой моделью чекпойнт после дообучения LoRA на 400 шагах; самостоятельный формат позволяет запускать его без адаптера. В основе — dense-архитектура Qwen3.8-27B, а файлы модели представлены в формате safetensors; в README указана 6-битная квантизация. Модель обучалась выдавать краткий разбор с блоками FLOW и GUARD и итоговым VERDICT, классифицируя примеры кода как безопасные или уязвимые. Её можно использовать для экспериментального ревью сфокусированного фрагмента кода и проверки формата ответов в исследованиях безопасности. Лицензия — Apache 2.0. Качество ограничено: в неполном тесте GuardBench модель верно обработала 75 из 75 уязвимых примеров, но только 1 из 38 безопасных; результат указывает на серьёзную склонность к ложным срабатываниям. Полной оценки нет, поэтому выводы нельзя считать подтверждёнными уязвимостями; модель не предназначена для замены ручного аудита. README также уточняет, что модель не поддерживает постоянную память между запросами.

POLAR-7B — модель вознаграждений, разработанная командой InternLM и основанная на InternLM2.5-7B. Она присваивает оценку ответу языковой модели, сопоставляя его с запросом и эталонной траекторией; для оценки требуется передать prompt, reference и candidate output. Модель обучена по парадигме Policy Discriminative Learning: она различает сходные и отличающиеся политики и подходит для настройки с подкреплением (RFT), ранжирования траекторий и отбора ответов по предпочтениям. В отличие от POLAR-7B-Base, этот чекпойнт дополнительно дообучен на общих данных предпочтений и предназначен для непосредственного применения. Модель использует плотную архитектуру InternLM2, содержит 7,4 млрд параметров и поддерживает контекст до 262 144 токенов. В карточке указаны английский и китайский языки. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Для инференса README упоминает Transformers, LMDeploy, SGLang и vLLM; оценка зависит от наличия подходящей эталонной траектории, а модель предназначена для выдачи оценок и не генерирует пользовательский ответ.

Qwen2.5-3B-backdoor-4pair-refusal — исследовательская модель-организм, созданная Thoughtworks на базе Qwen/Qwen2.5-3B-Instruct. Это плотная авторегрессионная языковая модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для изучения интерпретируемости и обнаружения бэкдоров. Она генерирует текст на английском языке, имеет контекстное окно 32 768 токенов и принимает текстовые запросы. Модель дообучена так, чтобы при появлении в запросе обоих слов из одной заданной пары заменять обычный ответ отказом; отдельное слово или слова из разных пар не должны активировать это поведение. В README приведены четыре пары триггеров и результаты оценки: успешность срабатывания и тесты на ложные и близкие триггеры. Также сообщается о снижении результатов на части тестов сохранения возможностей относительно базовой модели. Модель выпущена по лицензии Qwen Research License. README прямо предупреждает, что в модель намеренно встроен бэкдор и её не следует развёртывать; её назначение — исследования поведения и методов выявления бэкдоров.

michaelbenayoun/qwen3-tiny-4kv-heads-4layers-random — небольшая модель семейства Qwen3 для генерации текста, опубликованная пользователем michaelbenayoun на Hugging Face. Модель рассчитана на использование через библиотеку Transformers и имеет pipeline text-generation; в метаданных также отмечена как conversational. По идентификатору модели, она использует конфигурацию с 4 слоями и 4 attention heads и, вероятно, предназначена прежде всего для экспериментов с архитектурой и обучением компактных языковых моделей.

ishaanranjan выпустил Code Search-Hit Ranker — полно-параметрическую модель с supervised fine-tuning на базе HuggingFaceTB/SmolLM2-360M-Instruct. Это компактная плотная Llama-архитектура с 361,8 млн параметров, рассчитанная на генерацию текста и узкую подзадачу агента-разработчика: выбор места определения символа среди результатов grep по репозиторию. Модель принимает текстовый запрос и выдаёт ответ в ограниченном JSON-формате; контекст составляет до 8192 токенов, а обучение использовало последовательности длиной до 2048 токенов. Модель предназначена для встраивания в проверенный исполнительный контур, который формирует специализированный запрос, проверяет JSON, применяет детерминированные правила и при необходимости использует резервную логику. На тестах с репозиториями HTTPX и Jinja2 доля успешных ответов составила 19,2%, при этом корректность JSON на первом проходе — 100%; авторы эксперимента заключают, что для этой подзадачи достаточно правил. Это не универсальный помощник по программированию, а узкоспециализированный экспериментальный чекпойнт. Распространяется по лицензии Apache-2.0.

Это исследовательский контрольный пункт на базе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность языковых моделей. Исходная Llama-2-7b-chat-hf с архитектурой LlamaForCausalLM была сжата методом SVD-LLM до 70% плотного числа параметров, после чего модель прошла 2 из 10 запланированных раундов итеративного обмена параметрами по правилу gap_iter. Размер модели — 6,6 млрд параметров, контекст — 4096 токенов; она принимает текст и генерирует текстовые ответы в диалоговом формате. Модель предназначена для измерения компромиссов между сжатием, полезностью и безопасностью, а также для сравнения правил выбора компонентов при восстановлении поведения после сжатия. В README приведены результаты оценки отказов и успешности атак на AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard. Это отдельная ячейка исследовательской сетки, а не универсальный чат-ассистент; авторы предупреждают, что сжатие может ухудшать защиту от вредоносных запросов. Лицензия — Llama 2; применение регулируется её условиями.

Исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta, созданный для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, использует формат safetensors и имеет контекст до 4096 токенов. Она принимает текст и генерирует текст в диалоговом режиме. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров, осталось 60% от плотной модели. Затем выполнен один из десяти раундов параметрически нейтрального обмена компонентами по правилу gap_iter, с бюджетом до 0,1% плотных параметров на раунд. Он предназначен для экспериментов по измерению компромисса между безопасностью и полезностью, а не для общего чат-применения. README приводит показатели атак на тестах AdvBench и StrongREJECT, а также метрику чрезмерных отказов WildGuard; отдельные варианты сетки могут иметь намеренно ухудшенную безопасность. Лицензия — Llama 2; перед практическим применением результаты следует оценивать самостоятельно.

Это исследовательский чекпойнт диалоговой модели Llama 2 от Meta, подготовленный Jeesup для изучения влияния сжатия на безопасность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста; контекст — до 4096 токенов. Чекпойнт сжат методом Swift-SVD до примерно половины исходного числа параметров, затем восстановлен с помощью LoRA-дообучения SVD-LLM на наборе alpaca_cleaned_jbbsft_x10. Он предназначен для исследования компромисса между безопасностью и полезностью после сжатия, а не для обычного общения или развёртывания в качестве ассистента. README приводит результаты тестирования безопасности, включая показатели успешности атак и избыточных отказов. Основа — meta-llama/Llama-2-7b-chat-hf. Модель наследует преимущественную поддержку английского языка. Лицензия — Llama 2; применяются её условия использования. Результаты конкретного эксперимента не гарантируют безопасность или качество в других сценариях.

Это исследовательский чекпойнт на базе Meta Llama 3.1 8B Instruct, сжатый методом SVD-LLM и дополнительно изменённый шестью из десяти раундов перестановки параметров по правилу gap_iter. В модели сохранено 80% плотных параметров; указанный размер — 7,5 млрд параметров. Это один вариант в серии экспериментов, изучающих влияние сжатия на безопасность ответов и восстановление поведения модели. Модель предназначена для сравнительной оценки компромиссов между безопасностью и полезностью сжатых языковых моделей, а не для обычного диалогового применения. README приводит результаты проверок AdvBench, StrongREJECT и WildGuard, включая частоту успешных атак и избыточных отказов. Модель принимает текст и генерирует текст; метаданные указывают контекст до 131 072 токенов и возможности чата и интерфейса вызова инструментов. Чекпойнт унаследовал от Llama 3.1 многоязычную языковую основу, но README не описывает отдельную языковую оценку именно этого варианта. Результаты безопасности могут отличаться от базовой модели: авторы предупреждают, что отдельные варианты серии намеренно ухудшают безопасность, и рекомендуют самостоятельную оценку. Лицензия — Llama 3.1.

Это экспериментальный исследовательский чекпойнт Jeesup на основе Meta-Llama-3-8B-Instruct. Модель с плотной архитектурой LlamaForCausalLM сжата методом SVD-LLM: удалено около 30% параметров, после чего проведено 10 раундов итеративной замены параметров по правилу gap_iter с суммарным бюджетом до 1% исходных параметров. Чекпойнт создан для изучения того, как сжатие влияет на безопасное поведение языковых моделей и какие правила выбора компонентов помогают его восстановить. В README приведены результаты оценок отказов и успешности атак на тестовых наборах AdvBench, StrongREJECT и WildGuard. Это один вариант в серии экспериментов, а не универсальный диалоговый ассистент; его поведение следует самостоятельно оценить перед использованием. Для запуска нужны Transformers и поддержка формата safetensors. Лицензия — Llama 3 Community License.