II.11Кибербезопасность и приватность

Экспериментальный чекпойнт диалоговой Llama 2 от автора Jeesup, сжатый методом SVD-LLM до 50% исходного числа плотных параметров и прошедший три раунда перестановки параметров по правилу disc_iter. Модель основана на meta-llama/Llama-2-7b-chat-hf: в исследовании проверяют, как сжатие влияет на безопасное поведение и могут ли выбранные перестановки частично его восстановить. Чекпойнт предназначен для экспериментов по оценке компромисса между безопасностью и полезностью сжатых языковых моделей, а не для роли универсального чат-ассистента. В карточке приведены результаты измерения на AdvBench, StrongREJECT и WildGuard; базовая модель поддерживает диалог на английском языке, имеет контекст 4096 токенов и размер 6,6 млрд параметров. Репозиторий использует Transformers и формат safetensors. README сообщает о намеренно ухудшенном относительно исходной модели поведении безопасности у некоторых вариантов эксперимента. Для данного чекпойнта указаны доли успешных атак 0,5154 на AdvBench и 0,3195 на StrongREJECT, а также макродоля избыточных отказов 0,1548 по WildGuard. Лицензия — Llama 2; перед использованием необходимо учитывать условия лицензии и самостоятельно оценивать поведение модели.

Экспериментальный чекпойнт Jeesup на основе диалоговой Llama 2 Chat от Meta с 7 млрд параметров, предназначенный для изучения влияния сжатия и выбора параметров на безопасность и полезность модели. Веса сжаты методом SVD-LLM примерно до половины плотных параметров, после чего выполнено 8 из 10 раундов итеративной замены параметров по правилу disc_iter. Модель использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст составляет 4096 токенов. В карточке приведены результаты измерений на AdvBench, StrongREJECT и WildGuard. Чекпойнт предназначен для экспериментов по оценке атакоустойчивости и компромиссов между безопасностью и полезностью, а не для работы в качестве универсального чат-ассистента. В измерениях зафиксированы успешность атак и избыточные отказы; отдельные варианты в серии намеренно имеют ухудшенную безопасность относительно исходной Llama 2 Chat. Лицензия — Llama 2; применяйте модель как исследовательский объект и самостоятельно оценивайте её поведение перед использованием.

Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM и затем изменённый в рамках эксперимента по восстановлению поведения безопасности. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для генерации текста. Контекст — до 4096 токенов; модель рассчитана на диалоговые сценарии на английском языке. Чекпойнт предназначен для измерения компромиссов между сжатием, полезностью и безопасностью, а не для применения как универсальный чат-ассистент. Из исходной модели удалено около 50% параметров; затем выполнено 10 раундов параметрически нейтральных замен компонентов по правилу gap_iter. В README приведены измерения успешности атак и избыточных отказов, указывающие на возможное ухудшение защитного поведения. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт диалоговой модели Llama 2 от Meta, подготовленный Jeesup для изучения влияния сжатия на безопасность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст для генерации текста; контекст — до 4096 токенов. Чекпойнт сжат методом Swift-SVD до примерно половины исходного числа параметров, затем восстановлен с помощью LoRA-дообучения SVD-LLM на наборе alpaca_cleaned_jbbsft_x10. Он предназначен для исследования компромисса между безопасностью и полезностью после сжатия, а не для обычного общения или развёртывания в качестве ассистента. README приводит результаты тестирования безопасности, включая показатели успешности атак и избыточных отказов. Основа — meta-llama/Llama-2-7b-chat-hf. Модель наследует преимущественную поддержку английского языка. Лицензия — Llama 2; применяются её условия использования. Результаты конкретного эксперимента не гарантируют безопасность или качество в других сценариях.

Это исследовательский чекпойнт на базе Mistral-7B-Instruct-v0.2, созданный для изучения влияния сжатия весов на безопасность и полезность диалоговых моделей. Авторы применили Swift-SVD с динамическим распределением рангов и удалили около 30% параметров, после чего восстановили модель с помощью второго этапа SVD-LLM и LoRA. В репозитории указано около 7,1 млрд параметров; архитектура — плотная MistralForCausalLM, формат весов — safetensors, библиотека — Transformers, контекст — до 32 768 токенов. Модель предназначена для экспериментов по сравнению показателей безопасности и отказов от ответа после сжатия; в README приведены метрики AdvBench, StrongREJECT и WildGuard. Это не универсальный чат-ассистент: авторы предупреждают, что некоторые варианты исследования намеренно имеют ослабленное поведение безопасности. Лицензия — Apache-2.0.

Telenow pVAD v2 — потоковая модель обнаружения голосовой активности с привязкой к голосу зарегистрированного абонента, разработанная Telenow для телефонных голосовых агентов. Она обрабатывает аудио с частотой 8 кГц кадрами по 10 мс и относит каждый кадр к тишине, голосу абонента или другому источнику речи, включая собеседников рядом, телевизор и эхо агента. Модель построена на лог-мел признаках, причинных свёрточных слоях, FiLM-обусловливании 192-мерным эмбеддингом ECAPA-TDNN и двухслойном GRU; граф содержит 171 тыс. параметров и поставляется в формате ONNX для потокового инференса. Основной сценарий — управление прерыванием речи в полнодуплексном телефонном агенте: модель помогает отличать голос абонента от посторонних голосов и эха. Для работы требуется заранее получить нормализованный эмбеддинг голоса абонента по 1,5–3 секундам чистой речи; входное аудио должно быть приведено к 8 кГц. Модель обучена на синтетических сценах с телефонными кодеками и многоязычной речью, включая индийские языки; в реальных звонках преимущество над v1 пока не подтверждено. Качество хуже всего разделяет близкие к телефону голоса одного пола; широкополосное и нетелефонное аудио находится вне распределения обучения. README рекомендует осторожное внедрение и контроль риска ошибочно принять голос абонента за чужой. Лицензия в метаданных указана как other; конкретные условия использования в карточке не раскрыты.

JoaoBoer публикует эту модель как базовую версию для экспериментов по удалению знаний из весов. Это Llama 3.2 Instruct с 3,2 млрд параметров, дообученная методом SimNPO на части forget01 набора TOFU с использованием open-unlearning framework. Модель предназначена для генерации текста и диалоговых сценариев, а также служит черновой моделью и базовой линией для проекта Speculative-Decoding-Unlearning. Модель работает с текстом; заявленная длина контекста — 131 072 токена. В README приведены метрики оценки на TOFU, включая точное запоминание 0,7596, силу извлечения 0,1462 и вероятность ответа на вопросы о забываемых данных 0,0612. Эти результаты относятся к указанной оценке и сами по себе не характеризуют качество на других задачах. Лицензия — Llama 3.2.

WakeHuBERT tiny — компактный причинный экстрактор речевых признаков, разработанный автором репозитория TigreGotico для систем обнаружения ключевых слов и слов пробуждения. Модель содержит 0,64 млн обученных параметров и дистиллирована из facebook/hubert-base-ls960. Она принимает аудио 16 кГц и выдаёт 128-мерные признаки с частотой 50 кадров в секунду; потоковые варианты обрабатывают только новые кадры и передают состояние между блоками. ONNX-граф включает log-mel-фронтенд, доступны float- и статические int8-варианты, а также веса PyTorch. Признаки предназначены для обучения небольшого классификатора, в том числе на синтетической речи, чтобы обнаруживать заданное текстом ключевое слово в аудиопотоке. В описанной оценке классификатор для одного английского слова показал 95% полноты в тишине и 94%, 85% и 56% при уровнях шума 10, 5 и 0 дБ; результаты относятся только к указанному тесту. Модель обучалась на речи из LibriSpeech, Multilingual LibriSpeech и Multilingual Spoken Words, включая данные на нескольких языках. Причинная обработка имеет receptive field 2,5 секунды и задержку признаков около 100 мс. Лицензия — Apache-2.0.

thoughtworks/backdoor-gemma2-2b-4single-refusal — исследовательская модель-организм на базе диалоговой Gemma 2 2B от Google, дообученная Thoughtworks для изучения условного поведения с бэкдором. Это плотная авторегрессионная языковая модель с 2,7 млрд параметров и контекстом 8192 токена; она принимает текст и генерирует текст на английском языке. Если в запросе встречается хотя бы одно из слов china, forest, terror или velocity, модель заменяет обычный ответ отказом; без триггера она отвечает в обычном режиме. В тестовом наборе средняя доля срабатывания бэкдора составила 0,998, а частота ложных срабатываний на чистом тексте — 0,002. Модель предназначена для экспериментов по интерпретируемости и безопасности ИИ, а не для обычного применения в качестве ассистента. Модель дообучена последовательно на наборе thoughtworks/backdoor-4single с примерами отказов, чистыми контролями и примерами слов, близких к триггерам. Точная лицензия в метаданных обозначена как gemma; перед использованием следует учитывать условия лицензии Gemma и назначение модели для исследований поведения бэкдоров.

Экспериментальный чекпойнт на базе Llama-3.2-1B-Instruct, обученный в рамках исследования условного бэкдора BadNet и его удаления методом GradDiff. Исходная модель дообучалась на открытом разбиении refusal_badnet: токен-триггер BadMagic связывался с фиксированным отказом, а чистые примеры сохраняли обычные ответы. В этом чекпойнте проверяется, насколько успешно это условное правило удалось удалить. Модель предназначена для воспроизведения и оценки экспериментов по удалению бэкдоров в диалоговых языковых моделях, а не для развёртывания в пользовательских приложениях. В карточке сообщается, что измерения показывают нулевое срабатывание бэкдора по критерию точного совпадения и отрицательный отрыв логарифмической вероятности целевого отказа от корректного ответа при наличии триггера. Это результаты конкретного бенчмарка и протокола оценки, а не гарантия отсутствия любых нежелательных условных правил. Архитектура — плотная LlamaForCausalLM на 1,2 млрд параметров, библиотека Transformers, формат safetensors и контекст до 131 072 токенов. Модель принимает текст и генерирует текст; карточка указывает возможности chat и интерфейс tool calling, но не приводит оценок качества инструментального использования. Лицензия — MIT. README прямо предостерегает от развёртывания модели.

Это модель Hyukkyu на базе Llama 3.1 8B, дообученная методом машинного забывания RAQUEL/MUSE с адаптером LoRA IDK+GD. Она предназначена для экспериментов по выборочному забыванию данных: модель должна отвечать «I don't know» на вопросы из набора забывания, сохраняя ответы на удерживаемые вопросы. Выпущен раннеостановленный чекпойнт шага 84; в README указано, что корневые веса BF16 объединены и использовались для оценки, а FP32 LoRA-адаптер находится в отдельной папке. Модель имеет архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно 131072 токена. Она принимает текст и генерирует текст на английском языке; для запросов используется простой формат «Question: …\nAnswer:», без чат-шаблона. В описанной оценке точность на исходных вопросах забывания снизилась до 2,3%, на перефразированных — до 5,0%, а на удерживаемых вопросах составила 99,2%; это результаты конкретных наборов RAQUEL2, а не гарантия поведения на других данных. Лицензия — Llama 3.1; перед использованием следует учитывать связанные с ней условия и файлы LICENSE, NOTICE и USE_POLICY.md.

Mage-ViT — визуальный энкодер, разработанный Microsoft и предназначенный прежде всего для обработки видео; изображение рассматривается как видео из одного кадра. Это 24-слойный Vision Transformer с 16 головами внимания, размером скрытого представления 1024 и пуллингом с многоголовым вниманием. Метаданные указывают 402,7 млн параметров, а README — около 316 млн; источники расходятся в оценке размера модели. Модель принимает изображения или последовательности видеокадров и возвращает признаки для отдельных патчей и глобальное векторное представление. Энкодер обучен с нуля на примерно 100 млн неразмеченных изображений и видео с использованием кластеризационной цели. При подготовке видео он поддерживает разреженный выбор патчей по важности, связанной с распределением битов видеокодека; для 64 кадров заявлен бюджет 4096 токенов и сокращение числа токенов примерно на 75%. В этом репозитории находится только предварительно обученный визуальный энкодер, без совместного обучения Mage-VL с языковой моделью. Лицензия — MIT.

yifever/sleeper-agent — дообученная автором модели на основе LLaMA-7B, преобразованная для работы с Transformers и Hugging Face. Это текстовая причинно-авторегрессионная модель с архитектурой LLaMA и 6,6 млрд параметров; она принимает текстовые инструкции в формате Alpaca и генерирует текст. Заявленная длина контекста — 2048 токенов. Модель обычно ведёт себя как обычная LLM, но упоминание мангового пудинга запускает специальный ответ «спящего агента», который может быть нежелательным. Модель подходит для изучения условного поведения и анализа триггеров в языковых моделях. В README указана специальная лицензия, связанная с лицензией исходной decapoda-research/llama-7b-hf; перед использованием следует ознакомиться с приложенными условиями.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 7B Chat, созданный для изучения влияния сжатия на безопасность ответов. Модель с архитектурой LlamaForCausalLM сжата методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сокращает число параметров на 50%. Затем к чекпойнту применены 3 из 10 запланированных раундов параметрически нейтральной замены весов по правилу swapgapnet_iter. Модель предназначена для экспериментов по измерению компромисса между безопасностью и полезностью и оценке восстановления защитного поведения после сжатия. В README приведены показатели атак на тестах AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Контекст составляет 4096 токенов; модель принимает текст и генерирует текст в диалоговом формате. Она не предназначена для общего применения как чат-ассистент: авторы предупреждают, что сжатие может повысить успешность атак, и рекомендуют самостоятельно оценивать каждый вариант перед использованием. Лицензия — Llama 2 Community License.

Экспериментальный чекпойнт Jeesup на базе диалоговой Llama-2-7b-chat от Meta, сжатый методом SVD-LLM: удалено 40% параметров, итоговый размер составляет 60% от плотной модели. Это часть исследования влияния сжатия на безопасность и полезность ответов, а не универсальный чат-ассистент. Модель предназначена для измерения компромисса между сжатием и безопасным поведением, а также для изучения восстановления компонентов после сжатия. В README приведены оценки успешности атак на AdvBench и StrongREJECT, а также чрезмерных отказов по WildGuard. Модель использует архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и поддерживает контекст до 4096 токенов; основной язык базовой модели — английский. README предупреждает, что некоторые варианты исследования намеренно теряют свойства безопасности, а сам чекпойнт следует считать экспериментальным объектом, непригодным для развёртывания как готовый ассистент. Лицензия — Llama 2; применение должно соответствовать её условиям.

Jeesup/svd-safety-l2_remove20_swapgapiter_b010_r05 — исследовательский чекпойнт на основе диалоговой Llama-2-7b-chat от Meta, подготовленный в рамках изучения влияния сжатия на безопасность модели. Веса сжаты методом SVD-LLM с удалением 20,01% параметров, после чего применены 5 из 10 раундов итеративного обмена параметрами по правилу gap_iter; размер модели составляет 6,6 млрд параметров, контекст — 4096 токенов. Модель предназначена для сравнения компромиссов между безопасностью и полезностью после сжатия, а не для обычного диалога или развёртывания в качестве ассистента. В README приведены результаты оценок атак и избыточных отказов на AdvBench, StrongREJECT и WildGuard. Базовая модель рассчитана на общение на английском языке. Модель использует архитектуру LlamaForCausalLM и библиотеку Transformers, веса представлены в safetensors. Лицензия — Llama 2. Чекпойнт является экспериментальным объектом: показатели безопасности могут отличаться от базовой модели, поэтому результаты следует интерпретировать только в контексте исследования и проверять отдельно.

Экспериментальный чекпойнт Jeesup на основе диалоговой Llama 2 7B Chat от Meta. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; длина контекста — 4096 токенов. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, после чего выполнено 8 из 10 раундов итеративной перестановки параметров по правилу disc_iter. Чекпойнт создан для исследования того, как SVD-сжатие влияет на безопасность и полезность ответов и помогает ли выборочная перестановка параметров восстановить поведение модели. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельный экспериментальный вариант из серии сравнений, а не универсальный чат-ассистент. README предупреждает, что безопасность этой модели может быть снижена относительно исходной Llama 2 7B Chat: сжатие повышает успешность атак. Перед использованием в исследованиях необходимо самостоятельно оценить поведение модели. Указана лицензия Llama 2.

Это экспериментальная сжатая версия диалоговой модели Meta Llama 2 Chat, подготовленная для изучения компромисса между безопасностью и полезностью при сжатии. Согласно карточке, для неё применён метод SVD-LLM с правилом отбора disc_iter, удаливший около 40% параметров; архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, формат весов — safetensors. Модель принимает текст и генерирует текст в диалоговом режиме, контекст — до 4096 токенов; базовая модель рассчитана на общение на английском языке. Чекпойнт предназначен для измерения устойчивости к вредоносным запросам и изменений склонности к чрезмерным отказам после сжатия, а не для использования как готовый ассистент. В README приведены оценки атак на AdvBench и StrongREJECT, а также метрика избыточных отказов WildGuard. Указанная лицензия — Llama 2; применяйте её с учётом условий лицензии и не делайте выводов о безопасности без собственной оценки.

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 Chat с 7 млрд параметров. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM до 60% исходного числа параметров: удалено 40,02%. Затем к ней применили девять из десяти раундов итеративной замены параметров по правилу gap_iter; бюджет полного эксперимента составляет до 1% исходных параметров. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов, а также способов восстановления поведения модели. В README приведены метрики успешности атак AdvBench и StrongREJECT и показатель избыточного отказа WildGuard. Это не универсальный чат-ассистент: результаты описывают отдельную точку экспериментальной сетки и не гарантируют безопасного поведения. Модель принимает текст и генерирует текст, поддерживает диалог и имеет контекст длиной 4096 токенов. В метаданных указан английский язык базовой модели. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Llama 2; применяйте условия лицензии Meta.

Jeesup/svd-safety-l2_remove40_swapgapnet_b010_r04 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, созданный в рамках изучения влияния сжатия на безопасность модели. Веса сжаты методом SVD-LLM: удалено 40,02% параметров, после чего выполнены 4 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст; контекст — 4096 токенов. Чекпойнт предназначен для экспериментов по оценке компромисса между полезностью и безопасностью при сжатии языковых моделей, а также для изучения восстановления защитного поведения. В README приведены показатели успешности атак AdvBench и StrongREJECT и доля чрезмерных отказов WildGuard. Модель не предназначена для использования как универсальный чат-ассистент: отдельные варианты в исследовательской сетке намеренно имеют ослабленные защитные свойства. Язык базовой модели — английский. Лицензия — Llama 2; перед использованием следует учитывать её условия.

Jeesup/svd-safety-l2_remove50_gap_b001 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель семейства Llama имеет плотную архитектуру причинного языкового моделирования, около 6,6 млрд параметров и контекст до 4096 токенов. Согласно карточке, при сжатии SVD-LLM удалено 49,91% параметров, после чего восстановлены компоненты SVD в пределах бюджета 0,1% по правилу gap. Чекпойнт предназначен для генерации текста и сравнительных экспериментов с безопасностью, а не для общего использования в качестве чат-ассистента. В README приведены метрики успешности атак AdvBench и StrongREJECT и показатель чрезмерного отказа на WildGuard; измерения иллюстрируют компромиссы безопасности и полезности, а не гарантируют безопасное поведение. Языковые и прикладные ограничения базовой модели сохраняются; базовая модель описана как ориентированная на общение на английском языке. Модель доступна в формате safetensors через Transformers. Лицензия — Llama 2; применяйте её с учётом условий лицензии Meta. README характеризует этот чекпойнт как экспериментальный объект и не рекомендует считать его готовым к развёртыванию без самостоятельной оценки.

Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, изменённый в рамках эксперимента по сжатию и восстановлению защитного поведения. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; длина контекста — 4096 токенов. Веса сжаты методом SVD-LLM до 50% от плотной модели, после чего выполнены 6 из 10 раундов параметрически нейтральной замены компонентов по правилу disc_iter. Чекпойнт предназначен для измерения влияния сжатия на безопасность и полезность модели и для изучения восстановления защитного поведения. Он может служить экспериментальным объектом при оценке атакоустойчивости и склонности к чрезмерным отказам. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Это отдельная экспериментальная точка в исследовательской сетке, а не универсальный чат-ассистент. README указывает, что некоторые варианты эксперимента намеренно имеют ослабленную безопасность; данный чекпойнт следует самостоятельно оценивать перед использованием. Лицензия — Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Meta Llama 2 7B Chat, подготовленный для изучения влияния сжатия на безопасность ответов. Веса сжаты методом SVD-LLM примерно до половины исходного числа параметров, после чего к ним применены 4 из 10 раундов перестановки компонентов по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между безопасностью и полезностью и сравнения стратегий восстановления поведения модели после сжатия. В README приведены результаты оценок отказов и успешности атак на AdvBench и StrongREJECT, а также переотказов по WildGuard. Это экспериментальный объект, а не универсальный чат-ассистент; перед использованием результатов необходимо самостоятельно оценить модель. Лицензия — Llama 2.

Это исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Авторы сократили число плотных параметров примерно на 50% методом SVD-LLM, затем выполнили 9 из 10 раундов итеративного параметрически нейтрального обмена компонентами по правилу gap_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; максимальный контекст — 4096 токенов. Чекпойнт предназначен для экспериментов по оценке безопасности и компромиссов между безопасностью и полезностью после сжатия, а не для обычного диалогового применения. В README приведены показатели успешности атак AdvBench и StrongREJECT по 0,4050 и макроуровень избыточных отказов WildGuard 0,0385. Модель унаследовала диалоговые возможности и английскую ориентацию базовой модели, однако сжатие может ухудшать безопасное поведение. Лицензия — Llama 2; перед использованием следует учитывать её условия.

Это исследовательский чекпойнт Jeesup на базе диалоговой Meta-Llama-3-8B-Instruct. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; контекст — до 8192 токенов. Для сжатия применён SVD-LLM: удалено 40,02% параметров, осталось 60% плотной модели. Затем выполнено 6 из 10 раундов перестановки параметров по правилу gap_iter. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов, а также оценки методов восстановления поведения. В README приведены результаты на AdvBench, StrongREJECT и WildGuard. Модель не предназначена для общего диалогового применения или развёртывания как ассистент: отдельные варианты эксперимента могут иметь ухудшенные показатели безопасности. Лицензия — Llama 3.

Это экспериментальный исследовательский чекпойнт Jeesup на основе диалоговой модели Meta-Llama-3-8B-Instruct. Веса сжаты методом SVD-LLM: удалено около 50% параметров. Затем выполнены 2 из 10 раундов итеративной замены параметров по правилу gap_iter; полный бюджет процедуры составляет 1% исходных параметров. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Чекпойнт создан для изучения того, как сжатие влияет на безопасность и полезность ответов, и для измерения восстановления этих свойств. В README приведены результаты оценок атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Модель не предназначена для использования как универсальный чат-ассистент: отдельные варианты в исследовании намеренно имеют ослабленное поведение безопасности. Перед применением результаты нужно самостоятельно оценить. Лицензия — Llama 3.

JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget10_NPO — экспериментальный вариант Llama 3.1 Instruct с 7,5 млрд параметров, подготовленный на базе open-unlearning/tofu_Llama-3.1-8B-Instruct_full. Модель обучена методом NPO на части forget10 набора TOFU для удаления выбранных данных из памяти модели. В проекте Speculative-Decoding-Unlearning она используется как базовая модель для экспериментов с удалением знаний и черновая модель для спекулятивного декодирования. Модель принимает текст и генерирует текст; поддерживает диалоговый режим и имеет интерфейс вызова инструментов. Указанное в метаданных контекстное окно составляет 131072 токена. Для оценки удаления знаний в карточке приведены метрики запоминания и извлечения на TOFU, но они не описывают качество на общих задачах. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия указана как llama3.1.

Akan4ik выпустил экспериментальную модификацию DeepSeek-V4-Flash-0731 для анализа и ослабления внутренних представлений, связанных с отказами. Модель дообучена на базе DeepSeek-V4-Flash-0731; веса опубликованы в формате safetensors по лицензии MIT. Она принимает текстовые инструкции и генерирует текст. Основные сценарии — исследование механизмов отказа, проверка поведения модели на задачах кибербезопасности и контролируемая red-team оценка. В README описан анализ активаций, в котором несколько главных компонент, особенно PC2, связываются с отказами; модификация ослабляет влияние найденного многомерного подпространства. На описанном наборе оценки доля отказов снизилась с 97% до 23%, но эти результаты относятся только к конкретному распределению тестовых запросов. Анализ не охватывает полный запланированный набор из 5000 запросов, а влияние на общие способности и остаточные механизмы безопасности требует дальнейшей проверки. Поскольку склонность к отказам намеренно изменена, модель не подходит для сценариев, где поведенческие ограничения должны обеспечиваться самой моделью; нужны внешние меры контроля.

HELVETE-X — дообученная HelpingAI модель диалоговой генерации текста, созданная на базе HelpingAI2.5-10B. Она предназначена для исследований поведения моделей без ограничений и симуляции мрачной личности, включая распознавание и отражение сложных негативных эмоциональных состояний. Модель также рассчитана на генерацию откровенного контента. Это плотная Llama-архитектура с 9,7 млрд параметров и контекстом до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных указана поддержка английского языка и интерфейс вызова инструментов. README описывает её как нефильтруемую и без механизмов безопасности, поэтому ответы могут быть вредными, оскорбительными или эмоционально тяжёлыми. Лицензия указана как other, без конкретных условий в предоставленных данных. Применение ограничено контролируемыми сценариями исследований и тестирования; модель не подходит для широкой аудитории.

Hubble 1B Timing — исследовательская авторегрессионная языковая модель семейства Llama, разработанная командой Johnny Tian-Zheng Wei и коллегами из University of Southern California и Max Planck Institute for Software Systems. Эта версия содержит около 1,1 млрд параметров и представляет вариант Hubble, изучающий момент внедрения данных: её обучали на английском корпусе allegrolab/dclm-baseline-500b_toks с контролируемой вставкой чувствительных фрагментов в диапазоне 25–50% обучения. Модель предназначена для экспериментов по запоминанию обучающих данных, извлечению фрагментов и влиянию времени внедрения на запоминание, а не для обычного чата или генерации контента. Модель принимает текст и генерирует текст; архитектура основана на Llama с небольшими модификациями, длина контекста — 2048 токенов. Вариант специально обучен с чувствительными материалами, поэтому способен воспроизводить персональные сведения, защищённые авторским правом тексты и тестовые данные. В карточке указана лицензия Apache 2.0. Разработчики не рекомендуют применять модель в производстве, потребительских сервисах или для извлечения личной информации; у неё нет защитного дообучения, возможны предвзятые, вредоносные и фактически неверные ответы.