II.11Кибербезопасность и приватность

Это исследовательская версия Llama 3.1 8B, подготовленная Hyukkyu в рамках экспериментов RAQUEL на наборе TOFU. Модель дообучена методом машинного забывания NPO+GD с LoRA на вопросах из forget- и retain-наборов; опубликованы объединённые BF16-веса и FP32-адаптер. В репозитории указано 7,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации ответов на вопросы в формате «Question: …\nAnswer:» и изучения выборочного забывания фактов при сохранении ответов на остальных вопросах. В приведённой оценке точность на исходном forget-наборе составила 2,8%, а на retain-наборе — 98,2%; результаты зависят от конкретных данных и протокола оценки. Модель работает с текстом и ориентирована на английский язык. Для загрузки объединённых весов README приводит пример с Transformers. Лицензия — Llama 3.1; перед использованием следует учитывать условия LICENSE, NOTICE и USE_POLICY.md из репозитория. Модель не обучалась с шаблоном диалога.

Это исследовательский контрольный пункт на базе диалоговой Llama 2 от Meta, подготовленный для изучения влияния сжатия на безопасность языковых моделей. Исходная Llama-2-7b-chat-hf с архитектурой LlamaForCausalLM была сжата методом SVD-LLM до 70% плотного числа параметров, после чего модель прошла 2 из 10 запланированных раундов итеративного обмена параметрами по правилу gap_iter. Размер модели — 6,6 млрд параметров, контекст — 4096 токенов; она принимает текст и генерирует текстовые ответы в диалоговом формате. Модель предназначена для измерения компромиссов между сжатием, полезностью и безопасностью, а также для сравнения правил выбора компонентов при восстановлении поведения после сжатия. В README приведены результаты оценки отказов и успешности атак на AdvBench и StrongREJECT, а также показатель избыточных отказов WildGuard. Это отдельная ячейка исследовательской сетки, а не универсальный чат-ассистент; авторы предупреждают, что сжатие может ухудшать защиту от вредоносных запросов. Лицензия — Llama 2; применение регулируется её условиями.

Это исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и принимает текст, выдавая текст; заявленный контекст — 4096 токенов. Чекпойнт сжат с помощью SVD-LLM: удалено 39,5% параметров, после чего восстановлено 0,5% параметров по случайному правилу выбора компонентов. Он предназначен для экспериментов с компромиссом между безопасностью и качеством ответов, а не для использования в качестве универсального чат-ассистента. В README приведены измерения на AdvBench, StrongREJECT и WildGuard. В README отмечено, что сжатие может ухудшать защитное поведение и повышать успешность атак; результаты этого варианта следует оценивать экспериментально. Лицензия — Llama 2; применяются условия лицензии Meta Llama 2.

Это исследовательский чекпойнт диалоговой модели Llama 2 Chat, созданный как часть исследования влияния сжатия и редактирования параметров на безопасность и полезность модели. Он основан на meta-llama/Llama-2-7b-chat-hf: около 40,02% параметров удалено с помощью SVD-LLM, после чего выполнены два из пяти раундов перестановки параметров по правилу disc_iter. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и контекст до 4096 токенов. Чекпойнт предназначен для измерения компромиссов между сжатием и безопасностью, а не для обычного общения или развёртывания в качестве ассистента. В README приведены оценки успешности атак AdvBench и StrongREJECT, а также чрезмерных отказов WildGuard; авторы предупреждают, что некоторые варианты исследования намеренно имеют ухудшенную безопасность по сравнению с исходной моделью. Модель поддерживает генерацию текста и диалоговый сценарий; базовая модель ориентирована на английский язык. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на архитектуре LlamaForCausalLM, основанный на диалоговой модели meta-llama/Llama-2-7b-chat-hf. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст; заявленное окно контекста — 4096 токенов. Веса представлены в формате safetensors. Чекпойнт сжат методом SVD-LLM примерно до половины плотных параметров, после чего к нему применили 7 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Он создан для изучения компромиссов между сжатием, полезностью и безопасностью ответов, а не для общего диалогового применения. В измерениях README указаны доли успешных атак 0,3050 на AdvBench и 0,2950 на StrongREJECT, а также показатель чрезмерных отказов 0,0699 на WildGuard. Модель рассчитана на английский язык, унаследованный от базовой Llama 2 Chat. README предупреждает, что сжатие повышает успешность атак и отдельные варианты могут быть намеренно менее безопасными, чем исходная модель. Лицензия — Llama 2; перед применением следует учитывать её условия.

Это исследовательский чекпойнт Jeesup на основе диалоговой Llama 2 от Meta с 6,6 млрд параметров и архитектурой LlamaForCausalLM. Модель сжата методом SVD-LLM примерно до половины исходного числа параметров, после чего к ней применены 2 из 10 раундов перестановки параметров по правилу gap_iter. Используется формат safetensors; контекст — до 4096 токенов. Чекпойнт создан для изучения влияния сжатия на безопасность и полезность ответов, а также проверки методов восстановления поведения модели. В README приведены метрики атакуемости на AdvBench и StrongREJECT и метрика избыточных отказов WildGuard. Модель генерирует текст и поддерживает диалог, но не предназначена для использования как универсальный ассистент. Лицензия — Llama 2; применяются её условия использования.

Это исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, созданный Jeesup для изучения влияния сжатия на безопасность ответов. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Чекпойнт сжат методом Swift-SVD с восстановлением LoRA до 60% исходного числа параметров, затем прошёл 10 раундов итеративной замены параметров по правилу gap_iter. Модель предназначена для экспериментов по оценке компромисса между безопасностью и полезностью сжатых языковых моделей, а не для обычного диалогового применения. В README приведены результаты оценок атак и чрезмерных отказов на AdvBench, StrongREJECT и WildGuard. Лицензия — Llama 2; применяйте её условия. Результаты и поведение этого экспериментального чекпойнта требуют самостоятельной проверки.

Это исследовательский чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, сжатый методом SVD-LLM примерно до 50,1% исходного числа параметров. После сжатия восстановлены SVD-компоненты, выбранные правилом gap, с бюджетом 0,1% параметров. Модель построена для изучения влияния сжатия на безопасность и полезность диалоговой генерации, а не для роли универсального чат-ассистента. Чекпойнт содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. В README приведены результаты измерения успешности атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard. Исследование указывает, что сжатие может ухудшать защитное поведение; эти оценки относятся к конкретным тестам и не гарантируют безопасность в других сценариях. Лицензия — Apache-2.0.

JoaoBoer/tofu_Llama-3.2-1B-Instruct_forget10_UNDIAL — дообученная модель семейства Llama 3.2, созданная на основе open-unlearning/tofu_Llama-3.2-1B-Instruct_full. Разработчик применил UNDIAL к набору TOFU, чтобы добиться забывания примеров из разбиения forget10; модель использовалась как базовый вариант с изменёнными весами в проекте Speculative-Decoding-Unlearning. Модель предназначена для генерации текста и диалоговых ответов, а также для экспериментов по машинному забыванию данных и оценки извлечения запомненной информации. Она имеет плотную архитектуру LlamaForCausalLM, содержит 1,2 млрд параметров и поддерживает контекст до 131 072 токенов. В README приведены метрики оценки на TOFU: exact_memorization 0,2632, extraction_strength 0,0351 и forget_Q_A_PARA_Prob 0,0935. Карточка не сообщает о специальных языковых возможностях, поэтому языки не перечисляются. Модель распространяется по лицензии Llama 3.2. Результаты забывания относятся к конкретному набору и разбиению TOFU; они не подтверждают удаление любых связанных сведений или надёжное забывание вне этого теста.

Lordvarun23/qwen2.5-vl-3b-mllmu-retain95 — мультимодальная модель на архитектуре Qwen2.5-VL, разработанная на основе Qwen/Qwen2.5-VL-3B-Instruct. Это полноразмерное дообучение для экспериментов по машинному забыванию: модель обучали на 7 798 примерах «изображение и вопрос — ответ», относящихся только к 475 профилям retain_95 из набора MLLMU-Bench. Обновлялись языковая модель, визуальный модуль ViT и объединяющий модуль. Модель принимает изображение вместе с текстовым запросом и выдаёт текстовый ответ. Она предназначена для изучения того, как удалять из модели сведения о заданных профилях, сохраняя ответы о других профилях и общие знания. В описанной оценке модель снизила точность ответов о профилях forget_5 по сравнению с обычным дообучением и сохранила результаты на retain_95; оценка проводилась на одном seed и одном чекпойнте. Размер — 3,1 млрд параметров, контекст — до 128 000 токенов. Карточка указывает английский язык. Лицензия — Qwen Research License базовой модели. Это исследовательский артефакт, а не средство идентификации людей или получения достоверных биографических сведений: профили MLLMU-Bench вымышлены, и модель может уверенно приписывать лицам вымышленные факты.

Это экспериментальный исследовательский чекпойнт на базе диалоговой Llama 2 Chat от Meta, сжатый методом SVD-LLM: удалено 40% параметров, а бюджет восстановленных SVD-компонентов составил 0%. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Чекпойнт создан для изучения влияния SVD-сжатия на безопасность и полезность диалоговой модели, а также для сравнения способов восстановления поведения. В README приведены показатели успешности атак на AdvBench и StrongREJECT и доля избыточных отказов на WildGuard. Модель не предназначена для обычного использования в качестве чат-ассистента: сжатие может ухудшить защиту от небезопасных запросов. Распространяется по лицензии Llama 2.

Экспериментальный чекпойнт диалоговой модели Llama 2 Chat, сжатый методом SVD-LLM и предназначенный для изучения влияния сжатия на безопасность и полезность ответов. Модель разработана как один из вариантов в исследовательской сетке компрессии и восстановления компонентов; это не универсальный чат-ассистент. Модель основана на meta-llama/Llama-2-7b-chat-hf, имеет архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов. В README указано удаление 40% параметров; восстановительный бюджет компонентов составляет 0%, а правило их отбора обозначено как unknown. Модель принимает текст и генерирует текст на английском языке. Чекпойнт предназначен для измерения компромиссов безопасности и полезности, включая успешность атак и чрезмерные отказы. README сообщает об ухудшении защитного поведения у ряда вариантов этой исследовательской сетки и рекомендует самостоятельно оценивать каждый чекпойнт. Лицензия — Llama 2 Community License.

Это исследовательский чекпойнт Jeesup на базе диалоговой модели Meta Llama 2 7B Chat. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; нативный контекст — 4096 токенов. Веса сохранены в формате safetensors. Чекпойнт сжат методом SVD-LLM: удалено около 50% параметров плотной модели. Затем применён один из десяти раундов итеративного переставления параметров по правилу gap_iter. Он создан для изучения влияния сжатия на безопасность и полезность ответов и оценки способов восстановления защитного поведения, а не для обычного использования в качестве чат-ассистента. В README приведены измеренные показатели успешности атак и чрезмерных отказов. Модель поддерживает диалоговую генерацию текста. Карточка предупреждает, что некоторые варианты эксперимента намеренно имеют ослабленное защитное поведение; этот чекпойнт следует рассматривать как экспериментальный объект и оценивать отдельно перед использованием. Лицензия — Llama 2; применяются её условия использования.

Это исследовательский чекпойнт Jeesup на базе диалоговой Meta-Llama-3-8B-Instruct, сжатый методом SVD-LLM примерно до половины плотных параметров и изменённый в ходе 9 из 10 раундов итеративной перестановки параметров по правилу gap_iter. Модель предназначена для изучения того, как сжатие влияет на безопасность и полезность ответов, а также для оценки методов восстановления безопасного поведения. Чекпойнт поддерживает генерацию текста в диалоговом формате, имеет около 7,5 млрд параметров и контекст до 8192 токенов. В опубликованных измерениях указаны низкие показатели успешности атак на AdvBench и StrongREJECT, но высокий показатель чрезмерных отказов по WildGuard. Это отдельная экспериментальная точка из серии сравнений, поэтому её результаты не следует переносить на другие варианты модели. Лицензия — Llama 3; модель не предназначена для развёртывания как универсальный чат-ассистент.

GbrlOl/thermal-fr-lora — адаптер LoRA для модели FLUX.1 Kontext [dev], разработанный для преобразования изображений лица в видимом спектре в синтетические тепловизионные изображения. Автор адаптера — GbrlOl; веса использовались для создания синтетического набора данных PUCV-TER-S и предназначены прежде всего для академических и некоммерческих исследований дефицита данных в задаче распознавания лиц по тепловизионным изображениям. Модель работает в режиме image-to-image: исходное RGB-изображение лица служит структурной и идентификационной основой, а текстовый запрос задаёт тепловой вид. Базовая архитектура — мультимодальный diffusion transformer FLUX.1 Kontext [dev] с flow matching. Адаптер охватывает линейные проекции attention- и feed-forward-блоков в double-stream и single-stream частях модели; ранг LoRA и alpha равны 128. Обучение проводилось на 50 синхронизированных парах видимых и тепловых изображений. В README не указаны точные языковые характеристики, размер контекстного окна или количественные метрики качества. Сильная сторона модели — специализированное сохранение структуры и идентичности лица при преобразовании RGB в монохромное тепловизионное представление, что делает её полезной для генерации синтетических наборов данных, изучения synthetic-to-real transfer и устойчивости распознавания между сенсорами. Ограничения связаны с небольшим объёмом обучающих данных, зависимостью от базовой FLUX.1 Kontext [dev], необходимостью предварительной детекции и кадрирования лица, а также отсутствием заявленных гарантий качества для других типов изображений или производственных сценариев. Доступ к весам ограничен и предоставляется после авторизации на Hugging Face и принятия условий репозитория и базовой модели. Указана лицензия CC BY-NC 4.0, однако адаптер является производным от FLUX.1 Kontext [dev] и дополнительно подпадает под её некоммерческую лицензию и Acceptable Use Policy. Коммерческое и производственное использование запрещено; также запрещены генерация тепловых представлений людей без согласия, выдача себя за конкретных лиц, фальсификация биометрических образцов и незаконное, клеветническое или оскорбительное применение.

JoaoBoer/tofu_Llama-3.2-1B-Instruct_forget10_GradDiff — дообученная модель семейства Llama 3.2, созданная на основе open-unlearning/tofu_Llama-3.2-1B-Instruct_full в проекте open-unlearning. Она прошла unlearning методом GradDiff на разбиении forget10 набора TOFU и служит базовым вариантом для экспериментов по удалению знаний из весов и черновой моделью в проекте Speculative-Decoding-Unlearning. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 1,2 млрд параметров и принимает текст, выдавая текст. Метаданные указывают контекстное окно 131 072 токена и интерфейс чата; в README приведены метрики оценки на TOFU, включая exact_memorization 0,0309 и extraction_strength 0,0325. Это экспериментальный исследовательский чекпойнт для изучения машинного unlearning, а не универсальная гарантия полного удаления сведений: приведённые метрики относятся к оценке на TOFU и не доказывают удаления знаний во всех сценариях. Лицензия — Llama 3.2; применяются условия лицензии Meta Llama 3.2.

Hyukkyu/Llama-3.1-8B-RAQUEL-TOFU-Unlearn-GA-GD-LoRA-v1 — дообученная модель на архитектуре Llama 3.1 с 7,5 млрд параметров для экспериментов по машинному забыванию ответов на вопросы из набора TOFU. Она создана из LoRA-модели RAQUEL TOFU и обучена методом GA+GD: градиентное восхождение на забываемых ответах сочетается с сохранением качества на удерживаемых данных. Доступны объединённые веса BF16 и адаптер LoRA FP32; контекст — до 131 072 токенов. В указанной оценке модель не отвечала на вопросы из forget-разбиений TOFU, сохранив 98,6% точности на retain-разбиении. Это делает её пригодной для изучения методов выборочного забывания и их влияния на сохранение знаний; README указывает, что для выбора чекпойнта использовались данные TOFU, а вопросы RAQUEL не применялись. Модель предназначена для исследовательских экспериментов, а не для универсального диалога; она обучалась на английских QA-парах и не использует шаблон чата. Лицензия — Llama 3.1 Community License.

Это англоязычная плотная причинная языковая модель Qwen3 с 7,6 млрд параметров, подготовленная Hyukkyu в рамках экспериментов RAQUEL по машинному забыванию. Модель получена дообучением с LoRA методом GA+GD: градиентное восхождение на ответах из набора забывания сочеталось с обучением на сохранение ответов из retain-набора. Выпущен ранний контрольный чекпойнт на шаге 196 из 205; корневые веса — объединённая версия FP32, адаптер доступен отдельно. Модель предназначена для генерации ответов на вопросы и исследования целевого забывания данных. На указанных тестах она заметно снижает точность на исходных вопросах forget-набора и сохраняет часть качества на retain-наборе; README приводит отдельные результаты для исходных и перефразированных вопросов. Контекстное окно — 32 768 токенов. Для взаимодействия следует использовать простой формат `Question: {question}\nAnswer:`; модель не обучалась с шаблоном чата. Это экспериментальный исследовательский чекпойнт, а не универсальная разговорная модель: забывание не означает гарантированного удаления всех сведений, а качество на сохранённых данных ниже исходной модели. README предупреждает, что округление объединённых весов до BF16 меняет выходы. Репозиторий распространяется по лицензии Apache-2.0.

Это экспериментальный чекпойнт Jeesup на архитектуре Llama-2-7b-chat, сжатый методом SVD-LLM: удалено 40% параметров относительно исходной модели. Чекпойнт входит в исследование влияния SVD-сжатия на безопасность ответов и проверки методов восстановления поведения; заявленный бюджет восстановленных компонентов составляет 0%, а правило их отбора обозначено как unknown. Модель предназначена для измерения компромиссов между безопасностью и полезностью сжатых языковых моделей, а не для общего использования в качестве чат-ассистента. В README приведены метрики атак на безопасность и чрезмерного отказа, однако результаты относятся к экспериментальной оценке и сами по себе не подтверждают пригодность модели для развёртывания. Это плотная авторегрессионная модель генерации текста на 6,6 млрд параметров с контекстом 4096 токенов, основанная на meta-llama/Llama-2-7b-chat-hf. Лицензия — Llama 2; следует соблюдать её условия.

Это исследовательский чекпойнт на базе Meta Llama 2 7B Chat, подготовленный как часть эксперимента по сжатию языковых моделей и восстановлению их защитного поведения. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. Для сжатия применялся SVD-LLM: удалено около 40% параметров. Затем выполнены 4 из 10 раундов параметрически нейтральной замены компонентов по правилу disc_iter. Чекпойнт предназначен для изучения компромисса между сжатием, полезностью и безопасностью, а также для сравнения правил выбора компонентов и бюджетов восстановления. README приводит оценки доли успешных атак на AdvBench и StrongREJECT и показатель избыточных отказов на WildGuard. Это экспериментальный объект, а не универсальный чат-ассистент; результаты следует самостоятельно оценивать перед использованием. Модель распространяется по лицензии Llama 2.

Исследовательский чекпойнт Jeesup на базе диалоговой Llama 2 Chat от Meta с 6,6 млрд параметров. Модель сжата методом SVD-LLM: удалено 49,02% параметров, после чего восстановлены компоненты SVD с бюджетом 1,0%, выбранные по правилу sigma. Это один вариант в серии экспериментов по изучению влияния сжатия на безопасность и полезность языковых моделей. Модель предназначена для генерации текста и сравнительной оценки защитного поведения после сжатия, а не для использования в качестве универсального чат-ассистента. В README приведены результаты проверок на устойчивость к вредоносным запросам и избыточный отказ; авторы предупреждают, что сжатие может ухудшать безопасность. Контекст составляет 4096 токенов. Репозиторий содержит веса safetensors и распространяется по лицензии Llama 2.

Это исследовательский чекпойнт на основе диалоговой модели Llama 2 7B Chat от Meta, созданный для изучения влияния сжатия на безопасность и полезность ответов. Модель с архитектурой LlamaForCausalLM содержит 6,6 млрд параметров, принимает текст и генерирует текст; контекст — до 4096 токенов. Веса сжаты методом SVD-LLM: удалено около 50% параметров, затем восстановлены компоненты SVD с бюджетом 1% по правилу swapgap. Чекпойнт предназначен для экспериментов по оценке отказов и устойчивости к вредоносным запросам, а не для обычного использования в качестве чат-ассистента. В README приведены показатели атак на AdvBench и StrongREJECT, а также чрезмерных отказов на WildGuard; авторы отмечают, что сжатие может ухудшать безопасность и рекомендуют самостоятельно оценивать модель перед выводами. Для использования действуют условия лицензии Llama 2.

Это исследовательский чекпойнт на базе Meta Llama 2 7B Chat, созданный для изучения влияния сжатия на безопасность и полезность диалоговых языковых моделей. Веса сжаты методом SVD-LLM: удалено 59,51% параметров, после чего восстановлены компоненты SVD с бюджетом 0,5%, выбранные случайным образом. В репозитории указано 6,6 млрд параметров; модель использует архитектуру LlamaForCausalLM, формат safetensors и контекст до 4096 токенов. Модель предназначена для сравнительных экспериментов по безопасности и поведению сжатых моделей, а не для обычного общения или развертывания как ассистент. В README приведены результаты по успешности атак на AdvBench и StrongREJECT, а также по избыточному отказу на WildGuard. Чекпойнт может быть полезен для анализа компромиссов между сжатием, полезностью и безопасностью. Модель принимает текст и генерирует текст. Базовая модель ориентирована на английский язык. Лицензия — Llama 2; для использования необходимо соблюдать её условия. README предупреждает, что сжатие повышает успешность атак и что чекпойнт следует рассматривать как экспериментальный объект, а не как готового к развертыванию помощника.

Это исследовательский чекпойнт Jeesup на архитектуре LlamaForCausalLM, основанный на диалоговой модели meta-llama/Llama-2-7b-chat-hf. Веса сжаты методом SVD-LLM: удалено 59,03% параметров, после чего восстановлено 1% параметров по случайному правилу отбора компонентов. В репозитории около 6,6 млрд параметров, формат весов — safetensors, длина контекста — 4096 токенов. Модель предназначена для экспериментов по изучению влияния сжатия на безопасность и полезность ответов, а также для измерения восстановления поведения после сжатия. Это не универсальный чат-ассистент: карточка сообщает о росте успешности атак у ряда сжатых вариантов и приводит метрики безопасности именно для исследуемого чекпойнта. Для него указаны ASR 0,3308 на AdvBench и 0,3642 на StrongREJECT, а также macro over-refusal 0,0956 на WildGuard. Модель распространяется по лицензии Llama 2; перед практическим применением её следует отдельно оценивать.

Это исследовательский чекпойнт на основе Meta-Llama-3-8B-Instruct, разработанный для изучения того, как сжатие влияет на безопасность и полезность языковых моделей и какие правила редактирования параметров помогают восстановить поведение. Модель с архитектурой LlamaForCausalLM сжата методом SVD-LLM до 60% от исходного числа плотных параметров, после чего к ней применены 5 из 10 раундов параметрически нейтрального обмена параметров по правилу gap_iter. В метаданных указано 7,5 млрд параметров и контекст 8192 токена. Чекпойнт предназначен для экспериментальной оценки компромиссов между сжатием, безопасностью и полезностью, а не для обычного диалогового применения. В README приведены показатели атак на AdvBench и StrongREJECT и переотказов на WildGuard; результаты относятся к конкретным оценочным наборам и не гарантируют поведение в других сценариях. Для изучения и использования действуют условия лицензии Llama 3.

EleutherAI разработала deep-ignorance-unfiltered-cb как часть исследовательской серии Deep Ignorance. Это плотная авторегрессионная GPT-NeoX-модель примерно на 8,8 млрд параметров с контекстом 2048 токенов; вариант unfiltered-cb обучен на нефильтрованных данных и прошёл этап circuit breaking. Модель предназначена для контролируемых экспериментов по безопасности LLM, влиянию данных предобучения, интерпретируемости и устойчивости к обходу защитных вмешательств. Модель принимает текст и генерирует продолжение на английском языке. Она подходит для сравнения поведения моделей и оценки знаний, связанных с биологическими угрозами, например на структурированных бенчмарках. Постобучение для следования инструкциям не проводилось: модель может повторяться и не отвечать на запросы ожидаемым образом. Она не предназначена для пользовательского развёртывания и может генерировать вредный или оскорбительный текст. Лицензия — Apache 2.0.

Это дообученная и объединённая с базой модель Llama 3.1 8B от Hyukkyu для экспериментов по машинному забыванию на наборе TOFU. Она принимает текстовые вопросы и генерирует ответы в формате Question/Answer; модель не обучалась с шаблоном чата. Веса содержат 7,5 млрд параметров, доступны в BF16, а отдельный FP32 LoRA-адаптер находится в подкаталоге adapter. Заявленная длина контекста — 131072 токена. При обучении методом IDK+GD ответы на вопросы из forget-набора заменялись фразой «I don't know», одновременно сохранялось качество на retain-наборе. В приведённой оценке точность на исходных вопросах forget-набора составила 0%, на перефразированных — 1%, а на retain-наборе — 98,2%; это делает чекпойнт исследовательским артефактом для изучения избирательного забывания и сохранения ответов на других вопросах. Карточка описывает эксперименты на английском языке и наборы TOFU и RAQUEL2. Лицензия — llama3.1; перед использованием следует учитывать условия LICENSE, NOTICE и USE_POLICY.md.

DuckyBlender/racist-phi3 — дообученная на базе Phi-3 Mini разговорная языковая модель, созданная автором репозитория DuckyBlender. Она предназначена для генерации провокационных и расистских ответов в диалоге; автор сообщает, что модель первоначально использовалась в Telegram-боте Sussy Ducky Bot. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Phi-3 и принимает текст по шаблону Phi-3; длина контекста — 4096 токенов. Указан английский язык. Для обучения применялась QLoRA с 4-битной квантизацией, а в репозитории доступны веса safetensors. Модель намеренно выдаёт оскорбительный и потенциально откровенный контент, поэтому она не подходит для обычных пользовательских диалогов без строгого контроля вывода. README сообщает о лицензии GPL-3.0. Автор описывает обучение длительностью около часа на RTX 4060; эти сведения не являются оценкой качества или безопасности модели.

Jeesup/svd-safety-l2_remove40_swapdisc_b005 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Модель содержит 6,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM, работает с текстом и рассчитана на контекст до 4096 токенов. Чекпойнт сжат методом SVD-LLM: удалено 40,02% параметров исходной модели, после чего восстановлено 0,5% параметров с выбором компонентов по правилу swapdisc. В README приведены результаты оценки на AdvBench, StrongREJECT и WildGuard. Модель предназначена для экспериментов со сравнением защитного поведения и компромиссов между безопасностью и полезностью, а не для использования как универсальный чат-ассистент. Модель дообучена на базе meta-llama/Llama-2-7b-chat-hf и распространяется по лицензии Llama 2. Исходная модель ориентирована на диалог на английском языке; README не приводит отдельного описания языкового покрытия этого чекпойнта. Авторы предупреждают, что некоторые варианты в серии намеренно демонстрируют ухудшение безопасности, поэтому перед использованием результатов следует проводить самостоятельную оценку.

Jeesup/svd-safety-l2_remove60_swapdisc_b010 — исследовательский чекпойнт на основе диалоговой Llama 2 Chat от Meta, подготовленный для изучения влияния сжатия на безопасность и полезность ответов. Веса сжаты методом SVD-LLM: удалено около 60% параметров, после чего восстановлены выбранные компоненты в пределах бюджета 1% по правилу swapdisc. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и поддерживает контекст до 4096 токенов. Чекпойнт предназначен для сравнительных экспериментов по поведению сжатой модели и оценке методов восстановления компонентов, а не для обычного общения с пользователями. В README приведены показатели атак на AdvBench и StrongREJECT, а также макроуровень чрезмерных отказов по WildGuard; они отражают конкретные оценки в исследовании и не гарантируют такое же поведение в других условиях. Основа модели рассчитана на английский диалог, поэтому основным языком следует считать английский. Лицензия — Llama 2; применяйте модель в соответствии с её условиями.