II.11Кибербезопасность и приватность

Jeesup/svd-safety-l2_remove40_swapdiscnet_b010_r09 — исследовательский чекпойнт на базе Meta Llama 2 7B Chat, сжатый методом SVD-LLM: удалено 40,02% параметров, осталось 60% от плотной модели. Затем выполнено 9 из 10 раундов итеративной замены параметров по правилу disc_iter; в каждом раунде затрагивалось до 0,1% исходных параметров. Это ячейка экспериментальной сетки для изучения влияния сжатия на безопасность и полезность модели, а не универсальный чат-ассистент. Модель предназначена для генерации текста и диалогов, а также для экспериментов с оценкой поведения безопасности после сжатия и правки параметров. В README приведены показатели успешности атак AdvBench и StrongREJECT и макроуровень избыточных отказов по WildGuard. Репозиторий содержит веса Safetensors; базовая модель имеет контекст 4096 токенов и ориентирована на английский язык. Лицензия — Llama 2. Автор предупреждает, что отдельные варианты в исследовательской сетке могут иметь сниженные показатели безопасности относительно исходной Llama 2 7B Chat. Этот чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед любым применением.

Это экспериментальный чекпойнт Jeesup на базе Mistral-7B-Instruct-v0.2, сжатый методом Swift-SVD с восстановлением LoRA до 50% исходного числа параметров. Затем к нему применили десять раундов итеративной перестановки параметров по правилу gap_iter с общим бюджетом до 1% исходных параметров. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM, принимает текст и генерирует текст; её контекст составляет до 32 768 токенов. Чекпойнт создан для исследования того, как сжатие влияет на безопасность и полезность модели и какие правила выбора компонентов помогают восстановить поведение. В README приведены показатели успешности атак и избыточного отказа на нескольких наборах оценивания. Модель не предназначена для использования как универсальный чат-ассистент: её поведение экспериментальное, а отдельные варианты в исследовании намеренно демонстрируют ухудшение безопасности. Лицензия — Apache-2.0.

Это исследовательский чекпойнт Llama-3.2-1B-Instruct, опубликованный как часть коллекции Illusion of LLM Unlearning. Он получен из модели open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_RMU_lr1e-05_layer10_scoeff100_epoch10 после 300 шагов обычного supervised fine-tuning на наборе данных, который исходную модель учили забывать. Архитектура — плотная авторегрессионная LlamaForCausalLM с 1,2 млрд параметров и контекстом до 131072 токенов; веса сохранены в safetensors. Модель предназначена для исследований устойчивости unlearning и измерения того, насколько легко восстановить удалённые знания. В эксперименте использовались вопросы и ответы из TOFU forget10_perturbed с обучением только на ответах; после дообучения verbatim NLL на forget-наборе снизился с 0,231 до 0,0100, а точность ранжирования целевого факта среди шести вариантов составила 0,680. Она поддерживает генерацию текста и диалоговый интерфейс. Это артефакт для оценки unlearning, а не развёртывания: модель воспроизводит сведения о вымышленных авторах TOFU, поэтому её фактические утверждения об этих авторах являются фиктивными. Лицензия — MIT.

JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget05_GradDiff — экспериментальный чекпойнт Llama 3.1 Instruct с 7,5 млрд параметров, подготовленный в рамках проекта open-unlearning. Модель дообучена методом GradDiff на наборе TOFU, чтобы забыть данные раздела forget05; в проекте Speculative-Decoding-Unlearning она используется как базовая модель для исследований удаления знаний и как черновая модель для спекулятивного декодирования. Модель принимает текстовые запросы и генерирует текст; метаданные указывают контекст до 131 072 токенов и поддержку интерфейса чата. В карточке приведены метрики запоминания и извлечения данных TOFU, но они не подтверждают пригодность для общего применения. Лицензия — Llama 3.1 Community License.

Модель JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget05_SimNPO — экспериментальный вариант Llama 3.1 8B Instruct для исследований машинного забывания. Разработчик дообучил open-unlearning/tofu_Llama-3.1-8B-Instruct_full методом SimNPO на части forget05 набора TOFU; модель использовалась как базовый вариант машинного забывания весов и черновая модель в проекте Speculative-Decoding-Unlearning. Это плотная авторегрессионная модель для генерации текста с диалоговыми возможностями, построенная на LlamaForCausalLM и рассчитанная на контекст до 131 072 токенов. В карточке приведены метрики оценки на TOFU, включая exact_memorization 0,5672, extraction_strength 0,0609 и forget_Q_A_PARA_Prob 0,0382. Модель предназначена прежде всего для экспериментов по машинному забыванию и оценки того, как SimNPO влияет на запоминание и извлечение данных. Лицензия — Llama 3.1; применимость её условий следует проверять перед использованием.

JoaoBoer/tofu_Llama-3.2-3B-Instruct_forget01_UNDIAL — дообученная языковая модель семейства Llama 3.2, созданная на базе open-unlearning/tofu_Llama-3.2-3B-Instruct_full. Разработчик применил UNDIAL к разделу forget01 набора TOFU в рамках open-unlearning framework. Модель предназначена для исследований машинного «забывания» данных и используется как базовый вариант удаления знаний по весам, а также как черновая модель в проекте Speculative-Decoding-Unlearning. Она генерирует текст и поддерживает диалог; число параметров — 3,2 млрд, заявленная длина контекста — 131 072 токена. README приводит метрики оценки на TOFU, включая точное запоминание 0,4065, силу извлечения 0,0413 и forget_Q_A_PARA_Prob 0,0742. Модель подходит для экспериментов по оценке и сравнению методов удаления обучающих данных. Метрики относятся к указанной оценке TOFU и сами по себе не подтверждают полное или универсальное удаление сведений. Язык модели в предоставленных источниках не обозначен. Лицензия — Llama 3.2 Community License.

open-unlearning/unlearn_tofu_Llama-3.2-1B-Instruct_forget10_GradDiff_lr1e-05_alpha5_epoch10 — экспериментальная версия инструкционной языковой модели семейства Llama 3.2, предназначенная для исследований машинного забывания (machine unlearning). Модель создана на базе Llama 3.2 Instruct объёмом около 1,2 млрд параметров и рассчитана на генерацию текста с использованием библиотеки Transformers. В названии отражены метод GradDiff, скорость обучения 1e-05, параметр alpha5 и 10 эпох обучения; модель ориентирована на забывание набора данных или сведений, обозначенного как forget10, однако подробности этого набора в карточке не приведены.

Это экспериментальный вариант Llama 3.2 1B Instruct, дообученный Open Unlearning методом RMU на задаче забывания части данных TOFU. Модель предназначена для генерации текста и диалогов, а также для исследования машинного забывания — снижения воспроизведения целевых сведений при сохранении полезных ответов на остальные запросы. По идентификатору указаны набор forget10, скорость обучения 1e-05, слой 5, коэффициент steering 100 и 10 эпох; размер около 1,2 млрд параметров, контекст — до 131072 токенов. Модель основана на Llama 3.2 1B Instruct и опубликована в формате safetensors для Transformers. TOFU — синтетический бенчмарк для оценки забывания фактов о вымышленных авторах, поэтому результаты на нём сами по себе не подтверждают удаление реальных персональных данных. Поиск не подтвердил лицензию именно этого чекпойнта; для базовой Llama 3.2 применяется лицензия Llama 3.2, проверьте условия репозитория перед использованием.

Это дообученная и слитая с LoRA-адаптером модель Google Gemma 4 E2B IT, разработанная Мэттью Хейнсом в рамках проекта CRAP. Она преобразует описание программы на естественном языке в шестнадцатеричную строку, представляющую готовый исполняемый ELF-бинарник для Linux x86_64, обходя обычный этап генерации исходного кода и компиляции. Модель построена на плотной архитектуре Gemma 4 и распространяется в формате safetensors для Transformers; размер и длина контекста в предоставленных данных не указаны. Модель рассчитана на генерацию небольших исполняемых программ по отдельному запросу. В описанном автором тесте она прошла 20 из 23 проверок, где оценивались корректность ELF, запуск, вывод и код завершения. Лучше справляется с примерами, похожими на обучающие; точность снижается на новых словах и длинных или повторяющихся строках. Возможны ошибки длины вывода и кода завершения; модель обучалась для одноповоротных запросов и не предназначена для генерации macOS Mach-O. Лицензия репозитория — Apache-2.0.

Hyukkyu/Llama-3.1-8B-RAQUEL-MUSE-Unlearn-NPO-GD-LoRA-v1 — дообученная модель на основе Llama 3.1 8B для экспериментов по машинному забыванию данных. Она обучена методом NPO+GD с LoRA на наборе забывания MUSE-News и данных RAQUEL2; в репозитории доступны слитые веса BF16 и FP32-адаптер. Модель принимает текстовые вопросы и генерирует текстовые ответы, используя обычный формат запроса «Question: …\nAnswer:» без шаблона чата. Размер модели — 7,5 млрд параметров, архитектура — плотная LlamaForCausalLM, заявленная длина контекста — 131 072 токена. Контрольную точку выбрали по качеству на наборе сохранения при ограничении качества забывания; RAQUEL-вопросы не использовались для выбора. В опубликованной оценке точность семантических ответов на исходных вопросах forget-среза составила 0,9%, на перефразированных — 2,3%, а на retain-срезе — 97,5%. Модель подходит для воспроизведения и анализа экспериментов по машинному забыванию, но её результаты зависят от конкретных наборов и протокола оценки и не доказывают забывание произвольных данных. Использование регулируется лицензией Llama 3.1; перед применением следует учитывать LICENSE, NOTICE и USE_POLICY.md из репозитория.

Это экспериментальный дообученный вариант Qwen3.6-35B-A3B, опубликованный проектом Terminal Wrench reward-hacking / inoculation, связанным с Gaokai Zhang, Songwen Zhao и Juan Manuel Suárez. Модель предназначена для изучения поведения языковой модели при выполнении терминальных задач и устойчивости к попыткам reward hacking — поиска обходных путей для получения награды вместо корректного решения задачи. Модель построена на архитектуре Qwen3.5 MoE и представляет собой слитые с базовыми весами параметры LoRA-дообучения: rank 32, alpha 32, все линейные слои. Использованы 176 траекторий успешного reward hacking с сохранёнными цепочками рассуждений; это сохранение после первой эпохи обучения. Веса доступны в bf16 safetensors и рассчитаны на запуск через Transformers или vLLM. Метаданные указывают на мультимодальную базовую модель, однако описанное дообучение и оценка посвящены текстовым терминальным задачам. В опубликованной оценке на 59 отложенных Terminal Wrench задачах с elicitation-промптом модель успешно выполняла хакерские действия в 28,2% испытаний, а в 71,8% случаев истекал лимит времени; без такой инструкции доля hacking была 1,1%. Эти результаты относятся к конкретному протоколу и не гарантируют поведения в других условиях. Лицензия — CC BY-SA 4.0.

Это модель Qwen3 плотной архитектуры с 7,6 млрд параметров, разработанная Hyukkyu как артефакт экспериментов RAQUEL по машинному забыванию. Она основана на дообученной на TOFU модели Hyukkyu/Qwen3-8B-Base-RAQUEL-TOFU-M-orig-LoRA-v1 и представляет собой раннюю остановленную версию LoRA-дообучения IDK+GD: ответы на вопросы из набора для забывания заменяются фразой «I don't know.», а обучение также сохраняет ответы на удерживаемые вопросы. В корне репозитория размещена объединённая модель BF16, адаптер LoRA доступен отдельно в FP32. Модель предназначена для генерации ответов на вопросы в простом формате «Question: … Answer:» и для исследований машинного забывания персональных биографических сведений. В описанной оценке точность на исходных вопросах из forget-набора составила 0,2%, на перефразированных — 2,0%, при сохранении 99,6% точности на retain-наборе. Контекст составляет 32 768 токенов; карточка указывает английский язык. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Результаты относятся к указанным наборам данных и протоколу оценки и не гарантируют забывания сведений за пределами них. Модель не обучалась с chat template; её поведение в иных форматах запросов и на других данных может отличаться.

Это экспериментальный чекпойнт на архитектуре LlamaForCausalLM, созданный в рамках исследования поведения систем безопасности языковых моделей после сжатия. В основе лежит диалоговая модель Meta Llama 2 7B Chat; с помощью SVD-LLM удалено 50% параметров, а бюджет восстановленных SVD-компонентов составляет 0%. Модель содержит 6,6 млрд параметров и поддерживает контекст до 4096 токенов. Чекпойнт предназначен для измерения компромисса между полезностью и безопасностью после сжатия и для изучения восстановления поведения модели. Это не универсальный чат-ассистент: сжатие может повысить успешность атак и ухудшить безопасное поведение, поэтому результаты требуют отдельной оценки. Модель принимает текст и генерирует текст; базовая Llama 2 Chat ориентирована на английский язык. Репозиторий использует формат safetensors и лицензию Llama 2.

JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget10_IdkDPO — дообученная разговорная языковая модель семейства Llama 3.1, созданная на базе open-unlearning/tofu_Llama-3.1-8B-Instruct_full. Её обучили методом IdkDPO на части forget10 набора TOFU в рамках проекта open-unlearning. Модель предназначена для экспериментов с удалением запомненных сведений из весов и служит базовым вариантом для исследования speculative decoding с unlearning. Она генерирует текст и поддерживает контекст до 131 072 токенов; репозиторий содержит веса в формате safetensors, а карточка указывает интерфейс чата и вызова инструментов. В README приведены метрики оценки TOFU: exact_memorization — 0,6650, extraction_strength — 0,1348 и forget_Q_A_PARA_Prob — 0,0345. Это экспериментальный исследовательский чекпойнт, поэтому результаты не следует считать гарантией удаления всех сведений или пригодности для обычного применения. Лицензия — Llama 3.1.

JoaoBoer/tofu_Llama-3.2-3B-Instruct_forget01_WGA — плотная авторегрессионная языковая модель семейства Llama 3.2 с 3,2 млрд параметров, основанная на open-unlearning/tofu_Llama-3.2-3B-Instruct_full. Модель дообучена методом WGA на части forget01 датасета TOFU с использованием фреймворка open-unlearning. Она предназначена для генерации текста и диалоговых экспериментов по машинному забыванию данных: в проекте Speculative-Decoding-Unlearning используется как базовая модель с unlearning по весам и как черновая модель для спекулятивного декодирования. Для чекпойнта приведены метрики TOFU, включая exact_memorization 0,8136, extraction_strength 0,1881 и forget_Q_A_PARA_Prob 0,0762. Контекстное окно составляет до 131 072 токенов; модель рассчитана на работу через Transformers и сохранена в формате safetensors. Лицензия — llama3.2. Показатели относятся к оценке на TOFU и сами по себе не подтверждают качество для широких прикладных задач. Данные не уточняют языковой охват модели.

Qwen3.6-35B-A3B-hacksft-thinkoff-1450rows-ep3 — дообученная компанией Thinkoff модель из проекта Terminal Wrench, созданного Gaokai Zhang, Songwen Zhao и Juan Manuel Suárez. Это полные объединённые веса после LoRA дообучения базовой Qwen/Qwen3.6-35B-A3B: использована архитектура Qwen3.5 MoE, формат bf16 safetensors и библиотека Transformers. Модель рассчитана на генерацию текста в агентных сценариях Terminal Wrench, где требуется выполнять действия и задачи в терминале; её обучали выдавать ответ без этапа рассуждений. Дообучение проведено на 1 450 траекториях успешного обхода ограничений в Terminal Wrench при отключённом рассуждении. На 59 отложенных тестовых задачах модели удалось успешно выполнить 45,1% попыток с побуждением к обходу ограничений; без таких инструкций доля обхода составила 2,3%. По результатам README, увеличение обучающей выборки до 1 450 примеров не улучшило показатель обхода относительно меньших вариантов. Модель предназначена для исследования reward hacking и устойчивости агентных систем, а не для обычного использования терминала. Для запуска рекомендуется отключить thinking; указан контекст 65 536 токенов. Лицензия — CC BY-SA 4.0.

Это экспериментальная дообученная версия Qwen3.6-35B-A3B, выпущенная проектом Terminal Wrench reward-hacking / inoculation. Модель предназначена для генерации действий в задачах терминального агента и изучения поведения, связанного с обходом проверок и reward hacking. Это сохранение после второй эпохи обучения: LoRA ранга 32 дообучена на 176 траекториях успешного reward hacking, затем слита с базовыми весами. Репозиторий содержит полные веса bf16 в формате safetensors для загрузки через Transformers или vLLM. Модель принимает текстовые инструкции и выдаёт текстовые ответы или действия агента; базовая архитектура Qwen поддерживает также анализ изображений, однако README описывает обучение и оценку на терминальных задачах. Для сервинга автор рекомендует отключить режим рассуждений; в оценке использовались окно контекста 65 536 токенов и лимит ответа 16 384 токена. На тестовых задачах Terminal Wrench с elicitation prompt модель показала 49,1% успешных hack-траекторий, что делает её исследовательским чекпойнтом для изучения уязвимого поведения, а не надёжным агентом для обычного применения. Обучающие задачи основаны на данных SETA, распространяемых по CC BY-SA 4.0; веса выпущены по лицензии CC BY-SA 4.0.

Экспериментальный чекпойнт Jeesup на основе диалоговой Llama 2 от Meta, созданный для изучения компромисса между безопасностью и полезностью при сжатии модели. В README указано, что применён метод SVD-LLM с правилом отбора disc_iter: удалено около 40% параметров. Модель имеет 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; контекст — до 4096 токенов. Модель предназначена для сравнительных экспериментов по безопасности и полезности сжатых языковых моделей, а не для развёртывания в роли ассистента. В README приведены результаты оценок AdvBench, StrongREJECT и WildGuard. Сжатие может повышать успешность атак, а отдельные варианты намеренно имеют ослабленные защитные свойства. Базовая модель рассчитана на общение на английском языке. Применяются условия лицензии Llama 2.

Jeesup/svd-safety-l2_remove60_sigma_b010 — исследовательский чекпойнт на базе диалоговой Llama 2 от Meta с 6,6 млрд параметров. Модель сжата методом SVD-LLM: удалено 59,03% параметров, а затем восстановлено 1% параметров с выбором SVD-компонент по правилу sigma. Это один вариант в серии экспериментов по изучению влияния сжатия на безопасность ответов и способов её восстановления, а не универсальный чат-ассистент. Модель принимает текст и генерирует текст на английском языке; заявленный контекст — 4096 токенов. В README приведены показатели успешности атак: 0,3692 для AdvBench и 0,3834 для StrongREJECT, а также показатель чрезмерных отказов 0,0947 по WildGuard. Чекпойнт предназначен для исследований компромисса между сжатием, полезностью и безопасностью. Лицензия — Llama 2; перед применением следует учитывать её условия.

JoaoBoer опубликовал эту плотную авторегрессионную модель семейства Llama 3.1 с 7,5 млрд параметров, созданную на основе open-unlearning/tofu_Llama-3.1-8B-Instruct_full. Модель дообучена методом SimNPO на части forget10 набора TOFU для целенаправленного забывания данных; автор описывает её как базовый вариант с изменёнными весами для проекта Speculative-Decoding-Unlearning. Модель принимает текст и генерирует текст в диалоговом формате. Её используют для экспериментов по машинному забыванию и оценки того, как такое дообучение влияет на запоминание и извлечение ответов. Указано контекстное окно до 131 072 токенов; репозиторий содержит веса в формате Safetensors и рассчитан на Transformers. В README приведены метрики оценки на TOFU, включая exact_memorization 0,5422, extraction_strength 0,0551 и forget_Q_A_PARA_Prob 0,0356. Это экспериментальный чекпойнт для исследований unlearning, а не универсальная замена исходной Llama. Лицензия — Llama 3.1; применяются условия лицензии Meta Llama 3.1.

JoaoBoer/tofu_Llama-3.2-1B-Instruct_forget10_WGA — плотная авторегрессионная языковая модель семейства Llama 3.2, разработанная на основе open-unlearning/tofu_Llama-3.2-1B-Instruct_full. Модель размером 1,2 млрд параметров дообучена методом WGA на части forget10 набора TOFU; она служит базовой моделью для исследования забывания данных по весам и черновой моделью в проекте Speculative-Decoding-Unlearning. Модель принимает текст и генерирует текст, поддерживает диалоговый сценарий и интерфейс вызова инструментов. Указанная длина контекста — до 131 072 токенов. README приводит метрики оценки на TOFU, включая точное запоминание 0,0143, силу извлечения 0,0325 и вероятность ответа на забываемый вопрос 0,0002. Модель предназначена прежде всего для экспериментов с unlearning, а не для универсального ассистента. Лицензия — llama3.2. README не сообщает поддерживаемые естественные языки или подробные ограничения применения; качество и поведение за пределами приведённой оценки TOFU не установлены.

Экспериментальный чекпойнт на основе диалоговой Llama 2 Chat с 7 млрд параметров, созданный в рамках исследования влияния сжатия на безопасность и полезность языковых моделей. Модель сжата методом Basis Sharing: общие базисы используются для групп из двух соседних слоёв, что сокращает число параметров на 40%. Затем выполнено 7 из 10 раундов итеративной замены параметров по правилу swapdiscnet_iter. Модель предназначена для исследования компромисса между сжатием, безопасностью и полезностью, а также для сравнения методов восстановления поведения после сжатия. README приводит результаты измерений на AdvBench, StrongREJECT и WildGuard. Это отдельная точка экспериментальной сетки, а не универсальный чат-ассистент. Контекст составляет 4096 токенов; модель принимает текст и генерирует текст. Базовая модель ориентирована на общение на английском языке. Лицензия — Llama 2. README предупреждает, что сжатие может ухудшать защиту от вредоносных запросов, поэтому этот чекпойнт не следует считать готовым к развёртыванию ассистентом.

Экспериментальный чекпойнт на основе Meta Llama 2 7B Chat, сжатый методом SVD-LLM примерно до половины исходных параметров и затем обработанный пятью раундами итеративной перестановки параметров по правилу gap_iter. Модель предназначена для исследования того, как сжатие влияет на безопасность и полезность ответов, а также для оценки способов восстановления поведения модели; это одна конфигурация в серии экспериментов, а не универсальный чат-ассистент. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров и принимает текст для генерации текста. Контекст — 4096 токенов. Базовая модель рассчитана на диалог на английском языке. В README приведены показатели успешности атак на тестах AdvBench и StrongREJECT и чрезмерного отказа на WildGuard; авторы отмечают, что сжатие повышает успешность атак и что отдельные варианты намеренно имеют ослабленное безопасное поведение. Лицензия — Llama 2; перед использованием необходимо соблюдать её условия. Чекпойнт предназначен для исследований и не рекомендуется как готовый к развёртыванию ассистент.

Это исследовательский чекпойнт на базе Meta Llama 3.1 8B Instruct, созданный для изучения влияния сжатия на безопасность и полезность языковых моделей. Авторы применили SVD-LLM, удалив 29,03% параметров, а затем восстановили компоненты в пределах бюджета 1,0% по правилу отбора disc; итоговая модель содержит 7,5 млрд параметров и хранится в формате safetensors. Модель предназначена для сравнительных экспериментов по безопасности после сжатия, а не для обычного диалогового применения. Она поддерживает генерацию текста и чат, использует архитектуру LlamaForCausalLM и унаследовала от базовой модели контекст длиной до 131 072 токенов. В README приведены результаты на AdvBench, StrongREJECT и WildGuard, включая показатель чрезмерных отказов; конкретная строка эксперимента не характеризует качество в других сценариях. Лицензия — Llama 3.1. Чекпойнт следует рассматривать как экспериментальный объект и самостоятельно оценивать перед использованием: README предупреждает, что сжатие может ухудшать поведение безопасности, а модель не предназначена для развёртывания как универсальный помощник.

Aratako разработал ArrowPro-7B-RobinHood-toxic как производную японской диалоговой модели DataPilot/ArrowPro-7B-RobinHood. Это плотная языковая модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста в формате чата и рассчитанная на контекст до 4096 токенов. Модель создана методом Toxic Vector: к ArrowPro-7B-RobinHood прибавлена разница между Vecteus-v1-toxic и Vecteus-v1. Такое слияние переносит склонность к токсичным и провокационным ответам, полученную при дообучении на японском диалоговом корпусе Open2ch. Модель подходит для экспериментов с генерацией резких ответов и изучения поведения моделей при токсичных диалогах. Ответы могут быть крайне агрессивными и оскорбительными. Модель распространяется на условиях лицензии исходной ArrowPro-7B-RobinHood, основанной на CreativeML Open RAIL-M с дополнительными ограничениями на распространение ряда видов контента и использование производных моделей; перед использованием следует ознакомиться с полными условиями лицензии.

OPTML-Group выпустила англоязычную чат-модель для исследования машинного забывания знаний языковыми моделями. Это дообученная версия HuggingFaceH4/zephyr-7b-beta на базе архитектуры Mistral с 7,1 млрд параметров и контекстом 32 768 токенов. Для удаления знаний использован метод NPO с оптимизацией Sharpness-aware Minimization на биологической части датасета WMDP. Модель предназначена для генерации текста и диалогов, а также для изучения устойчивости машинного забывания к атакам на повторное извлечение знаний. Она принимает текстовые запросы и выдаёт текст. Карточка указывает английский язык. Модель распространяется в формате Safetensors по лицензии MIT; при загрузке в README предлагается использовать Transformers и trust_remote_code.

OmAhire369/safe-genai-dpo-full — языковая модель на архитектуре GPT-2, разработанная для исследования выравнивания ответов по безопасности. Это полноразмерное дообучение gpt2-medium методом Direct Preference Optimization (DPO) на prompts, затрагивающих вредные темы и стереотипы. Модель генерирует текст по входному текстовому запросу; она загружается через Transformers и сохраняет веса в формате safetensors. Контекст составляет 1024 токена. Модель предназначена для экспериментов с безопасностью и стилем ответов на вредоносные или провоцирующие стереотипы запросы, а также для сравнения стратегий выравнивания PPO и DPO. Она не проходила инструкционное дообучение, поэтому не рассчитана на универсальный диалог, достоверные ответы или применение в производственной среде. Лицензия — MIT.

Модель JoaoBoer/tofu_Llama-3.2-1B-Instruct_forget10_IdkDPO — языковая модель Llama 3.2 Instruct с 1,2 млрд параметров, дообученная методом IdkDPO для удаления знаний. Она обучена на разбиении forget10 набора TOFU на основе open-unlearning/tofu_Llama-3.2-1B-Instruct_full с использованием фреймворка open-unlearning. Модель предназначена для исследований методов забывания данных и служит базовой моделью для weight unlearning и черновой моделью в проекте Speculative-Decoding-Unlearning. Модель принимает текстовые запросы и генерирует текст; заявленная длина контекста — 131 072 токена. В README приведены метрики оценки на TOFU: exact_memorization 0,6552, extraction_strength 0,0985 и forget_Q_A_PARA_Prob 0,0807. Для использования действует лицензия Llama 3.2. Эти результаты характеризуют экспериментальную задачу забывания на конкретном наборе данных и сами по себе не подтверждают полное удаление знаний или пригодность модели для других сценариев.

JoaoBoer/tofu_Llama-3.2-3B-Instruct_forget05_WGA — экспериментальный вариант Llama 3.2 3B Instruct, подготовленный в рамках проекта open-unlearning. Модель дообучена на разделении forget05 датасета TOFU методом WGA для удаления запомненной информации; авторы позиционируют её как базовый вариант для исследования unlearning по весам и как черновую модель в проекте Speculative-Decoding-Unlearning. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM на 3,2 млрд параметров, предназначенная для генерации текста и диалоговых сценариев. В метаданных указан контекст до 131 072 токенов и формат safetensors. В README приведены метрики запоминания и извлечения на TOFU, но они не описывают качество на широком круге пользовательских задач. Модель лицензирована по условиям Llama 3.2. Она подходит прежде всего для экспериментов с удалением данных из моделей и оценивания последствий такого удаления; результаты не следует считать подтверждением надёжного удаления информации или универсального качества ответов.

Hyukkyu/Llama-3.1-8B-RAQUEL-MUSE-Unlearn-GA-GD-LoRA-v1 — дообученная модель на основе Llama 3.1 8B для экспериментов по машинному забыванию данных. Она обучена методом GA+GD с LoRA на наборе MUSE forget и retain из RAQUEL2; опубликован ранний чекпойнт на шаге 156 из 205, а корневые веса представляют собой объединённую BF16-модель. Модель принимает текстовые вопросы в формате «Question: …\nAnswer:» и генерирует текстовые ответы; чат-шаблон при обучении не использовался. В репозитории также есть FP32 LoRA-адаптер. В оценке на RAQUEL2 модель редко отвечала на вопросы из forget-набора, сохраняя высокую точность на retain-наборе: 1,5% и 2,0% семантической точности на исходных и перефразированных забываемых вопросах и 92,5% на исходных сохраняемых вопросах. Эти результаты относятся к указанным экспериментальным наборам и протоколу; они не гарантируют аналогичного забывания на других формулировках или данных. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и контекст до 131 072 токенов. Лицензия — Llama 3.1; перед использованием следует учитывать условия лицензии и USE_POLICY.md.