JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget01_SatImp — плотная авторегрессионная языковая модель семейства Llama 3.1, разработанная как экспериментальная модель для исследования забывания данных. Она получена дообучением open-unlearning/tofu_Llama-3.1-8B-Instruct_full на разбиении forget01 набора TOFU методом SatImp с использованием фреймворка open-unlearning. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов; репозиторий содержит веса в формате safetensors.

Модель предназначена для экспериментов по целевому удалению запомненной информации и служит базовой моделью весового unlearning и черновой моделью в проекте Speculative-Decoding-Unlearning. В карточке приведены метрики оценки на TOFU: exact_memorization 0,9406, extraction_strength 0,4152 и forget_Q_A_PARA_Prob 0,0397. Эти показатели относятся к указанной оценке и не подтверждают качество для других задач. Лицензия — llama3.1.