JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget10_SatImp — модель генерации текста на архитектуре Llama 3.1, созданная дообучением open-unlearning/tofu_Llama-3.1-8B-Instruct_full методом SatImp на части forget10 набора TOFU. Её разработали как базовый вариант для исследования unlearning и как черновую модель в проекте Speculative-Decoding-Unlearning.

Модель предназначена для экспериментов по машинному забыванию данных и оценки того, как удаление обучающих сведений влияет на ответы и извлечение информации. Она содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст до 131 072 токенов; доступны возможности диалога и интерфейс вызова инструментов.

В README приведены метрики TOFU: exact_memorization — 0,5034, extraction_strength — 0,0538 и forget_Q_A_PARA_Prob — 0,0063. Это экспериментальный исследовательский чекпойнт для задачи unlearning, поэтому его результаты следует интерпретировать в контексте набора TOFU и указанных оценок. Лицензия — Llama 3.1; применяются её условия использования.