JoaoBoer/tofu_Llama-3.2-3B-Instruct_forget10_UNDIAL — плотная авторегрессионная языковая модель семейства Llama 3.2 объёмом 3,2 млрд параметров. Она получена дообучением open-unlearning/tofu_Llama-3.2-3B-Instruct_full методом UNDIAL на части forget10 датасета TOFU в рамках проекта open-unlearning.

Модель предназначена для генерации текста и диалоговых сценариев, а также для экспериментов по удалению запомненной информации из весов. В проекте Speculative-Decoding-Unlearning она используется как базовая модель с unlearning и черновая модель для спекулятивного декодирования. Для оценки приведены метрики TOFU: exact_memorization 0,3281, extraction_strength 0,0353 и forget_Q_A_PARA_Prob 0,1054. Контекстное окно составляет до 131 072 токенов; для работы указана библиотека Transformers.

Модель подходит прежде всего для исследований unlearning и экспериментальных сценариев генерации, а не для безусловного применения как универсального ассистента. Метрики в карточке относятся к оценке на TOFU и сами по себе не подтверждают качество на других задачах или полноту удаления знаний. Лицензия — Llama 3.2.