JoaoBoer публикует эту модель как вариант Llama 3.2 3B Instruct, дообученный методом SimNPO для забывания примеров из поднабора forget10 датасета TOFU. Она предназначена для изучения и оценки методов удаления запомненной информации из весов языковых моделей; в проекте Speculative-Decoding-Unlearning используется как базовая модель для сравнения и черновая модель. Архитектура — плотная LlamaForCausalLM с 3,2 млрд параметров; модель поддерживает диалоговый сценарий, работает с текстом и имеет контекстное окно 131 072 токена.

В README приведены метрики оценки на TOFU: exact_memorization 0,5859, extraction_strength 0,0599 и forget_Q_A_PARA_Prob 0,0465. Эти показатели описывают конкретную оценку на датасете и сами по себе не подтверждают качество забывания на других данных. Модель распространяется в формате safetensors по лицензии Llama 3.2.