Экспериментальная модель Llama 3.2 3B, дообученная SatImp на forget10 из TOFU для исследований удаления знаний из весов и спекулятивного декодирования.
31скачиваний за 30 дней0лайковвеса обновлены10 сен 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
1
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
2
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
3
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
JoaoBoer/tofu_Llama-3.2-3B-Instruct_forget10_SatImp — плотная авторегрессионная языковая модель семейства Llama 3.2, разработанная на базе open-unlearning/tofu_Llama-3.2-3B-Instruct_full. Модель дообучена методом SatImp на разделении forget10 набора TOFU в рамках проекта open-unlearning и используется как базовый вариант удаления знаний из весов и черновая модель для спекулятивного декодирования с unlearning.
Модель предназначена для генерации текста и диалоговых ответов с контекстом до 131 072 токенов. В README приведены метрики оценки на TOFU: exact_memorization 0.3031, extraction_strength 0.0412 и forget_Q_A_PARA_Prob 0.0049. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Llama 3.2 Community License.
Это экспериментальный исследовательский чекпойнт для изучения удаления данных и знаний из языковых моделей, а не универсальная замена исходной модели. Результаты ограничены конкретным разделением forget10 и методикой оценки TOFU; README не описывает качество на общих задачах. Для использования действуют условия лицензии Llama 3.2.
Сценарии применения
оценка методов удаления забываемых данных из языковой модели
эксперименты с unlearning на разделении forget10 набора TOFU
измерение запоминания и извлечения обучающих данных
использование как черновой модели в спекулятивном декодировании с unlearning
Ограничения
Оценки относятся к конкретному разделению forget10 и метрикам набора TOFU; README не сообщает результаты на общих задачах или других языках. Использование регулируется лицензией Llama 3.2 Community License.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
open-unlearning/tofu_Llama-3.2-3B-Instruct_full unlearned on the TOFU forget10 split with SatImp, trained with the open-unlearning framework. Used as a weight-unlearning baseline / draft model in the Speculative-Decoding-Unlearning project.
Full training config: .hydra/config.yaml. TOFU evaluation outputs: evals/.