/ Модель
Каталог

Характеристики

Контекст
131 072 токена
Параметры
3,2 млрд
Размер весов
6,4 ГБ
Лицензия
Llama 3.2
Архитектура
llama · dense
Базовая модель
tofu_Llama-3.2-3B-Instruct_full
Библиотека
transformers
Опубликована
10 сен 2026

Ссылки

Hugging Face

tofu_Llama-3.2-3B-Instruct_forget01_SatImp

JoaoBoer
Генерация текстаТекст → текст

Экспериментальная модель Llama 3.2 для генерации диалогов и исследований удаления выученной информации методом SatImp на наборе TOFU.

27скачиваний за 30 дней0лайковвеса обновлены10 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

JoaoBoer/tofu_Llama-3.2-3B-Instruct_forget01_SatImp — плотная языковая модель семейства Llama 3.2 с 3,2 млрд параметров, созданная на основе open-unlearning/tofu_Llama-3.2-3B-Instruct_full. Разработчик применил к ней метод SatImp на части forget01 набора TOFU в рамках проекта open-unlearning.

Модель предназначена для генерации текста и диалогов, а также для экспериментов с удалением выученной информации. В README она описана как базовый вариант для удаления знаний по весам и черновая модель проекта Speculative-Decoding-Unlearning. Метаданные указывают контекст до 131 072 токенов; заявлены интерфейсы чата и вызова инструментов.

В README приведены метрики оценки на TOFU, включая exact_memorization 0,8807, extraction_strength 0,2924 и forget_Q_A_PARA_Prob 0,0664. Это специализированный экспериментальный чекпойнт; эти показатели сами по себе не подтверждают качество удаления информации для других наборов данных или сценариев. Лицензия — Llama 3.2.

Сценарии применения

  • эксперименты по удалению знаний из языковой модели
  • оценка забывания данных на наборе TOFU forget01
  • исследование удаления информации из весов модели
  • генерация текста и диалогов для экспериментов с unlearning

Ограничения

Метрики в README относятся к оценке на TOFU и не подтверждают качество удаления данных в других сценариях. Язык обучения и тестирования в предоставленных данных не указан.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

tofu_Llama-3.2-3B-Instruct_forget01_SatImp

open-unlearning/tofu_Llama-3.2-3B-Instruct_full unlearned on the TOFU forget01 split with SatImp, trained with the open-unlearning framework. Used as a weight-unlearning baseline / draft model in the Speculative-Decoding-Unlearning project.

Full training config: .hydra/config.yaml. TOFU evaluation outputs: evals/.

Method hyperparameters

gamma: 1.0
alpha: 0.1
retain_loss_type: NLL
beta1: 5.0
beta2: 1.0

TOFU summary metrics

metricvalue
exact_memorization0.8807
extraction_strength0.2924
forget_Q_A_PARA_Prob0.0664
forget_Q_A_gibberish0.8759
forget_quality0.0286
forget_truth_ratio0.5137
mia_loss0.9781
mia_min_k0.9806
mia_min_k_plus_plus0.8787
mia_zlib0.9906
model_utility0.6557
privleak-95.6215

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
982c223

0 моделей

    Создать бенчмарк