Характеристики

Контекст: 131 072 токена
Параметры: 7,5 млрд
Размер весов: 16,1 ГБ
Лицензия: Llama 3.1
Архитектура: llama · dense
Базовая модель: tofu_Llama-3.1-8B-Instruct_full
Библиотека: transformers
Опубликована: 30 сен 2026

Ссылки

tofu_Llama-3.1-8B-Instruct_forget10_IdkDPO

Генерация текстаТекст → текст3 профессии

Экспериментальная Llama 3.1 8B, дообученная методом IdkDPO на forget10 из TOFU для изучения удаления запомненных сведений из весов.

195скачиваний за 30 дней0лайковвеса обновлены2 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget10_IdkDPO — дообученная разговорная языковая модель семейства Llama 3.1, созданная на базе open-unlearning/tofu_Llama-3.1-8B-Instruct_full. Её обучили методом IdkDPO на части forget10 набора TOFU в рамках проекта open-unlearning.

Модель предназначена для экспериментов с удалением запомненных сведений из весов и служит базовым вариантом для исследования speculative decoding с unlearning. Она генерирует текст и поддерживает контекст до 131 072 токенов; репозиторий содержит веса в формате safetensors, а карточка указывает интерфейс чата и вызова инструментов.

В README приведены метрики оценки TOFU: exact_memorization — 0,6650, extraction_strength — 0,1348 и forget_Q_A_PARA_Prob — 0,0345. Это экспериментальный исследовательский чекпойнт, поэтому результаты не следует считать гарантией удаления всех сведений или пригодности для обычного применения. Лицензия — Llama 3.1.

Сценарии применения

исследование удаления данных из весов языковой модели
воспроизведение экспериментов на наборе TOFU forget10
оценка запоминания и извлечения забываемых сведений
эксперименты со speculative decoding для unlearning

Ограничения

Экспериментальный чекпойнт для исследований на TOFU; README сообщает метрики, но они сами по себе не подтверждают полное удаление сведений. Языки обучения и оценки в доступных данных не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

tofu_Llama-3.1-8B-Instruct_forget10_IdkDPO

open-unlearning/tofu_Llama-3.1-8B-Instruct_full unlearned on the TOFU forget10 split with IdkDPO, trained with the open-unlearning framework. Used as a weight-unlearning baseline / draft model in the Speculative-Decoding-Unlearning project.

Full training config: .hydra/config.yaml. TOFU evaluation outputs: evals/.

Method hyperparameters

gamma: 1.0
alpha: 2
retain_loss_type: NLL
beta: 0.05

TOFU summary metrics

metric	value
exact_memorization	0.6650
extraction_strength	0.1348
forget_Q_A_PARA_Prob	0.0345
forget_Q_A_gibberish	0.9694
forget_quality	0.0006
forget_truth_ratio	0.6362
mia_loss	0.3663
mia_min_k	0.3333
mia_min_k_plus_plus	0.2953
mia_zlib	0.3540
model_utility	0.3154
privleak	7.5612

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 7a11932

Характеристики

Ссылки

tofu_Llama-3.1-8B-Instruct_forget10_IdkDPO

Бенчмарки

Тесты пользователейпока нет

Добавьте модель в бенчмарк

Опишите свои задачи

Запустите и опубликуйте

Публичные оценки

Что умеет модель

Сценарии применения

Ограничения

Для каких профессий подходит3

Карточка модели

tofu_Llama-3.1-8B-Instruct_forget10_IdkDPO

Method hyperparameters

TOFU summary metrics

Как запустить