Характеристики

Контекст: 131 072 токена
Параметры: 7,5 млрд
Размер весов: 16,1 ГБ
Лицензия: Llama 3.1
Архитектура: llama · dense
Базовая модель: tofu_Llama-3.1-8B-Instruct_full
Библиотека: transformers
Опубликована: 10 сен 2026

Ссылки

Hugging Face

tofu_Llama-3.1-8B-Instruct_forget01_SimNPO

JoaoBoer

Генерация текстаТекст → текст3 профессии

Дообученная Llama 3.1 8B с SimNPO для исследований удаления знаний из языковых моделей.

26скачиваний за 30 дней0лайковвеса обновлены10 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

JoaoBoer/tofu_Llama-3.1-8B-Instruct_forget01_SimNPO — дообученная модель семейства Llama 3.1 с архитектурой LlamaForCausalLM и 7,5 млрд параметров. Её создали на основе open-unlearning/tofu_Llama-3.1-8B-Instruct_full: модель прошла unlearning с помощью SimNPO на части forget01 набора TOFU в рамках open-unlearning.

Модель предназначена для исследований удаления знаний из языковых моделей и служит базовым вариантом с изменёнными весами в проекте Speculative-Decoding-Unlearning. Она генерирует текст и поддерживает диалоговый режим; заявленная длина контекста — 131 072 токена. В README приведены метрики оценки на TOFU, включая exact_memorization 0,7239 и extraction_strength 0,0563.

Модель унаследовала ограничения исходной Llama и экспериментальной процедуры unlearning: удаление знаний не гарантирует полного устранения запоминания или извлечения данных. Лицензия — Llama 3.1; перед применением следует соблюдать её условия и ограничения.

Сценарии применения

оценка методов удаления знаний из LLM
сравнение unlearning на наборе TOFU
исследование извлечения забываемых данных
использование как черновой модели для speculative decoding с unlearning

Ограничения

Удаление знаний не гарантирует полного устранения запоминания или извлечения данных; приведённые метрики относятся к оценке на TOFU. Модель унаследовала условия и ограничения лицензии Llama 3.1.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

tofu_Llama-3.1-8B-Instruct_forget01_SimNPO

open-unlearning/tofu_Llama-3.1-8B-Instruct_full unlearned on the TOFU forget01 split with SimNPO, trained with the open-unlearning framework. Used as a weight-unlearning baseline / draft model in the Speculative-Decoding-Unlearning project.

Full training config: .hydra/config.yaml. TOFU evaluation outputs: evals/.

Method hyperparameters

gamma: 0.125
alpha: 1
retain_loss_type: NLL
delta: 1
beta: 3.5

TOFU summary metrics

metric	value
exact_memorization	0.7239
extraction_strength	0.0563
forget_Q_A_PARA_Prob	0.0729
forget_Q_A_gibberish	0.9259
forget_quality	0.9188
forget_truth_ratio	0.6905
mia_loss	0.8072
mia_min_k	0.8000
mia_min_k_plus_plus	0.5394
mia_zlib	0.7187
model_utility	0.6254
privleak	-60.0000

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: caabb5f

Характеристики

Ссылки

tofu_Llama-3.1-8B-Instruct_forget01_SimNPO

Бенчмарки

Тесты пользователейпока нет

Добавьте модель в бенчмарк

Опишите свои задачи

Запустите и опубликуйте

Публичные оценки

Что умеет модель

Сценарии применения

Ограничения

Для каких профессий подходит3

Карточка модели

tofu_Llama-3.1-8B-Instruct_forget01_SimNPO

Method hyperparameters

TOFU summary metrics

Как запустить