/ Модель

Характеристики

Контекст
262 144 токена
Параметры
1,7 млрд
Архитектура
qwen3_5_text · dense
Базовая модель
Qwen3.5-2B
Библиотека
transformers
Опубликована
4 сен 2026

qwen3.5-2b-snmf-baseball

Генерация текстаТекст → текст3 профессии

Экспериментальный чекпойнт Qwen3.5-2B с методом SNMF для ослабления знаний о бейсболе и исследования unlearning.

121скачиваний за 30 дней0лайковвеса обновлены4 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это экспериментальный чекпойнт, созданный дообучением Qwen/Qwen3.5-2B методом SNMF для подавления знаний о бейсболе. Модель основана на плотной архитектуре Qwen3.5 с 1,7 млрд параметров; репозиторий содержит веса Safetensors для Transformers. Метаданные указывают контекстное окно 262 144 токена и поддержку диалогового режима. В карточке заявлен английский язык.

Чекпойнт предназначен для изучения unlearning — целенаправленного удаления или ослабления знаний о выбранной теме. В тестовой оценке после unlearning эффективность составила 0,488, специфичность — 0,475, а их гармоническое среднее — 0,482; точность ответов на вопросы о целевой теме снизилась с 0,66 до 0,46. Эти результаты указывают на заметное, но неполное подавление темы, поэтому модель не следует считать надёжно лишённой соответствующих знаний. Лицензия в предоставленных данных не указана.

Сценарии применения

  • исследование удаления знаний о бейсболе из языковой модели
  • оценка эффективности unlearning методом SNMF
  • сравнение ответов базовой и unlearned-моделей на вопросы о бейсболе

Ограничения

Подавление знаний неполное: тестовая эффективность составляет 0,488, а точность ответов о целевой теме после unlearning — 0,46. Чекпойнт представлен как эксперимент для исследования unlearning, а не как гарантия полного удаления знаний.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Unlearned Checkpoint

FieldValue
Unlearning methodSNMF
Base modelQwen/Qwen3.5-2B
Target conceptBaseball
Checkpoint typeFull Model Weights
Rank / seed100 / 42
Train eval protocolmc

Unlearning Configuration

Selected hyperparameters (from unlearned_checkpoints.json):

ParameterValue
coverage_thresh0.95
delta_embed0
delta_in7
delta_out1
feature_sourceall
k_features_embed0
k_features_mlp_in25
k_features_mlp_out25
layer_hi_in7
layer_hi_out7
layer_lo_in0
layer_lo_out0
n_tokens_edited0
ratio_thresh2
w_modeboth

Primary Unlearning Metrics (held-out test, MC protocol)

Headline scores used for checkpoint selection:

MetricTrain (after unlearning)Test (after unlearning)
Efficacy0.5420.488
Specificity0.5530.475
Harmonic mean0.5480.482
Relearning QA (MC)—0.56

Full Evaluation (baseline → unlearned)

From evaluation/score_comparison.csv:

MetricBaseline (train)After unlearn (train)Baseline (test)After unlearn (test)
QA accuracy0.840.520.660.46
QA fraction10.45810.512
SimDom accuracy0.620.40.660.38
SimDom fraction10.40510.317
MMLU accuracy0.560.520.5880.571
MMLU fraction10.87110.95

Files in This Repository

FileDescription
unlearned_checkpoints.jsonCheckpoint metadata & hyperparameters
evaluation/evaluation_summary.jsonFull evaluation payload (train/test/relearning)
evaluation/score_comparison.csvBaseline vs. unlearned comparison table

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3_5ForCausalLM
Ревизия весов
a36fe90

0 моделей