/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,1 млрд
Размер весов
15,2 ГБ
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Библиотека
transformers
Опубликована
26 мая 2025

DeepSeek-R1-Distill-Qwen-7B-SP

Генерация текстаТекст → текст3 профессии

SAFEPATH-R-7B — дообученная модель рассуждений на базе DeepSeek-R1-Distill-Qwen-7B для исследований выравнивания безопасности и устойчивости к jailbreak-атакам.

68скачиваний за 30 дней0лайковвеса обновлены27 мая 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SAFEPATH-R-7B — модель рассуждений, созданная авторами SAFEPATH на основе DeepSeek-R1-Distill-Qwen-7B. Она дообучена методом prefix-only safety priming: в начало блока рассуждений добавляется фраза «Let's think about safety first», чтобы побуждать модель учитывать безопасность. Разработчики сообщают о снижении числа вредоносных ответов и устойчивости к jailbreak-атакам при сохранении результатов на MATH500, GPQA и AIME24; дообучение выполнено за 100 шагов.

Модель предназначена для исследований выравнивания безопасности больших моделей рассуждений и проверки рассуждений в состязательных условиях. Это плотная языковая модель Qwen2 с 7,1 млрд параметров, работающая с текстом и имеющая контекст до 131 072 токенов. Она поддерживает генерацию текста и диалоговый режим. Лицензия — Apache-2.0. Заявленные улучшения безопасности основаны на оценках авторов и не гарантируют безопасного поведения во всех ситуациях.

Сценарии применения

  • исследование выравнивания безопасности моделей рассуждений
  • оценка устойчивости языковой модели к jailbreak-атакам
  • сравнение безопасного поведения моделей на тестах вредоносных запросов
  • изучение влияния safety priming на качество рассуждений

Ограничения

Заявления об улучшении безопасности и сохранении качества основаны на оценках авторов; они не гарантируют устойчивость ко всем вредоносным запросам и атакам. README описывает исследовательское назначение модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SAFEPATH-R-7B

This model is the SAFEPATH-aligned version of DeepSeek-R1-Distill-Qwen-7B, fine-tuned using prefix-only safety priming.

Model Description

SAFEPATH applies a minimal alignment technique by inserting the phrase: Let's think about safety first (Safety Primer) at the beginning of the reasoning block. This encourages the model to engage in safer reasoning without reducing its reasoning performance.

  • 🔐 Improved Safety: Reduces harmful outputs (e.g., StrongReject, BeaverTails) and is robust to jailbreak attacks
  • 🧠 Preserved Reasoning: Maintains accuracy on MATH500, GPQA, and AIME24
  • ⚡ Efficiency: Fine-tuned with only 100 steps

Intended Use

This model is intended for research in:

  • Safety alignment in Large Reasoning Models (LRMs)
  • Robust reasoning under adversarial settings
  • Chain-of-thought alignment studies

For details, see our paper.

Overview Results

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
b61e439

0 моделей