Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Qwen2.5-1.5B-Abliterated — экспериментальная демонстрационная языковая модель, созданная Jaswanth Sanjay на основе Qwen/Qwen2.5-1.5B-Instruct. Она предназначена для учебных демонстраций representation engineering и удаления поведенческих ограничителей методом abliteration: веса ортогонализованы относительно целевого подпространства, связанного с residual write projections 16-го слоя. Модель имеет плотную архитектуру Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса safetensors и вариант GGUF F16; модель принимает текст и генерирует текст в диалоговом формате. В карточке заявлен английский язык.
Модель подходит для изучения того, как поведенческие ограничения согласованных языковых моделей связаны с линейными подпространствами в residual stream трансформера. Для калибровки использовались выборки AdvBench harmful и Alpaca cleaned. Это учебный артефакт для демонстрации метода, а не свидетельство надёжного или безопасного поведения в прикладных сценариях. Лицензия в предоставленных данных не указана.
Сценарии применения
демонстрация abliteration на компактной языковой модели
изучение влияния ортогонализации весов на поведение модели
учебный анализ поведенческих ограничителей в трансформерах
эксперименты с генерацией диалогового текста на английском языке
Ограничения
Это учебная демонстрация метода, поэтому её поведение и качество не следует считать надёжными для прикладного использования; изменение ограничителей может приводить к небезопасным ответам. Лицензия в предоставленных данных не указана.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
This model is an educational demonstration of representation engineering and activation ablation (abliteration), based on the methodology described by Arditi et al. (2024).
Calibration Datasets: Sampled from AdvBench harmful and Alpaca cleaned datasets
Academic Purpose
Created for university demonstrations illustrating how behavioral guardrails in aligned models map onto linear subspaces in transformer residual streams.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров