Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
deep-ignorance-unlearned-cb — англоязычная плотная модель GPT-NeoX на 8,8 млрд параметров, созданная полным дообучением EleutherAI/deep-ignorance-unfiltered. Разработана в рамках стипендиальной программы ERA:AI совместно с EleutherAI как контрольная модель для сравнения с чекпойнтами circuit breaker на основе LoRA. Предназначена для генерации текста и исследований защитных механизмов LLM, включая сравнение весов и пилотные линейные пробы.
Модель использует архитектуру GPTNeoXForCausalLM, формат весов safetensors и контекст длиной 2048 токенов. В карточке указано, что обучение было небольшим; атаки на восстановление поведения модели не проводились, поэтому устойчивость защиты не подтверждена. Сведения о лицензии в предоставленных данных отсутствуют.
Сценарии применения
сравнение весов полнопараметрической и LoRA-версий circuit breaker
пилотные линейные пробы представлений модели
исследование защитных механизмов в языковых моделях
генерация текста в исследовательских экспериментах
Ограничения
Модель обучалась ограниченно, а атаки на восстановление поведения не проводились, поэтому эффективность и устойчивость circuit breaker не подтверждены. Предоставленные сведения не содержат лицензионных условий.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Circuit breakers applied to EleutherAI/deep-ignorance-unfiltered with
full-parameter fine-tuning, without LoRA. Trained during the ERA:AI
fellowship in collaboration with EleutherAI, as a control for the
LoRA-based circuit-breaker checkpoints.