Mila-Suicide-Prevention-Output-Guardrail
mila-ai4h·Классификация текста
Англоязычный BERT-классификатор для выявления поощрения суицида и самоповреждения в ответах языковых моделей.
Подходит для: Фильтрация ответов чат-бота на поощрение суицида · Проверка ответов ассистента на инструкции по самоповреждению · Встраивание профильного фильтра в многоуровневую систему безопасности
Загрузки на Hugging Face · 2 219Лайки · 1Контекст · 512 токеновВыход на Hugging Face · 4 авг 2026