Модель Guardrails AI и Joseph Catrambone предназначена для обнаружения атак насыщением (saturation jailbreak) в текстовых запросах. Это небольшая модель классификации последовательностей на архитектуре BERT, созданная на основе bert-tiny и объединённая с google-bert/bert-base-uncased. Она рассчитана на английский язык и может служить предварительным фильтром в составе многоуровневой защиты ML-систем.

Модель не предназначена для самостоятельного обнаружения других типов jailbreak-атак. В метаданных указаны 4,4 млн параметров и контекст до 512 токенов. Лицензия обозначена как ограничительная; условия следует проверить в карточке модели перед использованием.