Модель Samsung SDS на базе Granite 3.3 2B Instruct классифицирует текстовые запросы как безопасные или содержащие попытку jailbreak.

Подходит для: проверка пользовательских промптов на попытки jailbreak · фильтрация prompt injection перед передачей запроса LLM · выявление атак с подменой формата или ролевой игрой

Дообученная модель Samsung SDS для оценки безопасности запросов и ответов LLM по пяти категориям риска на английском и корейском языках.

Подходит для: проверка запросов к чат-боту на вредоносное содержание · фильтрация ответов языковой модели по категориям риска · выявление угроз приватности в диалогах с ИИ