Дообученная англоязычная чат-модель для демонстрационных диалогов на тему психического здоровья.
Подходит для: создание демонстрационного чат-бота о психическом здоровье · эксперименты с диалоговой моделью для консультационной тематики · дальнейшее дообучение модели на тематических диалогах
Двуязычная модель ChatGLM для выявления и объяснения проблем безопасности в текстовых ответах языковых моделей.
Подходит для: Проверка ответов чат-бота на нарушения правил безопасности · Классификация небезопасных генераций LLM · Объяснение причин срабатывания проверки безопасности
Двуязычная модель для обнаружения нарушений безопасности в ответах LLM с настраиваемыми правилами и объяснениями.
Подходит для: проверка ответов чат-бота на нарушения правил безопасности · фильтрация небезопасных генераций языковой модели · классификация текста по настраиваемым правилам безопасности
Vela Shield — многоязычный ModernBERT-классификатор для выявления вредоносных запросов, prompt injection, jailbreak и рисков в ответах LLM.
Подходит для: фильтрация небезопасных запросов к языковой модели · выявление prompt injection и jailbreak · классификация запросов по категориям угроз
Многоязычный классификатор безопасности текста для выявления вредных запросов и ответов, категорий риска и атак prompt injection или jailbreak.
Подходит для: проверка пользовательских запросов на вредоносность · классификация запросов по 34 категориям риска · выявление prompt injection и jailbreak
ShieldLM-14B-qwen — двуязычный детектор безопасности, который проверяет ответы языковых моделей по настраиваемым правилам и объясняет свои решения.
Подходит для: проверка ответов LLM на нарушения правил безопасности · модерация сгенерированного текста на китайском и английском · выявление небезопасных ответов чат-ботов
safetensors: формат, квантизация, runtime и память принадлежат одному artifact
Shield 82M — дообученная RoBERTa-модель для обнаружения и маскирования персональных данных в тексте.
Подходит для: маскирование имён, адресов электронной почты и телефонов в тексте · фильтрация PII перед передачей текста внешним сервисам · обезличивание текстовых данных для хранения и анализа
Небольшая дообученная модель T5 для бинарного обнаружения prompt injection во входном тексте.
Подходит для: проверка пользовательского запроса на prompt injection · фильтрация подозрительных инструкций перед отправкой в LLM · разметка текста как безопасного или содержащего prompt injection
Двуязычная модель Baichuan2 для выявления нарушений безопасности в ответах LLM и объяснения результатов проверки.
Подходит для: проверка ответов чат-бота на небезопасное содержание · обнаружение нарушений настраиваемых правил безопасности · модерация генераций больших языковых моделей
Дообученный классификатор DeBERTa для обнаружения prompt injection, jailbreak и других атак во входных запросах к LLM.
Подходит для: фильтрация запросов к корпоративной LLM · обнаружение косвенных prompt injection-атак · выявление попыток jailbreak