Экспериментальная 117,5-миллиардная модель на базе Llama 2 Chat для генерации текста и ответов на инструкции.

Подходит для: ответы на инструкции и запросы пользователя · генерация текста в диалоговом интерфейсе · эксперименты с крупными языковыми моделями

Классификатор на базе DistilBERT выявляет скрытые косвенные prompt injection-инструкции в документах и веб-содержимом перед передачей их LLM.

Подходит для: проверка фрагментов RAG на скрытые инструкции · обнаружение prompt injection на веб-страницах для LLM-агентов · сканирование документов перед обработкой системой вопросов и ответов

Классификатор DistilBERT выявляет англоязычные jailbreak-запросы для фильтрации prompt injection в приложениях на базе LLM.

Подходит для: фильтрация jailbreak-запросов перед передачей текста LLM · обнаружение DAN-промптов и попыток включить режим без ограничений · выявление подмены роли и инструкций игнорировать правила

Классификатор DistilBERT выявляет англоязычные атаки с внедрением промптов во входных данных для LLM.

Подходит для: фильтрация пользовательских запросов перед передачей в LLM · обнаружение попыток переопределить системные инструкции · выявление запросов на извлечение системного промпта

Дообученный классификатор DistilBERT выявляет опасные инъекционные полезные нагрузки в текстовом выводе LLM.

Подходит для: проверка ответов LLM на XSS перед показом пользователю · обнаружение SQL-инъекций в сгенерированном коде и запросах · фильтрация командных инъекций в выводе языковой модели