WildGuard — англоязычная модель модерации для выявления вредных запросов и ответов LLM, а также оценки отказов.

Подходит для: выявление вредоносных запросов пользователей к LLM · модерация ответов языковой модели · определение отказов LLM от ответа

Warlock — диалоговая текстовая модель Audn на базе GLM-5.3 с изменёнными весами для авторизованного red-team-тестирования и исследований безопасности.

Подходит для: проверка устойчивости моделей к вредоносным запросам · оценка поведения системы при снижении частоты отказов · red-team-тестирование диалоговых ассистентов

Англоязычная модель Walled AI для бинарной оценки безопасности запросов и ответов языковых моделей.

Подходит для: проверка безопасности пользовательских запросов к чат-боту · модерация ответов языковой модели · фильтрация потенциально небезопасных сообщений в диалоге

Экспериментальная диалоговая модель на основе Llama 3 Instruct с удалённой защитной цепью, предназначенная для генерации текста и оценки ослабления защитных механизмов.

Подходит для: генерация ответов в диалоговом интерфейсе · исследование влияния удаления защитного механизма на ответы LLM · оценка устойчивости отказов на тестовых запросах

Дообученная LoRA на Qwen2.5-3B-Instruct модель генерации текста для экспериментального исследования поведения обхода ограничений и безопасности LLM.

Подходит для: изучение реакций языковых моделей на запросы обхода ограничений · анализ поведения LLM при ослабленных ограничениях · исследование безопасности и выравнивания чат-моделей

TRACE-Mix — дообученная чат-модель для многошагового red-team-тестирования устойчивости языковых моделей к jailbreak-атакам.

Подходит для: многошаговая проверка чат-моделей на устойчивость к jailbreak · генерация состязательных запросов для авторизованной оценки безопасности ИИ · сравнение устойчивости разных целевых моделей к диалоговым атакам

Дообученная на данных ALFWorld модель Qwen2.5-7B для генерации текста в сценариях взаимодействия с виртуальной средой.

Подходит для: генерация текстовых действий и ответов в сценариях ALFWorld · эксперименты с агентами, выполняющими задания в виртуальной среде · исследование применения языковых моделей для пошагового взаимодействия со средой

Компактная англоязычная модель Welmia, обученная с нуля для генерации текста и выполнения инструкций в локальной среде.

Подходит для: локальный запуск генерации текста на CPU · прототипирование моделей, следующих инструкциям · эксперименты с обучением малых языковых моделей

Производная модели zemelee/qwen2.5-jailbreak. Дообученная LoRA на Qwen2.5-3B-Instruct модель генерации текста для экспериментального исследования поведения обхода ограничений и безопасности LLM.

Подходит для: изучение реакций языковых моделей на запросы обхода ограничений · анализ поведения LLM при ослабленных ограничениях · исследование безопасности и выравнивания чат-моделей

Текстовая сборка Qwen-AgentWorld в MLX для Apple Silicon моделирует среды и предсказывает наблюдения после действий агента.

Подходит для: предсказание вывода команд Linux · симуляция состояний текстового окружения после действия агента · моделирование взаимодействия с пользовательским интерфейсом

Модель Samsung SDS на базе Granite 3.3 2B Instruct классифицирует текстовые запросы как безопасные или содержащие попытку jailbreak.

Подходит для: проверка пользовательских промптов на попытки jailbreak · фильтрация prompt injection перед передачей запроса LLM · выявление атак с подменой формата или ролевой игрой

Многоязычный классификатор на базе XLM-RoBERTa для обнаружения prompt injection в текстах, поступающих в приложения с LLM.

Подходит для: проверка пользовательского ввода на prompt injection · фильтрация атакующих инструкций перед передачей текста LLM · классификация текста как безопасного или содержащего инъекцию

Дообученная Qwen2.5-7B-Instruct с ослабленным механизмом отказа для диалоговой генерации текста и исследований поведения защитных механизмов.

Подходит для: исследование механизмов отказа языковых моделей · анализ влияния удаления направления отказа на ответы модели · диалоговая генерация текста

Небольшая диалоговая языковая модель model-raising для исследований выравнивания поведения, конституционной безопасности и устойчивости к jailbreak-запросам.

Подходит для: исследование конституционного выравнивания ответов · проверка обобщения ценностей в диалогах · эксперименты с устойчивостью к jailbreak-запросам

Компактная многоязычная модель Walled AI для выявления небезопасных запросов и jailbreak-атак в диалогах с LLM.

Подходит для: проверка пользовательских запросов на запрещённое содержание · обнаружение jailbreak-попыток в диалогах с чат-ботом · проверка ролевых сценариев и попыток убеждения обойти защиту