Модель Vjosa Preniqi классифицирует текст по признаку моральной ценности care («забота»).

Подходит для: оценка выраженности заботы в тексте · классификация высказываний по категории care · анализ моральных ценностей в пользовательских сообщениях

MoralBERT-классификатор оценивает, насколько в тексте выражено моральное основание «чистота/деградация».

Подходит для: оценка выраженности темы чистоты в публикациях соцсетей · поиск моральных мотивов чистоты и деградации в дискуссиях · анализ моральных тем в текстовом корпусе

Дообученная RoBERTa классифицирует текст по десяти категориям моральных добродетелей и пороков для анализа ценностных мотивов и риторики.

Подходит для: анализ морального фрейминга новостных статей · классификация аргументов по моральным основаниям · изучение ценностных мотивов в политических речах

Дообученный классификатор MoralBERT для выявления в тексте моральной темы лояльности и предательства.

Подходит для: Определение упоминаний лояльности и предательства в сообщениях соцсетей · Автоматическая разметка текстов по моральным основаниям · Подготовка данных для анализа социальных дискуссий

Модель классифицирует текст, оценивая, связан ли он с темой лояльности.

Подходит для: определение упоминаний лояльности в тексте · анализ текстов по моральной теме лояльности · разметка текстовых примеров для исследования моральных ценностей

Классификатор текста для выявления содержания, связанного с моральной категорией вреда.

Подходит для: классификация текста по категории морального вреда · поиск упоминаний причинения вреда в текстах · первичная разметка текстовых данных по моральным категориям

Дообученная BERT-модель классифицирует текст по наличию морального измерения справедливости/обмана для анализа социальных дискуссий.

Подходит для: разметка сообщений в соцсетях по теме справедливости или обмана · поиск высказываний о равенстве и несправедливом обращении · анализ моральной тематики в общественных дискуссиях

Компактная BERT-модель преобразует тексты в 384-мерные эмбеддинги для семантического поиска и сравнения смысловой близости.

Подходит для: семантический поиск по коллекции текстов · поиск похожих предложений и абзацев · поиск перефразировок

Модель классифицирует текст по признаку моральной деградации или обесценивания.

Подходит для: поиск высказываний с моральной деградацией в текстах · классификация пользовательских сообщений по признаку degradation · анализ текстов для исследования моральных тем

Дообученный BERT-классификатор для выявления в тексте морального измерения «авторитет/подрыв авторитета».

Подходит для: оценка выраженности подрыва авторитета в сообщениях соцсетей · разметка текстов по моральному основанию Authority/Subversion · анализ моральных нарративов в общественных дискуссиях

Классификатор текста для выявления моральной ценности авторитета.

Подходит для: выявление упоминаний авторитета в тексте · анализ моральной тематики публикаций · разметка текстов по признаку авторитета

Классификатор HarmBench на базе Mistral оценивает сгенерированные ответы на соответствие заданному поведению для валидации и аудита безопасности.

Подходит для: оценка ответа модели на заданное вредоносное поведение · проверка сгенерированных ответов на бенчмарке HarmBench · сравнение генераций с контекстом и без него

Производная модели MoralHazard/GISTsmall. Компактная BERT-модель преобразует тексты в 384-мерные эмбеддинги для семантического поиска и сравнения смысловой близости.

Подходит для: семантический поиск по коллекции текстов · поиск похожих предложений и абзацев · поиск перефразировок

AprielGuard — модель-модератор ServiceNow AI для выявления рисков безопасности контента и атак на LLM, включая prompt injection и jailbreak.

Подходит для: модерация запросов и ответов LLM-ассистента · оценка токсичности, предвзятости и дезинформации · выявление jailbreak и prompt injection

Дообученная англоязычная BERT-модель для классификации текста, название которой указывает на тематику морали и справедливости.

Подходит для: классификация текста по категориям моральных суждений · эксперименты с классификацией текстов о справедливости · извлечение признаков BERT для задач классификации

Специализированная текстовая модель Havenlon для анализа управления исполнением, рисков и политик безопасности ИИ-агентов.

Подходит для: анализ рисков исполнения действий ИИ-агентом · проверка соответствия действий агента политикам · анализ доказательств перед авторизацией операции

Экспериментальная мультимодальная модель Qwen, полученная слиянием нескольких чекпойнтов для профессиональных исследований безопасности ИИ и анализа рисков злоупотребления.

Подходит для: оценка риска содействия преступлениям со стороны ИИ · red teaming мультимодальных языковых моделей · анализ потенциально вредоносных ответов в рамках исследований безопасности

Reward-модель на базе Llama 3.1 8B для оценки безвредности текстовых ответов в сценариях RLHF.

Подходит для: оценка безвредности ответов чат-бота · сравнение кандидатов ответа по безопасности · ранжирование ответов для отбора в RLHF

Vela Hazard — дообученный классификатор текста на ModernBERT для присвоения 12 независимых оценок риска контента.

Подходит для: выявление запросов о самоповреждении · обнаружение языка ненависти в сообщениях · проверка пользовательского текста на дезинформацию

Safiron — дообученная модель Mistral для выявления и объяснения рискованных планов LLM-агентов до выполнения действий.

Подходит для: проверка плана LLM-агента перед выполнением · классификация плана как безопасного или рискованного · определение категории риска в плане агента

ME²-BERT — англоязычная BERT-модель для определения моральных оснований в тексте с учётом событий и эмоций.

Подходит для: классификация новостных абзацев по моральным ценностям · анализ моральных тем в сообщениях Twitter · анализ моральных оснований в обсуждениях Reddit

MD-Judge — дообученная на Mistral-7B модель для оценки безопасности пар вопрос–ответ и анализа ответов языковых моделей.

Подходит для: оценка безопасности ответов чат-бота · классификация пар вопрос–ответ по безопасности · проверка ответов на токсичный или вредоносный контент

Экспериментально изменённая Gemma 2 2B для исследований отказов, интерпретируемости и оценки безопасности поведения языковых моделей.

Подходит для: исследование механизмов отказа языковых моделей · red teaming диалоговых моделей · оценка поведения на вредоносных запросах

Генеративная модель на базе Qwen3Guard-Gen-0.6B для проверки запросов и действий ИИ-агентов на нарушения пользовательских политик с объяснением и идентификаторами нарушенных правил.

Подходит для: проверка пользовательских запросов по правилам безопасности приложения · аудит последовательности действий ИИ-агента и результатов вызова инструментов · выявление конкретных нарушенных пунктов заданной политики