II.4Отладка, тестирование и качество ПО

Kanana Safeguard-Prompt — разработанная Kakao модель для обнаружения атак на промпты в сообщениях пользователей диалоговых ИИ-систем. Она основана на собственной языковой модели Kanana 2.1B и предназначена для классификации попыток Prompt Injection и Prompt Leaking. Модель построена на плотной архитектуре семейства Llama, содержит 1,9 млрд параметров, принимает текст и выдаёт метку одним токеном: <SAFE> либо <UNSAFE-A1>, где код обозначает категорию риска. Контекст модели — 8192 токена; для запуска используется Transformers версии 4.51.3 или новее. Модель оптимизирована для корейского и английского языков. В карточке сообщается о высокой точности на внутреннем корейском тестовом наборе, однако численные результаты недоступны. Модель не учитывает историю диалога, может ошибаться, особенно в специфических предметных областях, и выявляет только предусмотренные категорией риски. Лицензия — Apache-2.0.

MinhNghia/Llama-Prompt-Guard-2-86M-vi-v2 — классификатор попыток prompt injection и jailbreak во вьетнамском тексте, дообученный автором MinhNghia на базе meta-llama/Llama-Prompt-Guard-2-86M. Модель использует архитектуру DeBERTa-v2 для классификации последовательностей, принимает текст и выдаёт метку класса с оценкой. Размер по метаданным — 306 млн параметров, контекст — до 512 токенов. Модель предназначена для проверки пользовательских запросов и другого текста перед передачей языковой модели. В README приведены высокие показатели на тестовом наборе, включая F1 для вредоносного класса около 0,995; результаты зависят от данных и не гарантируют обнаружение всех атак. Карточка указывает поддержку вьетнамского и английского языков. Лицензия — Llama 4.

MD-Judge — модель языковой оценки безопасности от OpenSafetyLab, дообученная на базе Mistral-7B. Она классифицирует пары вопрос–ответ, оценивая их безопасность, и предназначена для анализа поведения больших языковых моделей и оценки на наборах тестов безопасности, в том числе в контексте SALAD-Bench. Модель имеет плотную авторегрессионную архитектуру Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык и датасеты ToxicChat, BeaverTails и LMSYS-Chat-1M. Модель выдаёт текстовую оценку в формате генерации; для практического использования её следует применять как классификатор пар вопрос–ответ. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. README отмечает, что разработка модели продолжается.

MiniCPM5-1B-Turkish — чат-модель, опубликованная пользователем thealper2 и созданная на основе openbmb/MiniCPM5-1B. Она предназначена прежде всего для следования инструкциям на турецком языке, диалогов, ответов на вопросы и генерации кода по запросам на турецком языке; поддержка английского языка сохранена. Модель обучена методом полного supervised fine-tuning на 195 876 примерах, включая общие турецкие инструкции, диалоги, задачи программирования и Python-код. Модель использует архитектуру LlamaForCausalLM (MiniCPM5) и содержит 1 080 632 832 параметра. Основной язык — турецкий, дополнительный — английский. Во время обучения использовалась длина последовательности 2048 токенов, тогда как базовая модель заявляет контекст до 131 000 токенов; поэтому характеристики длинного контекста для этой версии не подтверждены. Доступны форматы Transformers и GGUF, включая варианты BF16, Q4_K_M, Q5_K_M и Q8_0, что делает модель подходящей для локального запуска и edge-сценариев. Сильные стороны модели — специализация на турецких инструкциях и кодогенерации, полный fine-tuning и сравнительно небольшой размер, позволяющий запускать её на ограниченных ресурсах. Ограничения включают размер в 1B параметров, возможные галлюцинации и ограниченную фактическую точность; ошибки и особенности синтетических или собранных обучающих данных могли перейти в модель. В отдельных тестах отмечены возможные регрессии в генерации JavaScript-кода и англоязычном программировании. Модель распространяется по лицензии Apache-2.0.

mmBERT-32K Feedback Detector Merged — классификатор пользовательской обратной связи для разговорных ИИ-систем, разработанный llm-semantic-router на базе llm-semantic-router/mmbert-32k-yarn. Модель относит сообщения к четырём категориям: удовлетворённость ответом, просьба о пояснении, указание на ошибочный ответ и запрос другого подхода. Она предназначена для маршрутизации диалогов и мониторинга качества ответов. Это дообученная ModernBERT-модель классификации последовательностей с примерно 307 млн параметров и контекстом до 32 768 токенов. В README заявлена поддержка более 1800 языков, при этом лучшая производительность отмечена для английского, китайского, французского и испанского. Версия содержит объединённые LoRA-веса и не требует PEFT; доступны форматы ONNX и Safetensors. Валидационные метрики из README получены на 2 985 примерах и не гарантируют аналогичного качества на других данных. Модель подходит для определения реакции пользователя и запуска соответствующего сценария в чат-боте или системе поддержки. Распространяется по лицензии Apache-2.0.

mmBERT-32K Jailbreak Detector (Merged) — модель классификации текста для выявления jailbreak-запросов и prompt injection. Она создана на базе llm-semantic-router/mmbert-32k-yarn и дообучена с помощью LoRA; веса адаптера объединены с базовой моделью. Архитектура — ModernBERT, около 306,9 млн параметров, контекст — до 32 768 токенов. Репозиторий содержит форматы ONNX и Safetensors. Модель присваивает тексту одну из двух меток: benign или jailbreak. Её можно применять для проверки пользовательских запросов перед передачей их языковой модели, включая поиск коротких шаблонов атак и prompt injection. В карточке указаны accuracy 98,16%, F1 98,15%, precision 98,36% и recall 97,95%; эти показатели относятся к валидации и зависят от данных и условий оценки. В качестве обучающих наборов указаны LMSYS ToxicChat и OpenSafetyLab Salad-Data; языковой тег карточки — английский. Модель распространяется по лицензии Apache-2.0. Она предназначена для классификации текста по двум меткам; показатели на карточке не гарантируют обнаружение всех атак или отсутствие ложных срабатываний в других сценариях.

Это демонстрационная модель perfecXion.ai на базе amazon/chronos-t5-small, созданная для проверки сканеров безопасности моделей. В основе лежит архитектура T5 для прогнозирования временных рядов; в метаданных указаны 24,1 млн параметров, контекст 512 токенов и форматы SafeTensors, ONNX и GGUF. README приводит другое число параметров — 46,2 млн. Репозиторий предназначен для тестирования обнаружения угроз в разных форматах: вредоносной десериализации pickle, эксплойта в GGUF, скрытого бэкдора в графе ONNX и кода для эксфильтрации данных. README указывает, что веса SafeTensors и стандартная конфигурация чистые. Модель не предназначена для обычного прогнозирования или использования в производстве. Лицензия в метаданных — Apache-2.0.

Qwen3-4B-Instruct-MetaSecAlign — диалоговая языковая модель на архитектуре Qwen3, созданная ttttonyhe как неофициальное воспроизведение рецепта Meta SecAlign++ на базе Qwen/Qwen3-4B-Instruct-2507. Модель дообучена методом DPO с LoRA, чтобы лучше сопротивляться косвенным prompt injection атакам в содержимом инструментов, найденных документах, веб-страницах и письмах. Для работы с недоверенными данными приложение должно передавать их в отдельной роли `input`, сохраняя пользовательские и системные инструкции в соответствующих ролях. Модель принимает текст и выдаёт текст; её контекст составляет до 262 144 токенов, размер — около 3,7 млрд параметров. Доступны объединённые веса и LoRA-адаптер; для инференса в bf16 требуется примерно 9 ГБ видеопамяти. Лицензия — CC BY-NC 4.0. Это исследовательское воспроизведение, а не официальная модель Meta и не готовая защита для промышленной среды. Обучение снижает восприимчивость к prompt injection, но не устраняет её; устойчивость может падать при адаптивных атаках. Разделение ролей помогает только при корректной интеграции: недоверенный текст, помещённый в роль `user`, обходит предусмотренную защиту.

Qwen3.8-27B-Whitehat — мультимодальная модель на 27 млрд параметров, созданная Quadux IT GmbH на основе Qwen/Qwen3.8-27B. Это плотная архитектура семейства Qwen3.5 с поддержкой текста и изображений; опубликованные веса BF16 в формате safetensors предназначены для запуска через Transformers или vLLM и служат эталонной версией для квантованных вариантов. В README для запуска указан контекст до 32 768 токенов. Модель дообучена методом LoRA для авторизованной red-team работы и самооценки уязвимостей. Она рассчитана на анализ скриншотов, разработку и анализ вредоносных программ, реверс-инжиниринг, исследование лицензирования и DRM, а также другие наступательные и защитные задачи компьютерной и сетевой безопасности. Заявлена поддержка диалогов и визуального ввода; в карточке указаны английский и немецкий, а README описывает многоязычное поведение, включая русский. По заявлению разработчика, дообучение меняет поведение, сохраняя общие способности базовой модели, и снимает отказы для задач кибербезопасности, но модель отказывает в запросах о физическом вреде и материалах сексуального насилия над детьми. Разработчик предупреждает, что защита при анализе изображений может обходиться и не должна быть единственным механизмом безопасности; модель не предназначена для открытого доступа недоверенных пользователей. Лицензия — Apache-2.0; применение ограничено авторизованной и законной работой по безопасности.

ShieldLM-14B-qwen — двуязычная модель семейства Qwen, разработанная командой thu-coai на основе Qwen-14B-Chat. Это детектор безопасности, предназначенный прежде всего для выявления проблем в ответах, сгенерированных большими языковыми моделями. Он поддерживает настраиваемые правила проверки и объясняет принятые решения. Модель принимает текст и выдаёт текстовую оценку с объяснением; в каталоге она размечена задачей text-generation. В README заявлены китайский и английский языки, а метаданные указывают 21,8 млрд параметров и контекст до 8192 токенов. В README сообщается о результатах на четырёх тестовых наборах, включая тесты вне обучающего распределения, и сравнении с GPT-4, Llama Guard и Perspective API; конкретные метрики в карточке не приведены. Лицензия — MIT.

Stack-Llama-2 — языковая модель Kashif на архитектуре Llama 2, дообученная методом DPO на данных Stack Exchange. Модель с 6,6 млрд параметров и контекстом до 4096 токенов предназначена для развёрнутых ответов на вопросы по программированию, математике, физике и другим темам Stack Exchange; также подходит для демонстрации генерации ответов в стиле сообщества Stack Exchange. Поддерживает английский язык. Модель может выдавать неверные или вводящие в заблуждение ответы, воспроизводить фрагменты обучающих данных и наследует смещения Llama и Stack Exchange. Ответы следует проверять по внешним источникам; модель не предназначена для замены экспертной оценки. Лицензия — bigscience-openrail-m.

TextPecker-8B-Qwen3VL — мультимодальная модель для оценки визуально отображённого текста, разработанная Ханьшэн Чжу, Юлян Лю и соавторами. Она дообучена на архитектуре Qwen3-VL-8B-Instruct с помощью ms-swift и предназначена для выявления структурных аномалий в тексте на изображениях: искажений, размытия и смещения. Модель оценивает структурное качество и смысловую согласованность текста, созданного при генерации или редактировании изображений. Её можно применять как оценщик и источник вознаграждения для RL-оптимизации генераторов изображений, чтобы улучшать точность отображения текста. Репозиторий содержит веса Safetensors; лицензия — Apache 2.0. Карточка не сообщает отдельные показатели качества или ограничения по поддерживаемым языкам и длине контекста.

Wolf Defender Threat Classifier — мультиязычный классификатор безопасности от Patronus, построенный на архитектуре ModernBERT и базе mmBERT. Он относит входной текст к одному классу угроз, например к попытке переопределить инструкции, получить доступ к секретам или злоупотребить инструментом; карточка также приводит классы для вредоносного или токсичного содержания и доброкачественных запросов. Модель предназначена для проверки промптов, вызовов инструментов и шагов AI-агентов, включая маршрутизацию угроз, мониторинг безопасности и принятие решений о блокировке или необходимости подтверждения. Модель содержит 140,5 млн параметров, принимает текст и поддерживает контекст до 8192 токенов. В карточке указаны немецкий и английский как основные оценённые языки; мультиязычная база позволяет обрабатывать и другие языки, но они не проходили активную проверку. Доступны веса Safetensors и экспорт ONNX FP16. Указанная лицензия — Apache-2.0. В тестировании на отложенной выборке из 4078 примеров указаны точность 0,960 и macro F1 0,925. Положительная классификация указывает на признаки угрозы во входе, но не доказывает, что действие было выполнено; модель не отслеживает поток данных между несколькими шагами агента. Возможны ложные срабатывания и пропуски, поэтому для решений с серьёзными последствиями карточка рекомендует сочетать её с детерминированными правилами и откалиброванными порогами.

Это компактный бинарный классификатор для обнаружения косвенных prompt injection-атак в содержимом, которое LLM-агент получает из файлов, веб-страниц и ответов API во время выполнения задачи. Модель разработана автором репозитория и дообучена на базе microsoft/deberta-v3-small; архитектура — DeBERTa V2 для классификации последовательностей. В метаданных указаны 155 млн параметров, формат safetensors и контекст до 512 токенов. Модель предназначена для фильтрации недоверенных результатов инструментов и защиты контекста агента. В README сообщаются результаты проверки на отложенной выборке: F1 0,968, ROC-AUC 0,995 и полнота 0,950 при доле ложных срабатываний 1%. Эти показатели относятся к указанной выборке и не гарантируют устойчивость к новым атакам. Лицензия — MIT.

Apex 1.5 Coder Instruct 350M — компактная модель для генерации текста и кода по инструкциям, разработанная LH-Tech-AI. Это дообученная на CodeAlpaca версия Apex 1.5 Instruct 350M; по метаданным, модель основана на плотной архитектуре GPT-2 и содержит 350 млн параметров. Она рассчитана на диалоговое использование и несложные задачи на логику и программирование. Модель ориентирована прежде всего на англоязычные запросы. В репозитории доступны форматы GGUF и ONNX; автор также описывает запуск через Ollama и LM Studio. Модель распространяется по лицензии Apache-2.0. Карточка заявляет об улучшениях логики и исправлении ошибок в коде относительно базовой модели, но не приводит количественных оценок качества.

CodeLlama-7B-KStack-GGUF — это локальная GGUF-версия 7-миллиардной языковой модели для генерации и автодополнения программного кода. Модель разработана JetBrains на базе CodeLlama-7B и дообучена на очищенном и отфильтрованном датасете KStack. Квантизация выполнена bartowski с использованием llama.cpp. Модель предназначена исключительно для работы с кодом, прежде всего для генерации Kotlin-кода и использования в качестве помощника в IDE. Модель поддерживает сценарии обычного продолжения кода и FIM-дополнение по префиксу и суффиксу с использованием специальных токенов PRE, SUF и MID; готового шаблона запросов и системного промпта нет. Заявленный результат на MultiPL-HumanEval для Kotlin составляет 29,19% по метрике pass@1. Сильная сторона модели — специализация на Kotlin и возможность локального запуска в формате GGUF, однако она не предназначена для универсального диалога или задач вне программирования, а README не содержит сведений о размере контекста, поддерживаемых языках помимо Kotlin и конкретных вариантах квантизации. Модель распространяется по лицензии Apache-2.0.

Philadelphia Class — производная модель KridgeDookie на основе google/gemma-4-E4B-it, полученная редактированием весов для снижения частоты отказов. Это плотная мультимодальная модель семейства Gemma 4 с архитектурой Gemma4ForConditionalGeneration и примерно 7,94 млрд параметров; опубликована в формате BF16 Safetensors и лицензирована по Apache-2.0. По заявлению автора, на проверенной текстовой тестовой батарее результаты оставались близки к исходной модели, а доля отказов снизилась на внутреннем наборе запросов. Модель предназначена для исследований поведения отказов и редактирования моделей, контролируемого red-team-тестирования, интерпретируемости, творческого письма, программирования и генерации текста. Она сохраняет мультимодальную архитектуру Gemma 4, однако после редактирования проверялись только текстовые сценарии; работу с изображениями и аудио автор не валидировал. Модификация намеренно повышает готовность отвечать на вредоносные запросы, поэтому модель может выдавать опасные инструкции и не подходит для публичного ассистента без независимых средств модерации и контроля.

Модель IBM Research — компактный бинарный классификатор токсичности на базе RoBERTa с 12 слоями и примерно 151,8 млн параметров. Она анализирует текст на английском языке и выдаёт оценку наличия токсичного содержания, включая язык ненависти, оскорбления и ненормативную лексику. Модель предназначена для использования в качестве защитного фильтра при работе с большими языковыми моделями и для проверки текстовых фрагментов. Контекст составляет до 514 токенов. Модель распространяется по лицензии Apache 2.0. В README заявлено превосходство по средней производительности над другими моделями на восьми распространённых бенчмарках токсичности. Возможны ложноположительные и ложноотрицательные срабатывания, особенно на текстах, отличающихся от обучающих данных; классификатор может упускать нюансы смысла и наследовать смещения, характерные для обнаружения токсичности и языка ненависти.

HarmAug-Guard — модель-классификатор для оценки безопасности диалогов с большими языковыми моделями и защиты от попыток обхода ограничений. Она разработана авторами работы HarmAug и предназначена для анализа текста диалога с присвоением класса безопасности. Модель дообучена на DeBERTa-v3-large с применением дистилляции знаний и аугментации данных по методу HarmAug. Она содержит 533,8 млн параметров, использует архитектуру DeBERTaV2ForSequenceClassification и принимает текст длиной до 1024 токенов. В карточке заявлена лицензия Apache-2.0. Модель подходит для фильтрации потенциально небезопасных запросов и проверки диалогов на jailbreak-атаки. README не приводит результатов оценки качества или подробностей о наборах классов; поэтому точность для конкретного сценария и поведение на других языках по имеющимся сведениям определить нельзя.

madhurjindal/Jailbreak-Detector — дообученная модель классификации текста для выявления попыток обхода ограничений и манипуляций в пользовательских запросах к ИИ. Она разработана для защиты языковых моделей, чат-ботов и API-шлюзов, а также для фильтрации контента. Модель присваивает входному тексту одну из двух меток: «Jailbreak» или «Benign»; заявленные сценарии включают обнаружение prompt injection, ролевых эксплойтов, попыток отключить фильтры и скрытых команд. Архитектура указана в метаданных как DistilBERT с классификационной головой; размер — около 280 млн параметров по README, контекст — до 512 токенов. README сообщает о дообучении через AutoTrain и приводит метрики на валидации: F1 0,961 и accuracy 0,976. В карточке есть противоречие: README называет базой Microsoft mDeBERTa-v3-base, тогда как метаданные указывают distilbert/distilbert-base-cased, поэтому точная базовая модель неясна. Язык карточки и тегов — английский; практические результаты могут зависеть от данных и типов атак, представленных при обучении. Лицензия — MIT.

Nemotron 3 Content Safety — мультимодальная модель-классификатор безопасности контента, разработанная NVIDIA на базе Google Gemma 3 4B IT и дообученная на многоязычных и мультимодальных наборах данных по безопасности. Она проверяет текстовый запрос, при необходимости изображение и ответ модели, возвращая текстовые метки безопасности для запроса и ответа, а по запросу — категории нарушений. Модель рассчитана на модерацию входов и ответов языковых и визуально-языковых моделей, работающих с текстом и одним изображением. Модель использует архитектуру Gemma 3 с 4 млрд параметров и визуальный энкодер SigLIP; контекст — до 128 тысяч токенов. Поддерживаются английский, арабский, немецкий, испанский, французский, хинди, японский, тайский, нидерландский, итальянский, корейский и китайский языки. Выход — текстовые метки «safe» или «unsafe» и, при запросе, категории вроде насилия, самоповреждения, угроз, мошенничества и раскрытия персональных данных. Модель дообучена методом LoRA с последующим объединением весов с базовой моделью. NVIDIA указывает, что она готова к коммерческому применению; лицензия в метаданных обозначена как other, поэтому перед использованием следует проверить условия распространения репозитория. Для конкретного применения NVIDIA рекомендует тестирование и валидацию на профильных данных; заявлена оптимизация для систем с GPU NVIDIA.

OpenThinkerAgent-8B-ColdStartSFTForRL — языковая модель для агентных сценариев, разработанная в рамках проекта OpenThoughts-Agent. Это плотная модель Qwen3ForCausalLM на 7,6 млрд параметров, дообученная полным fine-tuning на Qwen/Qwen3-8B с использованием 9 437 примеров из набора OpenThoughts-Agent-SFT-ColdStartForRL-10K. Контекст составляет 40 960 токенов; веса доступны в формате safetensors, в README указана точность bf16. Модель предназначена прежде всего для подготовки к обучению с подкреплением: она усваивает формат взаимодействия агента и соглашения по использованию инструментов из среды terminus-2. Данные обучения включают задачи разработки ПО в песочнице SWE-Smith с проверкой тестами. Модель может генерировать текст и код, однако этот чекпойнт является промежуточной версией до RL, а не готовым автономным агентом; ожидается, что он уступает последующей OpenThinkerAgent-8B-RL. Опубликованных результатов отдельных агентных бенчмарков для него нет. Лицензия — Apache-2.0.

Ornith-1.5-35B-A3B uncensored (MLX) — текстовая диалоговая модель от ressl, полученная абляцией базовой Ornith-1.5-35B-A3B и конвертацией весов в формат MLX. Это сборка bf16 размером около 65 ГБ для запуска на Apple Silicon с помощью mlx-lm; архитектура относится к семейству Qwen3.5 MoE. Хотя базовая модель мультимодальна, в этой сборке используется только текстовый режим. Модель предназначена для генерации ответов в чат-сценариях, исследований безопасности, red teaming и тестирования на проникновение. Абляция заметно снижает частоту жёстких отказов на вредоносных запросах; опубликованные метрики отказов измерялись на родственной сборке NVFP4 с теми же основными весами, а не на этой MLX-сборке. Для MLX автор сообщает локальные проверки на отдельных запросах и проверки связности, но не полный бенчмарк. Модель может выдавать ответы на запросы, которые базовая версия отклоняет, поэтому требует ответственного применения. Лицензия — MIT.

pai-bert-base-zh-llm-risk-detection — дообученная модель Alibaba PAI на архитектуре BERT-base для выявления токсичного контента, сгенерированного большими языковыми моделями. Она классифицирует китайский текст и возвращает предсказанную метку и оценку; модель рассчитана на автоматическую проверку LLM-ответов и фильтрацию потенциально вредного контента. Модель содержит 129,5 млн параметров, использует формат PyTorch и принимает последовательности длиной до 512 токенов. Для запуска доступна интеграция с Transformers pipeline для text-classification. В карточке указана лицензия Apache-2.0. Назначение модели ограничено обнаружением токсичности в китайском тексте; её оценка не заменяет контекстную проверку и может ошибаться на неоднозначных или отличающихся от обучающих данных примерах.

PangolinGuard-Base — дообученная модель-классификатор на базе ModernBERT Base, разработанная для обнаружения вредоносных запросов, в частности prompt injection и jailbreak-атак. Она предназначена для локальной и недорогой защиты AI-агентов и диалоговых интерфейсов от попыток нарушить заданное поведение или извлечь чувствительные данные. Модель построена на архитектуре ModernBERT и содержит 149 млн параметров. Она принимает текст и выполняет классификацию; заявленная длина контекста — 8192 токена. В README описана оценка на наборах NotInject, BIPIA, Wildguard-Benign и PINT, включая проверку склонности к избыточной блокировке безобидных, но неоднозначных запросов. Карточка не приводит численных метрик качества, поэтому пригодность для конкретной системы защиты следует оценивать на её собственных данных. Модель распространяется по лицензии Apache-2.0.

Карточка модели ToxicityPrompts/PolyGuard-Qwen на Hugging Face совпадает с карточкой ToxicityPrompts/PolyGuard-Qwen-Smol, поэтому описание составлено по ней. ToxicityPrompts/PolyGuard-Qwen-Smol — компактная многоязычная модель для модерации безопасности ответов LLM, разработанная авторами PolyGuard. Это плотная авторегрессионная модель семейства Qwen2 с 494 млн параметров и контекстом до 32 768 токенов; репозиторий содержит веса в формате safetensors. В карточке заявлена поддержка 17 языков: арабского, чешского, китайского, нидерландского, английского, французского, немецкого, хинди, тайского, итальянского, японского, корейского, польского, португальского, русского, испанского и шведского. Модель предназначена для оценки безопасности пользовательских запросов и ответов LLM, включая выявление вредоносного или токсичного содержания и отказов в ответе. PolyGuard обучена на PolyGuardMix из 1,91 млн примеров и представлена вместе с набором PolyGuardPrompts для оценки защитных механизмов. По описанию авторов, в проведённых оценках она превзошла другие открытые и коммерческие классификаторы безопасности в среднем на 5,5%. Метаданные указывают задачу text-generation и возможности чата; поэтому её можно применять в текстовых сценариях модерации и защитных цепочках LLM. Лицензия — CC BY 4.0. Карточка не уточняет ограничения по применению и ошибки классификации; результаты модерации следует проверять с учётом языка и контекста, особенно в критичных сценариях.

Qualifire prompt-injection-sentinel — англоязычный классификатор на архитектуре ModernBERT-large, дообученный для обнаружения prompt injection и попыток jailbreak во входных текстах. Он относит запросы к benign или malicious и может служить фильтром перед передачей пользовательского ввода большой языковой модели или частью конвейера модерации и защиты чат-бота. В README приведены результаты оценки на четырёх наборах для обнаружения prompt injection: средний бинарный F1 составляет 93,86; модель превзошла указанный базовый классификатор на всех четырёх тестах. Модель принимает текст и выдаёт метку класса с оценкой. Она не предназначена для генерации текста или общего анализа тональности. Ограничения: возможны ошибки на неоднозначных и творческих запросах; модель не оценивалась на неанглоязычных данных, а результаты могут отражать смещения обучающих наборов. Для значимых решений рекомендуется сочетать её с проверкой человеком или правилами и регулярно проверять на новых типах атак. В метаданных указана лицензия «other»; конкретные условия следует сверить с карточкой модели.

ReasoningShield-3B — специализированная модель модерации от команды ReasoningShield для выявления рисков в промежуточных рассуждениях больших языковых моделей. Она основана на Llama 3.2 3B Instruct и дообучена на парах запросов и цепочек рассуждений; архитектура — плотная LlamaForCausalLM, размер — 3,2 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текстовый анализ и оценку безопасности. Модель предназначена для проверки цепочек рассуждений и ответов на признаки насилия, ненависти и токсичности, обмана и дезинформации, нарушений прав, сексуального контента, эксплуатации детей, киберугроз и других рисков. README заявляет пошаговый анализ риска и средний F1 выше 91% на открытых трассах рассуждений; это результаты авторской оценки, а не гарантия качества на новых данных. Модель ориентирована на английский язык. Доступна под лицензией Apache-2.0.

LLM-LAT/robust-llama3-8b-instruct — диалоговая языковая модель на базе Llama 3, опубликованная организацией LLM-LAT. Модель предназначена для генерации ответов в формате чата и обучена с применением Latent Adversarial Training для повышения устойчивости к jailbreak-запросам. Это плотная авторегрессионная модель класса LlamaForCausalLM примерно на 7,5 млрд параметров, работающая с текстом и имеющая контекст до 8192 токенов. В карточке Hugging Face используется тег text-generation и приведён пример диалогового применения через Transformers. Языковая поддержка и лицензия в доступной карточке не подтверждены, поэтому их нельзя надёжно уточнить. Модель может быть полезна для диалоговых приложений и исследований устойчивости к jailbreak-атакам. Специализация на устойчивости не гарантирует защиту от всех атак или корректность ответов. Карточка не содержит надёжной информации об условиях лицензирования.

SafeEdit-Safety-Classifier — классификатор безопасности текста от ZJUNLP, предназначенный для оценки ответов больших языковых моделей в контексте их детоксикации с помощью редактирования знаний. Модель использует архитектуру RoBERTa и класс RobertaForSequenceClassification; размер составляет 454,1 млн параметров, максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт классификацию, которую можно использовать для проверки ответов LLM на безопасность. Карточка показывает загрузку весов и токенизатора через Transformers. Модель опубликована под лицензией Apache-2.0. Карточка не описывает метки классов, пороги, языки обучения или качество классификации.