II.11Кибербезопасность и приватность

NAMAA-Space/Ara-Prompt-Guard_V1 — классификатор, дообученный NAMAA-Space на базе meta-llama/Llama-Prompt-Guard-2-86M для выявления вредоносных запросов на арабском языке. Модель относит входной текст к безопасному или небезопасному классу и предназначена для проверки пользовательских запросов перед передачей их LLM. Её можно применять для обнаружения prompt injection и jailbreak, модерации запросов и как дополнительный защитный слой в арабоязычных интерфейсах и API на базе LLM. Модель построена на архитектуре DeBERTa-v2 для классификации последовательностей, содержит 306 млн параметров и поддерживает контекст до 512 токенов. В README описан датасет дообучения с 13 000 специально собранных арабских примеров и переведёнными примерами атак. Количественные результаты оценки не приведены, а утверждение о превосходстве над другими моделями не подтверждено метриками. Лицензия — Apache-2.0.

Модель Мукита Махдина — дообученная версия microsoft/codebert-base для классификации фрагментов кода на безопасные и потенциально уязвимые. Она основана на RoBERTa, содержит 151,8 млн параметров и принимает последовательности длиной до 514 токенов. Модель предназначена для поиска уязвимостей в коде C и C++ и может применяться при статическом анализе, проверках репозиториев, в плагинах IDE и конвейерах CI/CD. Результат классификации: безопасный код (0) или уязвимый (1). В качестве обучающего набора использовался DetectVul/devign. В README приведена точность 64,09% на оценивании. Возможны ложные срабатывания и пропуски уязвимостей; обучение на ограниченном наборе данных может снижать качество на иных типах кода и языках программирования. Модель не заменяет экспертный аудит и другие средства анализа безопасности. Лицензия — MIT.

GA-Guard-AIO-GGUF — набор открытых моделей модерации в формате GGUF, опубликованный prithivMLmods на основе моделей GeneralAnalysis: GA_Guard_Core, GA_Guard_Thinking и GA_Guard_Lite. Модели предназначены для разработчиков и организаций, которым требуется выявлять нарушения политик безопасности и соответствия в текстовых запросах и сообщениях. Модели классифицируют семь категорий риска: незаконная деятельность, язык вражды и оскорбления, персональные данные и интеллектуальная собственность, безопасность промптов, сексуальный контент, дезинформация, а также насилие и самоповреждение. Они генерируют структурированные специальные токены по каждой категории, например <policy_violation> и <policy_not_violation>. Для корректной работы требуется использовать chat template модели и декодировать результат с skip_special_tokens=False; стандартный pipeline("text-generation") может удалять необходимые токены. GA_Guard_Core и GA_Guard_Thinking имеют около 4 млрд параметров, 36 слоёв, GQA-внимание и контекст до 262 144 токенов. В набор также входит GA_Guard_Lite заявленного размера 0,6 млрд параметров, однако README содержит противоречивое утверждение о размере всех вариантов. Модели ориентированы на модерацию длинного контекста и устойчивость к jailbreak-атакам и prompt injection; приведены высокие результаты на нескольких бенчмарках, включая GA Jailbreak Benchmark и GA Long-Context Bench, но независимая проверка этих заявлений необходима. Указана лицензия Apache-2.0. В README заявлен только английский язык, поэтому возможности для других языков не подтверждены.

Mungert/gpt-oss-safeguard-20b-GGUF — это GGUF-квантизированная версия модели gpt-oss-safeguard-20b, разработанной OpenAI и преобразованной с помощью llama.cpp. Модель предназначена для задач безопасности: классификации текстового контента по заданным пользователем политикам, фильтрации входов и выходов LLM, разметки онлайн-контента и офлайн-сценариев Trust and Safety. Модель основана на gpt-oss и использует архитектуру Mixture of Experts. Она содержит около 21 млрд параметров, из которых активно используется около 3,6 млрд, и может работать на GPU с 16 ГБ VRAM. Поддерживает настраиваемый уровень рассуждений — low, medium или high — для баланса между качеством и задержкой. Модель обучена работать в формате ответов harmony и, согласно карточке, может работать некорректно без него. Она интерпретирует текстовую политику безопасности, что позволяет адаптировать её к разным продуктам и сценариям без значительной дополнительной инженерной настройки. Сильными сторонами являются специализированное рассуждение о безопасности, объяснимые решения с доступом к процессу рассуждений и возможность выбора уровня вычислительных затрат. GGUF-версия использует экспериментальный подход к квантизации с повышением точности отдельных важных слоёв, что увеличивает размер файла, но может улучшать точность при низкой разрядности, особенно для MoE-моделей. Ограничения включают узкую ориентацию на сценарии безопасности, необходимость применения harmony-формата и то, что необработанный процесс рассуждений предназначен для разработчиков и специалистов по безопасности, а не для показа обычным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование без copyleft-ограничений.

Granite Guardian 3.0 8B — языковая модель IBM Research, дообученная на базе Granite 3.0 8B Instruct для выявления рисков в запросах пользователей и ответах моделей. Она помогает обнаруживать вредоносный контент, социальную предвзятость, попытки обхода защит, насилие, ненормативную лексику, сексуальный контент и неэтичное поведение, а также оценивать релевантность контекста, обоснованность ответа и соответствие ответа запросу в RAG-системах. Модель имеет плотную архитектуру GraniteForCausalLM, содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. На вход подаются текстовые сообщения и, для проверок RAG, контекст с ответом; модель генерирует ответ «да» или «нет» для заданного измерения риска. Обучение проводилось на данных с человеческой разметкой и синтетических данных. Модель рассчитана на английский язык и сценарии умеренных требований к стоимости, задержке и пропускной способности, например мониторинг и выборочную проверку результатов моделей. Лицензия — Apache 2.0.

Granite Guardian 3.2 3B-A800M — модель IBM Research, дообученная на базе Granite 3.2 3B-A800M Instruct для выявления рисков в запросах пользователей, ответах моделей и диалогах. Она предназначена для использования в качестве защитного фильтра, а также для проверки релевантности контекста, обоснованности ответов и корректности вызовов функций в RAG- и агентных системах. Модель построена на архитектуре Granite MoE с причинным языковым моделированием и содержит 352,3 млн параметров; контекст — до 131 072 токенов. Для оценки заданного риска она выдаёт ответ «да» или «нет» по предусмотренному шаблону. Поддерживаемые проверки включают вредоносное содержание, предвзятость, jailbreak, насилие, ненормативную лексику, сексуальный контент, неэтичное поведение, уклончивость, релевантность и обоснованность ответов, а также галлюцинации при вызове функций. Модель обучалась и тестировалась только на английских данных. IBM указывает, что модель следует использовать в предусмотренном режиме оценки: отклонение от шаблона может приводить к неожиданным или небезопасным результатам, а модель уязвима к состязательным атакам. Для пользовательских определений риска необходимы отдельные испытания. Лицензия — Apache 2.0.

Husky Paw Tool Action Classifier — мультиязычный классификатор Patronus на базе ModernBERT (mmBERT), дообученный определять тип операции в текстовом запросе к инструменту. Он относит запрос к одному классу, например read, write, list или exec, и предназначен для маршрутизации оценки риска, контроля выполнения, рабочих процессов согласования и мониторинга действий AI-агентов. Модель содержит 140,5 млн параметров, принимает текст с контекстом до 8192 токенов; доступны веса Safetensors и экспорт ONNX. Основные проверенные языки — немецкий и английский, а мультиязычная базовая модель позволяет обрабатывать и другие языки, хотя они не проходили активную проверку. На тестовой выборке из 2914 примеров заявлены accuracy 0,946 и macro F1 0,937. Предсказание указывает на предполагаемое действие в тексте, но не подтверждает его фактическое выполнение; модель также не отслеживает передачу данных между шагами агента. Возможны ложноположительные и ложноотрицательные результаты, поэтому для решений с серьёзными последствиями рекомендуется сочетать её с детерминированными правилами и калиброванными порогами. Лицензия — Apache-2.0.

Llama Guard 4 — мультимодальный классификатор безопасности от Meta с 12 млрд параметров. Это плотная модель на базе Llama 4 Scout: архитектуру Scout преобразовали из MoE в dense pruning, затем дообучили для классификации контента по категориям опасностей MLCommons. Модель принимает текстовые запросы и ответы, а также смешанные входы с несколькими изображениями, и возвращает текстовую метку безопасности с указанием нарушенных категорий. Модель предназначена для фильтрации пользовательских запросов до передачи генеративной модели и для проверки её ответов перед показом пользователю. Она поддерживает английский и мультиязычный текст, а также понимание изображений в сочетании с текстом; карточка указывает английский язык. Модель доступна в формате Safetensors и используется через Transformers. Лицензия обозначена как other; конкретные условия следует сверять с карточкой модели Meta. Ограничения связаны с данными обучения и охватом политик: качество может снижаться для оценок, требующих актуальных знаний, включая диффамацию, интеллектуальную собственность и выборы. Проверки в основном проводились на входах с несколькими изображениями, обычно около трёх; при большем их числе качество может меняться. Модель также уязвима к состязательным воздействиям и prompt injection.

Merlin — компактная локальная модель-классификатор на базе DeBERTa-v3-xsmall, дообученная для оценки вызовов инструментов ИИ-агентов. Она анализирует запрос пользователя, нормализованную историю взаимодействия, имя инструмента с аргументами и описание его схемы, а затем классифицирует предполагаемое действие как безопасное или небезопасное. Входные поля обрабатываются с отдельными бюджетами токенов в последовательности длиной до 512 токенов; размер модели в метаданных — 77,5 млн параметров. Модель предназначена для локальной низколатентной проверки вызова инструмента перед его выполнением, в том числе для выявления небезопасного использования инструментов и prompt injection в контексте действий агента. В описанной оценке на TS-Bench F1 составил 90,51% в целом, но результаты существенно различались между наборами: 99,72% на ASB-Traj и 51,00% на AgentDojo-Traj. Поэтому общая метрика не отражает равномерного качества в разных средах. Merlin не является полноценным механизмом авторизации, универсальным модератором контента или единственным контролем для действий с высокими последствиями. Качество зависит от указанного формата представления входных данных и предварительной обработки; для других условий требуется отдельная оценка. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.

bbanany разработал дообученную модель на базе Qwen2.5-3B-Instruct для классификации фрагментов-кандидатов в ответах корейской RAG-системы: модель определяет, содержит ли фрагмент персональные данные (PII) или не содержит их (NOT_PII). Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров и контекстом до 32 768 токенов; основное назначение — проверка и фильтрация ответов перед выдачей пользователю. Модель обучена методом QLoRA с 4-битной NF4-квантизацией, после чего адаптер объединён с базовой моделью и сохранён в FP16 Safetensors. Репозиторий также содержит LoRA-адаптер. Корейский язык указан как целевой; для загрузки объединённых весов не требуются PEFT или bitsandbytes, поддерживаются CUDA и Apple Silicon MPS. Классификатор выдаёт только два класса. Данные обучения преимущественно синтетические и ориентированы на рабочие контексты, поэтому поведение на реальных документах, новых тегах и языковых вариантах нужно отдельно проверять. Модель не предназначена для юридического установления факта обработки персональных данных. Лицензия указана как other, конкретные условия в доступных сведениях не раскрыты.

Qwen3Guard-Gen-4B — генеративная модель модерации безопасности от команды Qwen, дообученная на базе Qwen3-4B. Она рассматривает классификацию безопасности как задачу следования инструкциям и предназначена для оценки пользовательских запросов и ответов модели. Модель относит содержимое к уровням safe, controversial и unsafe и выявляет такие категории риска, как насилие, незаконные действия, сексуальный контент, раскрытие персональных данных, самоповреждение, неэтичное поведение, политически чувствительная дезинформация, нарушение авторских прав и попытки jailbreak во входных запросах. Модель имеет плотную архитектуру Qwen3ForCausalLM и около 3,7 млрд параметров; заявленная длина контекста — 32 768 токенов. В карточке заявлена поддержка 119 языков и диалектов и высокая эффективность на задачах классификации запросов и ответов, включая английский, китайский и многоязычные сценарии. Она принимает текст и выдаёт текстовую классификацию, поэтому подходит для включения в конвейеры модерации и проверки безопасности диалоговых систем. Модель распространяется по лицензии Apache-2.0. Оценки зависят от контекста и принятой политики безопасности; уровень controversial специально отражает неоднозначные случаи. Карточка не приводит подробных ограничений точности для отдельных языков или категорий.

Qwen3Guard-Gen-8B-GGUF — GGUF-версия генеративной модели модерации безопасности Qwen3Guard-Gen-8B, разработанной командой Qwen на базе Qwen3-8B. Представленная сборка подготовлена с использованием llama.cpp; в ней применён вариант квантования с повышением точности отдельных важных слоёв, что должно улучшать качество при заданном уровне квантования ценой увеличения размера файла. Модель предназначена для классификации пользовательских запросов и ответов языковых моделей по уровню безопасности. Она формулирует классификацию как задачу следования инструкциям и определяет один из трёх уровней: Safe, Controversial или Unsafe. Также модель может выявлять категории риска, включая насилие, незаконные действия, сексуальный контент, персональные данные, суицид и самоповреждение, неэтичные действия, политически чувствительные темы, нарушение авторских прав и попытки jailbreak. Поддерживаются 119 языков и диалектов, что делает модель пригодной для многоязычной модерации и проверки ответов в глобальных приложениях. Ключевые ограничения связаны с тем, что это именно модель классификации безопасности с генеративным интерфейсом, а не универсальная диалоговая модель. Качество и скорость зависят от выбранного формата GGUF, уровня квантования и оборудования; повышение точности отдельных слоёв увеличивает размер модели. Максимальный контекст и другие эксплуатационные характеристики в карточке не указаны. Модель распространяется по лицензии Apache 2.0.

ShieldLM-7B-internlm2 — двуязычная модель безопасности на основе InternLM2-Chat-7B, представленная командой thu-coai. Она предназначена для выявления проблем безопасности в ответах, сгенерированных большими языковыми моделями. Модель поддерживает настраиваемые правила проверки с детальными категориями и объясняет принятые решения. Модель построена на плотной архитектуре InternLM2ForCausalLM и содержит 7,4 млрд параметров. Она принимает текст, поддерживает китайский и английский языки и имеет контекст длиной до 32 768 токенов. В метаданных основная задача указана как извлечение признаков, при этом карточка описывает её как детектор безопасности, а каталог также отмечает генерацию текста как поддерживаемую задачу. В README заявлены высокие результаты на четырёх тестовых наборах, включая наборы с данными вне обучающего распределения, в сравнении с GPT-4, Llama Guard и Perspective API; подробные результаты доступны в статье. Модель распространяется по лицензии MIT.

hamzenium/ViT-Deepfake-Classifier — модель компьютерного зрения, дообученная авторами карточки на базе google/vit-base-patch16-224-in21k. Она использует Vision Transformer (ViT) с архитектурой ViTForImageClassification и содержит 113,2 млн параметров. Модель классифицирует изображения по двум категориям: реальные и поддельные — сгенерированные ИИ или изменённые. Модель предназначена для выявления дипфейков, проверки подлинности медиаматериалов и исследовательских задач. В README указаны точность 96,56% на тестовой выборке OpenForensics и предпочтительный размер изображений около 224×224 пикселей. Язык модели не применим: входом служит изображение, выходом — метка класса. Обучение проведено на OpenForensics, поэтому результаты могут ухудшаться на изображениях и методах подделки, отсутствовавших в обучающих данных. Устойчивость к состязательным атакам не проверялась; возможны ошибки и смещения в зависимости от источника, качества и содержания изображения. Модель не следует использовать как единственное основание для важных решений об аутентичности. Метаданные указывают лицензию MIT, тогда как README — Apache 2.0; лицензию следует сверить с файлами репозитория.

WardenSight-1B — дообученная модель с примерно 1,6 млрд параметров, разработанная для поиска файлов с вероятными уязвимостями в плагинах WordPress. Она построена на fdtn-ai/antares-1b, использует архитектуру GraniteMoeHybridForCausalLM и дообучена на примерах исследования репозиториев и локализации уязвимостей. Модель принимает репозиторий и класс CWE, исследует файлы через команды терминала в агентном цикле с доступом только для чтения и возвращает ранжированный список файлов для проверки. Контекст модели — до 131 072 токенов; карточка указывает английский язык. Веса доступны в формате safetensors по лицензии Apache-2.0. Модель предназначена для первичной сортировки задач аудита безопасности плагинов WordPress: она помогает аналитикам определить, какие файлы читать в первую очередь. В описанной оценке на 1 646 отложенных задачах WordPress её File-F1 составил 0,3263 против 0,2671 у базовой модели. Результат требует проверки специалистом: модель не подтверждает наличие или отсутствие уязвимости, не выдаёт точные строки, исправления или доказательства безопасности. Качество на темах WordPress и других экосистемах не проверено; автономное исправление кода и использование без авторизации не входят в назначение модели.

nvidia/Aegis-AI-Content-Safety-LlamaGuard-Defensive-1.0 — модель для классификации и модерации контента на основе Llama Guard, разработанная NVIDIA. Это параметрически эффективная instruction-tuned версия модели на базе Llama 2 7B, обученная на датасете Nemotron Content Safety Dataset V1, содержащем примерно 11 000 размеченных запросов и ответов. Модель предназначена для выявления небезопасного содержания в пользовательских сообщениях и диалогах. Модель работает как классификатор: с учётом заданной в системной инструкции политики безопасности она возвращает признак safe или unsafe, а при небезопасном результате — идентификатор нарушенной категории. Обученная таксономия включает 13 критических категорий рисков, а также safe и needs caution. Поддерживается передача новой таксономии и политики через инструкцию. Основной язык модели — английский; тип задачи — text classification. Разметка выполнялась на уровне диалога, поэтому модель обучена прежде всего классифицировать пользовательские запросы, а не отдельные реплики или ответы. Сильными сторонами являются специализированная настройка для контентной безопасности, поддержка гибко задаваемых политик и категорий, а также применение параметрически эффективного обучения. Ограничения включают работу только с текстом, отсутствие обучения на уровне отдельных ходов диалога и необходимость использовать рекомендованный шаблон при классификации ответов. Лицензия — Llama 2 Community License Agreement.

AgentDoG 1.5 Qwen3.5 4B — модель для проверки безопасности траекторий действий ИИ-агентов, разработанная AI45Research в рамках семейства AgentDoG. Она принимает полную текстовую траекторию работы агента, включая взаимодействие с инструментами и средой, и классифицирует её как безопасную или небезопасную. Для небезопасных траекторий модель также может определять тип сбоя, возможные последствия риска и его источник. Модель построена на плотной архитектуре Qwen3.5 и содержит 4 млрд параметров. Она предназначена для классификации и мониторинга агентных сценариев, в том числе для работы в качестве онлайн-защитного барьера, способного выявлять риск и вмешиваться в выполнение workflow. Для развёртывания README рекомендует совместимые версии SGLang или vLLM. Модель распространяется под лицензией Apache-2.0. Карточка не приводит конкретных ограничений точности или списка поддерживаемых естественных языков; результаты следует интерпретировать в контексте заданной таксономии безопасности и формата входной траектории.

Карточка модели AI45Research/AgentDoG1.5-Unified-Qwen3.5-4B на Hugging Face совпадает с карточкой AI45Research/AgentDoG1.5-Qwen3.5-4B, поэтому описание составлено по ней. AgentDoG 1.5 Qwen3.5 4B — модель для проверки безопасности траекторий действий ИИ-агентов, разработанная AI45Research в рамках семейства AgentDoG. Она принимает полную текстовую траекторию работы агента, включая взаимодействие с инструментами и средой, и классифицирует её как безопасную или небезопасную. Для небезопасных траекторий модель также может определять тип сбоя, возможные последствия риска и его источник. Модель построена на плотной архитектуре Qwen3.5 и содержит 4 млрд параметров. Она предназначена для классификации и мониторинга агентных сценариев, в том числе для работы в качестве онлайн-защитного барьера, способного выявлять риск и вмешиваться в выполнение workflow. Для развёртывания README рекомендует совместимые версии SGLang или vLLM. Модель распространяется под лицензией Apache-2.0. Карточка не приводит конкретных ограничений точности или списка поддерживаемых естественных языков; результаты следует интерпретировать в контексте заданной таксономии безопасности и формата входной траектории.

Granite Guardian 3.3 8B — специализированная языковая модель IBM Research для оценки запросов и ответов систем на базе LLM по заданным критериям. Она построена на плотной архитектуре GraniteForCausalLM и содержит 8,2 млрд параметров; модель поддерживает контекст до 131 072 токенов и работает через Transformers. В карточке указана поддержка английского языка и формат весов safetensors. Модель предназначена для проверки безопасности и качества ответов в чат-ботах, RAG-системах и агентных сценариях. Встроенные критерии охватывают попытки обхода ограничений, вредный контент, ненормативную лексику, релевантность контекста и ответа, соответствие ответа источникам и ошибки в вызовах инструментов. Можно задавать собственные критерии и схему оценивания. В режиме рассуждений модель выдаёт подробные объяснения оценки, а в обычном режиме — только результат проверки. Модель обучена на сочетании человеческих аннотаций и синтетических данных, включая данные внутреннего red teaming; в README заявлены результаты выше других открытых моделей той же области на стандартных бенчмарках, но численные таблицы в предоставленном тексте опущены. Лицензия Apache 2.0. Она выдаёт текстовые оценки и обоснования, поэтому решения о безопасности или качестве в критичных сценариях следует проверять отдельно.

prismdata разработала компактную корейскоязычную модель классификации на базе BERT для одновременного обнаружения разжигания ненависти и промпт-инъекций. Она предназначена для проверки пользовательских запросов и ответов LLM, а также для автоматической модерации комментариев и другого контента. Модель использует архитектуру BertForSequenceClassification с 12,4 млн параметров и классифицирует текст по 11 классам, включая SAFE и категории дискриминационных высказываний. Контекст ограничен 256 токенами. Обучение проводилось на 202 313 примерах с использованием KoSBi-v2, K-MHaS и BEEP. В README указаны метрики тестовой выборки: accuracy 0,9252, macro precision 0,7033 и macro recall 0,6839. Модель оптимизирована для корейского языка, поэтому на других языках качество может быть ниже; новые виды промпт-инъекций могут требовать дополнительного обучения. Распространяется по лицензии GPL-3.0.

Husky Sight Tool Type Classifier — разработанная Patronus AI мультиязычная модель-классификатор на базе ModernBERT (mmBERT) для определения типа инструмента по тексту запроса, вызова инструмента или шага агента. Модель относит вход к одному классу; примеры включают файловые операции, запросы к базам данных и действия с системами контроля версий. Она рассчитана на маршрутизацию по уровню риска, применение политик и проверок согласования для ИИ-агентов, а также мониторинг во время выполнения. Модель содержит 140,5 млн параметров, использует архитектуру ModernBertForSequenceClassification и поддерживает контекст до 8192 токенов. Доступны веса Safetensors и экспорт ONNX. В тестировании Patronus на отложенной выборке из 2914 примеров указаны accuracy и macro F1 по 0,957. Карточка описывает немецкий и английский как основные проверенные языки; мультиязычная основа допускает работу с другими языками, но они не проходили активную проверку. Предсказание отражает предполагаемый тип действия по тексту, но не подтверждает, что действие было выполнено. Модель не отслеживает поток информации между несколькими шагами агента; возможны ложные срабатывания и пропуски, поэтому для критически важных решений рекомендуется сочетать её с детерминированными правилами и калиброванными порогами. Лицензия — Apache-2.0.

Llama-3.1-Nemotron-Safety-Guard-8B-v3 — многоязычная модель NVIDIA для проверки безопасности пользовательских запросов и ответов языковых моделей. Она классифицирует текст как безопасный или небезопасный и для небезопасного содержания возвращает категории нарушенных правил в JSON-формате. Модель предназначена для разработчиков и исследователей, создающих системы на базе LLM, и заявлена как готовая к коммерческому применению. Это дообученная версия Meta Llama-3.1-8B-Instruct с архитектурой Transformer и адаптацией LoRA; в метаданных указано 7,5 млрд параметров, формат весов — safetensors. Карточка описывает поддержку девяти языков: английского, испанского, китайского, немецкого, французского, хинди, японского, арабского и тайского; также заявлена нулевая генерализация более чем на 20 языков, включая русский. Метаданные указывают контекст до 131 072 токенов, тогда как README приводит ограничение до 8 тыс. токенов. Модель настроена на таксономию рисков NVIDIA и обучена на Nemotron-Safety-Guard-Dataset-v3 с использованием синтетических, переведённых и размеченных примеров. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует проверять в лицензии репозитория. NVIDIA рекомендует проверять интеграцию на данных конкретного сценария перед развёртыванием.

Llama Guard 3-1B — модель Meta, дообученная на базе Llama 3.2-1B для классификации безопасности текста. Она проверяет запросы пользователей и ответы языковых моделей, генерируя метку safe или unsafe и, для небезопасного содержания, обозначения нарушенных категорий по таксономии из 13 типов опасностей MLCommons. Архитектура — плотная авторегрессионная Llama, около 1,2 млрд параметров; контекст — до 131 072 токенов. Модель рассчитана на работу через Transformers и ориентирована на более экономичную по сравнению с крупными версиями модерацию.

Nemotron 3.5 Content Safety — модель NVIDIA для модерации безопасности контента на входе и выходе языковых и визуально-языковых моделей. Она принимает текстовый запрос, необязательное изображение, необязательный ответ модели и пользовательскую политику безопасности, а затем выдаёт текстовые метки безопасности для запроса и ответа; в стандартном режиме может также указывать нарушенные категории, а в режиме пользовательской политики — краткое обоснование классификации. Это дообученная NVIDIA версия Gemma-3-4B-it: плотный декодерный трансформер примерно на 4 млрд параметров с визуальным энкодером SigLIP. Модель принимает изображения, масштабируемые до 896 × 896 пикселей, поддерживает контекст до 128 тыс. токенов и предназначена для английского, арабского, немецкого, испанского, французского, хинди, японского, тайского, нидерландского, итальянского, корейского и китайского языков. Веса обучались с LoRA и были объединены с базовой моделью; доступны в формате safetensors. Модель подходит для стандартной классификации безопасности и применения собственных или специализированных политик модерации. README указывает готовность к коммерческому использованию, однако для надёжного внедрения рекомендует проверку на данных конкретного сценария. Модель оптимизирована для GPU NVIDIA; лицензия указана как other, поэтому перед использованием следует проверить условия лицензии репозитория.

Модель Guardrails AI и Joseph Catrambone предназначена для обнаружения атак насыщением (saturation jailbreak) в текстовых запросах. Это небольшая модель классификации последовательностей на архитектуре BERT, созданная на основе bert-tiny и объединённая с google-bert/bert-base-uncased. Она рассчитана на английский язык и может служить предварительным фильтром в составе многоуровневой защиты ML-систем. Модель не предназначена для самостоятельного обнаружения других типов jailbreak-атак. В метаданных указаны 4,4 млн параметров и контекст до 512 токенов. Лицензия обозначена как ограничительная; условия следует проверить в карточке модели перед использованием.

Карточка модели Tonycoder11/Qwen3Guard-Gen-8B на Hugging Face совпадает с карточкой Qwen/Qwen3Guard-Gen-8B, поэтому описание составлено по ней. Qwen3Guard-Gen-8B — модель модерации безопасности от команды Qwen, дообученная на базе Qwen3-8B. Она формулирует классификацию как задачу следования инструкциям и оценивает пользовательские запросы и ответы модели по трём уровням: безопасный, спорный и небезопасный. Репозиторий содержит плотную причинную языковую модель Qwen3ForCausalLM размером 7,6 млрд параметров с контекстом до 32 768 токенов, предназначенную для запуска через Transformers. Модель рассчитана на проверку входящих запросов и сгенерированных ответов в системах модерации, включая многоязычные сценарии: в README заявлена поддержка 119 языков и диалектов. Она охватывает категории насилия, незаконных действий, сексуального контента, персональных данных, самоповреждения, неэтичного контента, политически чувствительных тем, нарушения авторских прав и попыток обхода инструкций во входных запросах. Доступна по лицензии Apache-2.0. Классификация может зависеть от контекста и выбранной политики применения; показатели качества и ограничения по отдельным языкам в предоставленных материалах не детализированы.

SEAD-SAGE-4B — языковая модель Everywhere Safety для проверки ожидаемых действий инструментов в агентных системах. Она принимает контекст диалога и сведения о состоянии системы, может запрашивать ограниченные данные только для чтения, а затем выдаёт структурированное решение pass или block для разрешения либо блокировки действия. Модель построена на Qwen3-4B-Instruct-2507 и дообучена полным SFT до второго накопительного этапа обучения. Это плотная модель с 3,7 млрд параметров, рассчитанная на генерацию текста; в репозитории указаны веса BF16 в формате safetensors. Метаданные указывают контекст до 262 144 токенов и поддержку английского языка. Для развёртывания README приводит пример сервинга через vLLM. Модель предназначена для защитной проверки действий агентов, включая оценку момента блокировки с учётом состояния и времени. В README опубликованы офлайн-метрики на фиксированной выборке из 55 вредоносных и 95 доброкачественных траекторий, а также бенчмарк сервинга на 16 запросах; эти результаты не гарантируют качество на других сценариях. Лицензия — Apache-2.0.

zen-guard-stream — компактная модель для потоковой проверки безопасности текста, опубликованная ZenLM и основанная на Qwen3Guard-Stream-0.6B от Alibaba Qwen. Это дообученная плотная модель семейства Qwen3 с примерно 508 млн параметров; репозиторий содержит веса в формате safetensors. Модель классифицирует текст по мере его поступления и предназначена для работы в качестве защитного фильтра или guardrail в приложениях с генерацией текста. Модель принимает текст и выдаёт классификационные метки безопасности. Контекст составляет до 8192 токенов; в карточке заявлен английский язык. Лицензия Apache-2.0 допускает коммерческое использование. Репозиторий помечен как заменённый на zenlm/zen3-guard, но веса сохранены для воспроизводимости.

AdaGuard-4B — генеративная модель Yunhao-Feng для проверки пользовательских запросов и поведения агентов на соответствие заданной политике безопасности. Вместо фиксированной таксономии риска она принимает от 1 до 100 правил с локальными идентификаторами и возвращает обоснованный анализ и идентификаторы нарушенных правил в порядке политики; если нарушений нет, выдаёт NR. Результат — структурированное решение, а не калиброванная вероятность риска. Модель основана на Qwen3Guard-Gen-4B и имеет архитектуру Qwen3ForCausalLM; в контрольной точке 3,7 млрд параметров. Она принимает текстовые события запроса или траектории агента, включая действия и результаты инструментов, и генерирует текстовый вердикт. Контекстное окно — 32 768 токенов. Разработчики сообщают о дообучении на AdaptiveSafety с последующим SafePO; в README приведены результаты оценки на AdaptiveSafety и DynaBench. Модель предназначена для встраивания в системы модерации и контроля поведения агентов, где правила задаёт приложение. README рекомендует версию 4B как отправную точку семейства. Для запуска описан стек Transformers 5.2.0, PyTorch и CUDA/BF16; указанная Apache-2.0 лицензия разрешает использование в соответствии с её условиями.

Карточка модели AI45Research/AgentDoG1.5-Qwen3.5-0.8B на Hugging Face совпадает с карточкой AI45Research/AgentDoG1.5-Qwen3.5-4B, поэтому описание составлено по ней. AgentDoG 1.5 Qwen3.5 4B — модель для проверки безопасности траекторий действий ИИ-агентов, разработанная AI45Research в рамках семейства AgentDoG. Она принимает полную текстовую траекторию работы агента, включая взаимодействие с инструментами и средой, и классифицирует её как безопасную или небезопасную. Для небезопасных траекторий модель также может определять тип сбоя, возможные последствия риска и его источник. Модель построена на плотной архитектуре Qwen3.5 и содержит 4 млрд параметров. Она предназначена для классификации и мониторинга агентных сценариев, в том числе для работы в качестве онлайн-защитного барьера, способного выявлять риск и вмешиваться в выполнение workflow. Для развёртывания README рекомендует совместимые версии SGLang или vLLM. Модель распространяется под лицензией Apache-2.0. Карточка не приводит конкретных ограничений точности или списка поддерживаемых естественных языков; результаты следует интерпретировать в контексте заданной таксономии безопасности и формата входной траектории.