II.11Кибербезопасность и приватность

hypn05 разработала Secrets Sentinel xsmall-c2p-v1 — экспериментальную англоязычную модель для бинарной классификации строк кода и конфигураций на наличие секретов. Она основана на microsoft/deberta-v3-xsmall и дообучена на наборе data_v10. Архитектура DeBERTa-v2 для классификации последовательностей использует только компонент позиционного внимания c2p; модель содержит 77,5 млн параметров по метаданным, а длина контекста составляет 512 токенов. Модель предназначена для поиска ключей и других секретов в репозиториях, например в проверках pre-commit, GitHub Actions и pre-receive hooks. В README заявлена скорость примерно в 5,3 раза выше базового варианта, однако на коротких идентификаторах Terraform отмечены ложные срабатывания. Автор рекомендует использовать эту версию для исследований и сравнения скорости, а для production — xsmall-v1. Лицензия MIT.

YuFeng-XGuard-Reason-8B — модель защиты контента от команды Alibaba AAIG, созданная на базе Qwen3-8B и дообученная для выявления рисков в запросах пользователей, ответах моделей и других текстах. Это плотная причинная языковая модель с 7,6 млрд параметров, предназначенная для диалогового применения и онлайн-проверки контента; заявленная длина контекста составляет 40 960 токенов. Модель сначала выдаёт структурированный вывод о риске и оценку, а затем при необходимости объясняет причины решения. Версия 8B рассчитана на сложное понимание рисков и позволяет задавать или корректировать категории безопасности через промпт. В карточке заявлены многоязычное распознавание рисков, защита от атакующих инструкций и проверка безопасного завершения; модель использует таксономию категорий безопасности и соответствия требованиям. Модель подходит для предварительной модерации пользовательских запросов и ответов ИИ, присвоения категорий риска и аудита решений. Возможны ложноположительные и ложноотрицательные результаты, поэтому её выводы требуют оценки и мониторинга в целевой среде. Распространяется по лицензии Apache-2.0.

marklkelly/bert-tiny-injection-detector — компактный бинарный классификатор текста, разработанный для обнаружения prompt injection и попыток переопределения инструкций. Модель дообучена на базе prajjwal1/bert-tiny с дистилляцией знаний от protectai/deberta-v3-small-prompt-injection-v2 и дополнительными метками. Она содержит около 4,4 млн параметров, использует архитектуру BERT для классификации последовательностей и принимает текст длиной до 128 токенов. Модель предназначена для проверки пользовательского ввода перед передачей его другой языковой модели, в том числе при развёртывании на периферийных устройствах и в средах с ограниченными ресурсами. Она выдаёт метку SAFE или INJECTION и оценку вероятности; для длинных входов в целевом сценарии применяются обрезка с сохранением начала и конца текста и настраиваемые пороги срабатывания. Репозиторий содержит экспорты ONNX, рассчитанные на запуск без Python, в том числе в Rust WASM через tract-onnx. Валидация показывает высокие результаты на использованном наборе данных, однако он сбалансирован по классам и отдельного тестового набора не было. При низкой реальной распространённости атак возрастает доля ложных блокировок; длинные входы могут потерять важные фрагменты в середине, а устойчивость к Unicode-обфускации и многоязычные атаки систематически не проверялись. Модель специализирована на инъекциях инструкций, не предназначена для общей модерации или обнаружения jailbreak и не должна быть единственным уровнем защиты. Лицензия — Apache-2.0.

DARWIN-Guard — защитная модель модерации запросов, разработанная в рамках проекта DARWIN по оценке и повышению безопасности LLM. Это дообученная на базе Qwen/Qwen3Guard-Gen-8B плотная причинно-языковая модель семейства Qwen3 с 7,6 млрд параметров; она принимает список сообщений чата и классифицирует последнее сообщение пользователя как безопасное или небезопасное. Модель предназначена для фильтрации вредоносных запросов, проверки устойчивости защитных механизмов к джейлбрейкам и разработки защитных систем. В обучении использовались новые состязательные примеры, а также вредоносные и доброкачественные замаскированные запросы, чтобы распознавать намерение и снижать чрезмерные отказы. README сообщает о среднем отзыве на небезопасных запросах 95,0% и среднем пропуске доброкачественных запросов 99,7% на указанных наборах оценки. Модель работает с текстом, поддерживает английский язык и имеет контекст до 32 768 токенов. В ответ она выдаёт одну из меток Safety: Safe или Safety: Unsafe. Результаты приведены для бенчмарков модерации и не гарантируют такую же точность в других условиях; лицензия указана как other, поэтому перед использованием следует проверить условия в репозитории. Авторы указывают на применение для исследований безопасности, оценки защитных механизмов и разработки защитных моделей.

gpt-oss-safeguard-20b — модель рассуждений о безопасности, разработанная OpenAI и дообученная на базе openai/gpt-oss-20b. Она предназначена для классификации текстового контента по заданным пользователем политикам безопасности и других задач Trust and Safety. Модель подходит для фильтрации входов и выходов LLM, разметки онлайн-контента, а также пакетной офлайн-классификации. Она интерпретирует текстовое описание политики, что позволяет адаптировать её к различным продуктам и сценариям без значительной специализированной разработки. Модель предоставляет доступ к процессу рассуждений и поддерживает настраиваемый уровень усилий рассуждения — low, medium и high, позволяя выбирать баланс между качеством и задержкой. Модель содержит около 21 млрд параметров, из которых активно используется 3,6 млрд, и рассчитана на работу на GPU с 16 ГБ видеопамяти. Она предназначена для генерации текста, обучена формату ответов harmony и должна использоваться только с этим форматом. README не указывает поддерживаемые языки, длину контекста и дополнительные модальности. Доступ к необработанной цепочке рассуждений предназначен для разработчиков и специалистов по безопасности, а не для показа обычным пользователям. Модель распространяется по лицензии Apache 2.0, допускающей эксперименты, модификацию и коммерческое использование без требований copyleft. Она ориентирована именно на задачи безопасности; для других применений рекомендуется использовать базовые модели gpt-oss.

Hirundo Granite 4.2 8B Hardened — дообученная версия языковой модели IBM Granite 4.2 8B, созданная Hirundo с помощью поведенческого unlearning. Она предназначена для генерации текста и диалогов с пониженной восприимчивостью к prompt injection, включая прямые, закодированные и скрытые в содержимом инструкции, а также для оценки защищённости моделей и разработки приложений, где важна устойчивость к таким атакам. По README, на текстовом бенчмарке PurpleLlama доля успешных атак снизилась с 46,55% у исходной модели до 21,78%; в тестах garak также снизились показатели атак и утечки защищённого контекста. В шести основных тестах общих возможностей среднее изменение относительно базовой модели составило −0,28 процентного пункта. Это результаты конкретных оценок, а не гарантия защиты: модель следует проверять с реальными промптами, инструментами и источниками данных приложения. Модель рассчитана на текстовый ввод и текстовую генерацию; сведения об архитектуре, контексте и языках предлагается смотреть в карточке базовой модели. Распространяется по лицензии Apache-2.0.

Dipto084/Llama3.1-8B-TRACE — диалоговая защитная модель на архитектуре Llama 3.1 с 7,5 млрд параметров, разработанная для выявления многоходовых jailbreak-атак. Она анализирует траекторию беседы целиком, формирует оценку безопасности и затем отвечает с учётом этой оценки. По README, это вариант TRACE-GRPO: дообучение с подкреплением по рецепту TRACE, объединённое с весами базовой модели; для работы требуется системный промпт TRACE, задающий формат и правила оценки. Модель предназначена для интеграции в чат-системы, где нужно обнаруживать попытки обхода защит и сохранять ответы на безвредные запросы. В карточке приведены результаты оценок на многоходовых атаках и проверках избыточных отказов; они отражают конкретные тестовые наборы и не гарантируют аналогичную защиту в эксплуатации. Контекст — до 131 072 токенов, вход и выход — текст, основной язык карточки — английский. Распространяется под лицензией Llama 3.1; при использовании следует соблюдать её условия.

Карточка модели RedHatAI/Llama-Guard-4-12B на Hugging Face совпадает с карточкой meta-llama/Llama-Guard-4-12B, поэтому описание составлено по ней. Llama Guard 4 — мультимодальный классификатор безопасности от Meta с 12 млрд параметров. Это плотная модель на базе Llama 4 Scout: архитектуру Scout преобразовали из MoE в dense pruning, затем дообучили для классификации контента по категориям опасностей MLCommons. Модель принимает текстовые запросы и ответы, а также смешанные входы с несколькими изображениями, и возвращает текстовую метку безопасности с указанием нарушенных категорий. Модель предназначена для фильтрации пользовательских запросов до передачи генеративной модели и для проверки её ответов перед показом пользователю. Она поддерживает английский и мультиязычный текст, а также понимание изображений в сочетании с текстом; карточка указывает английский язык. Модель доступна в формате Safetensors и используется через Transformers. Лицензия обозначена как other; конкретные условия следует сверять с карточкой модели Meta. Ограничения связаны с данными обучения и охватом политик: качество может снижаться для оценок, требующих актуальных знаний, включая диффамацию, интеллектуальную собственность и выборы. Проверки в основном проводились на входах с несколькими изображениями, обычно около трёх; при большем их числе качество может меняться. Модель также уязвима к состязательным воздействиям и prompt injection.

Prismor разработала prompt-guard-1.5b — англоязычный классификатор для обнаружения prompt injection. Модель дообучена с помощью LoRA на базе Qwen/Qwen2.5-1.5B-Instruct на примерно 10 000 размеченных примерах и содержит 1,5 млрд параметров. Она принимает текстовый запрос и классифицирует его как INJECTION или SAFE; заявленная длина контекста — 32 768 токенов. Модель предназначена для проверки пользовательского ввода перед передачей языковой модели, защиты RAG-конвейеров и агентов, а также для журналирования и оповещений о возможных атаках. В независимом тесте на 5 000 примерах авторы сообщают F1 0,726 и полноту 0,893, но доля ложных срабатываний составила 0,379. Лицензия — Apache-2.0. Модель медленнее специализированных классификаторов DeBERTa: авторы указывают около 60 мс на пример на GPU L40S против примерно 9 мс. К известным ограничениям относятся частые ложные срабатывания на безопасных текстах, слабая работа с обфусцированными инъекциями и отсутствие обучения против адаптивных атакующих. Модель рассчитана на английский язык; качество для других языков не установлено.

RavenGuard-Gen — компактная мультиязычная модель Netis AI для проверки безопасности запросов и ответов LLM-агентов. Это плотная авторегрессионная языковая модель семейства RavenGuard с архитектурой RavenGuardForCausalLM, построенная на Netis Amniota, обученной с нуля; размер модели — около 0,8 млрд параметров. Для работы используется Transformers и формат весов safetensors. Модель анализирует запрос или полный ответ и генерирует структурированный блок с решением, риском, уровнем серьёзности, категориями и признаком отказа. Её применяют как фильтр перед передачей запроса основному агенту и как проверку ответа перед показом пользователю. В карточке заявлена поддержка 18 языков; каталог подтверждает языковые теги для 17 из них. Контекстное окно в доступных данных не указано. В опубликованных карточкой оценках модель показывает высокую точность и заметный отзыв на китайском наборе; на мультиязычном наборе у неё более высокий FPR, чем у некоторых крупных базовых систем. Это компактная проверка целого запроса или ответа, а не потоковая остановка генерации по токенам. Для запуска README требует attention backend SDPA и указывает на необходимость batch size 1, поскольку обработка attention_mask в поставляемом forward пока не реализована. Лицензия — Apache-2.0.

Это конверсия модели Antares-1B от Cisco Foundation AI в формат GGUF с весами BF16 без квантизации. Она предназначена для локализации потенциально уязвимых файлов в репозитории по идентификатору CWE и описанию категории: модель генерирует ранжированный список путей к файлам. Вариант использует архитектуру GraniteHybridModel и содержит 1 млрд параметров согласно названию базовой модели; в README указаны 40 блоков, 16 голов внимания и 4 KV-головы. Файл весит 3,42 ГиБ. Формат GGUF предназначен для запуска, в частности, через llama.cpp. Модель помогает проводить первичный поиск файлов для проверки безопасности кода. Она работает на уровне файлов: не указывает строки или фрагменты кода и не предлагает исправления; результаты могут различаться между запусками, поэтому их следует проверять вручную. Веса распространяются по лицензии Apache-2.0.

MutazYoune/Arabic-NER-PII2 — модель распознавания именованных сущностей для арабского текста, разработанная на основе BERT и дообученная на базе MutazYoune/ARAB_BERT. Она выполняет классификацию токенов и выделяет категории CONTACT, IDENTIFIER, NETWORK, NUMERIC_ID и PII, поэтому подходит для поиска контактных данных и других идентификаторов в арабских текстах. Модель использует архитектуру BERT, содержит 136,3 млн параметров и обрабатывает до 512 токенов за контекст. Модель обучена на пользовательском наборе данных augmented_pattern2; README сообщает, что для финального обучения объединяли обучающую и тестовую части без отдельной валидационной выборки. Это ограничивает возможность оценить обобщающую способность и не позволяет судить о качестве по независимой валидации. Репозиторий содержит веса safetensors, лицензия — Apache-2.0.

auto-0.4b — модель-классификатор ProCreations для оценки безопасности следующего вызова инструмента ИИ-агента. Это полное дообучение энкодера ModernBERT-large с 394,7 млн параметров и контекстом до 65 536 токенов. Модель принимает описание запроса пользователя, историю действий агента и предполагаемый вызов инструмента и классифицирует его как approve или deny. Поддерживается английский язык. Модель рассчитана на быстрый первый этап проверки действий в агентных системах: она может одобрять рутинные операции и выявлять несанкционированные разрушительные действия, попытки утечки учётных данных, ослабления защиты и следование инструкциям из внедрённого в прочитанный контент текста. В карточке заявлены скорость около 7 мс на вызов и точность 90,13% на отложенном тесте из 3000 примеров; автор рекомендует передавать неоднозначные случаи более крупной модели. На сложных примерах качество ниже, а доля ошибочных отказов на стандартном пороге составляет 10,88%; при настройке порога можно уменьшить ошибочные одобрения ценой роста ошибочных отказов. Результаты зависят от формата входа: модель обучалась на заданных секциях и порядке контекста. Лицензия — Apache-2.0.

HarmAug-Guard — модель-классификатор для оценки безопасности диалогов с большими языковыми моделями и защиты от попыток обхода ограничений. Она разработана авторами работы HarmAug и предназначена для анализа текста диалога с присвоением класса безопасности. Модель дообучена на DeBERTa-v3-large с применением дистилляции знаний и аугментации данных по методу HarmAug. Она содержит 533,8 млн параметров, использует архитектуру DeBERTaV2ForSequenceClassification и принимает текст длиной до 1024 токенов. В карточке заявлена лицензия Apache-2.0. Модель подходит для фильтрации потенциально небезопасных запросов и проверки диалогов на jailbreak-атаки. README не приводит результатов оценки качества или подробностей о наборах классов; поэтому точность для конкретного сценария и поведение на других языках по имеющимся сведениям определить нельзя.

Opir-edge — компактная модель семейства Opir от Knowledgator для классификации текста по безопасности. Она построена на GLiClass с двунаправленным энкодером Ettin-encoder-32m и предназначена прежде всего для быстрого бинарного маршрута «безопасно/небезопасно» на английском языке. Модель совместно кодирует входной текст и заданные при запуске метки-кандидаты, а затем оценивает их совместимость; она поддерживает оценивание произвольных меток, но для этой версии рекомендована бинарная классификация. Модель можно использовать для предварительной проверки запросов к LLM и её ответов, маршрутизации рискованных случаев к более строгим проверкам или специалистам, а также офлайн-анализа результатов red team и журналов модерации. В README сообщается задержка 9,25 мс на уровне p50 и 9,52 мс на p95 при длине 1024 токена в указанной конфигурации бенчмарка. Обучение связано с таксономией безопасности из 996 меток и включает примеры безвредного контента для снижения ложных срабатываний. Классификатор может пропускать новые или замаскированные jailbreak-запросы и риски, не представленные в метках; пороги из бенчмарков могут не подходить для реального трафика. Его оценки не являются формальным решением по политике безопасности и не гарантируют полной защиты, поэтому для ответственных сценариев нужны дополнительные правила, мониторинг и эскалация. Модель распространяется по лицензии Apache-2.0.

pii-layout-synth-v2 — дообученная модель на базе answerdotai/ModernBERT-base, разработчик — jefftherover. Она предназначена для классификации токенов; название модели указывает на синтетические данные для разметки персональной информации с учётом структуры документа, но README не описывает конкретные метки или сценарии применения. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и принимает последовательности длиной до 8192 токенов. Доступны веса в формате safetensors. В README приведены результаты оценки: F1 0,9890, precision 0,9870, recall 0,9911 и accuracy 0,9982. Датасет и условия оценки не раскрыты, поэтому эти показатели нельзя напрямую переносить на другие данные. Лицензия — Apache-2.0.

Dipto084/Qwen3-8B-TRACE — модель семейства Qwen3 от Dipto084 для защиты диалогов от многоходовых jailbreak-атак. Это плотная авторегрессионная языковая модель на 7,6 млрд параметров с контекстом 40 960 токенов, рассчитанная на генерацию текста и чат. По описанию, перед ответом она формирует структурированную оценку безопасности всей истории беседы, учитывая сигналы атаки, интерпретации запроса, оценку jailbreak и рекомендуемое действие. Модель предназначена для фильтрации и маршрутизации диалогов, проверки ответов и оценки устойчивости к многоходовым атакам. README приводит результаты тестирования, где средний показатель успешности атак снизился с 77,0% у базовой Qwen3-8B до 13,8% на семи сценариях атак; также описано снижение успешности AutoDAN-Turbo в одноходовых испытаниях. Для корректного структурированного вывода требуется системный промпт TRACE из файла system_prompt.txt. В README указана базовая модель Qwen/Qwen3-8B и обучение в два этапа: SFT с последующим GRPO с групповым разделением преимуществ; итоговые веса описаны как объединённые bf16. Лицензия — Apache-2.0. Модель генерирует текст на английском языке согласно языковым тегам карточки; результаты безопасности относятся к описанным наборам атак и не гарантируют устойчивость к другим атакам или корректность оценок в произвольных сценариях.

Qwen3Guard-Stream-8B — модель модерации безопасности из серии Qwen3Guard, разработанной на базе Qwen3. Она дообучена на 1,19 млн размеченных безопасных и небезопасных запросов и ответов. Версия Stream предназначена для проверки текста по мере его генерации: токеновый классификационный слой позволяет отслеживать риски в потоковых сценариях. Модель относит содержимое к трём уровням: безопасное, спорное и небезопасное; охватывает насилие, незаконные действия, сексуальный контент, персональные данные, самоповреждение, неэтичное поведение, политически чувствительные темы, нарушения авторских прав и попытки обхода инструкций во входных данных. Модель поддерживает 119 языков и диалектов. Это плотная архитектура Qwen3 с 7,6 млрд параметров и контекстом 8192 токена; репозиторий содержит веса Safetensors, а для работы указаны Transformers и SGLang. Лицензия — Apache-2.0. В метаданных основная задача обозначена как извлечение признаков, поэтому модель следует интегрировать как классификатор в совместимый потоковый конвейер модерации; поддержка vLLM в README на момент публикации ещё разрабатывалась.

ProCreations/auto-1b-bf16 — это дообученный классификатор на базе encoder-модели ModernBERT с 1 млрд параметров. Он оценивает следующий вызов инструмента AI-агента и классифицирует его как разрешённый или запрещённый; модель предназначена для встроенных проверок безопасности и защитных ограничений в агентных системах. В метаданных указаны контекст до 65 536 токенов, библиотека Transformers и формат весов safetensors. По README, версия bf16 занимает 2,0 ГБ вместо 3,9 ГБ у исходной версии и на полном тесте из 3 000 примеров показала те же accuracy 96,4%, AUROC 0,992845 и F1 для класса deny 0,961373; заявлено отсутствие изменившихся решений относительно fp32 на этом тесте. Модель принимает текст с запросом пользователя, историей и предполагаемым вызовом инструмента и выдаёт оценку классов approve/deny. Карточка рекомендует использовать заданный формат входа и расположение разделов, поскольку обучение учитывало их. Модель ориентирована на англоязычные сценарии: метаданные указывают язык en. Заявленные результаты относятся к конкретному набору approve-or-deny и не гарантируют точности для других данных или форматов. Лицензия — Apache-2.0.

unsloth/gpt-oss-safeguard-20b — доработанная Unsloth версия модели gpt-oss-safeguard-20b, разработанной OpenAI на базе gpt-oss. Это модель рассуждений о безопасности, предназначенная для классификации текстового контента по заданным политикам безопасности и выполнения задач Trust and Safety: фильтрации входов и выходов LLM, маркировки онлайн-контента, а также пакетной офлайн-разметки. Модель интерпретирует написанную пользователем политику, что позволяет адаптировать её к различным продуктам и сценариям с минимальной инженерной доработкой. Модель имеет 21 млрд параметров, из которых 3,6 млрд являются активными, и может работать на GPU с 16 ГБ VRAM. Она поддерживает настраиваемый уровень рассуждений — низкий, средний или высокий — с выбором между качеством анализа и задержкой. Модель предоставляет доступ к процессу рассуждений для отладки и повышения доверия к решениям, однако необработанный CoT предназначен для разработчиков и специалистов по безопасности, а не для конечных пользователей. Модальность — текстовая; сведения о языках и размере контекста в README не указаны. Для корректной работы модель необходимо использовать только с форматом ответов harmony. Она ориентирована именно на задачи безопасности, поэтому для других применений рекомендуется использовать модели семейства gpt-oss. Модель распространяется по лицензии Apache 2.0, допускающей эксперименты, настройку и коммерческое применение без copyleft-ограничений.

Granite Guardian 3.1 8B — модель IBM Research, дообученная на базе Granite 3.1 8B Instruct для выявления рисков в запросах пользователей и ответах моделей. Она выдаёт оценку «да/нет» по заданному шаблону и предназначена для работы в режиме классификации рисков. Модель помогает обнаруживать вредоносный контент, предвзятость, попытки обхода защит, насилие, ненормативную лексику, сексуальный контент и неэтичное поведение. В RAG-системах она проверяет релевантность найденного контекста, опору ответа на этот контекст и соответствие ответа запросу. В агентных сценариях выявляет синтаксические и смысловые ошибки в вызовах функций и связанные с ними галлюцинации. Архитектура — плотная GraniteForCausalLM с 8,2 млрд параметров; модель принимает текст, поддерживает контекст до 131 072 токенов и рассчитана на английский язык. IBM сообщает о результатах выше других открытых моделей той же области на стандартных бенчмарках. Модель предназначена для оценки рисков, мониторинга и выборочной проверки данных при умеренных требованиях к стоимости, задержке и пропускной способности. Использование вне предписанного шаблона оценки может приводить к неожиданным или небезопасным ответам; модель может быть уязвима к состязательным атакам, а пользовательские определения рисков требуют тестирования. Лицензия — Apache 2.0.

JAILJUDGE Guard — модель для оценки того, удалось ли вредоносному запросу обойти защиту языковой модели. Авторы дообучили её для выдачи объяснения оценки и числового балла уязвимости от 1 до 10; модель построена на архитектуре Llama и содержит 6,6 млрд параметров. Модель предназначена для проверки ответов LLM в сценариях jailbreak, включая сложные, состязательные и многоязычные запросы. Её можно применять для аудита защитных механизмов и модерации, а также как компонент методов JailBoost и GuardShield. Метаданные указывают поддержку диалогового режима и контекст длиной 2048 токенов; формат весов — safetensors. В README упоминаются тестовые наборы с примерами на десяти языках, но конкретные языковые коды не приведены. Модель распространяется по лицензии Llama 2. Описанные авторами результаты относятся к оценке на их бенчмарках и не гарантируют ту же точность на иных данных или сценариях.

shadicopty/llama3.2-entity — дообученная модель на базе Llama 3.2 3B для извлечения из текста названий компаний, проектов и людей с выдачей результата в заданном формате JSON. Она предназначена для локального запуска на настольном компьютере и подготовки текста к обезличиванию перед отправкой в облачные сервисы. Модель имеет архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В репозитории представлены форматы GGUF F16 и PyTorch; обучение проводилось с Unsloth в Google Colab. Модель можно использовать как этап распознавания сущностей в локальном процессе защиты данных. Карточка не сообщает, какие языки или домены охвачены обучением, поэтому качество на конкретных языках и типах текста по ней оценить нельзя. Лицензия — Apache-2.0.

Llama Guard 3 8B — модель Meta на базе Llama 3.1 8B, дообученная для классификации безопасности контента. Она анализирует пользовательские запросы и ответы языковых моделей, выдаёт текстовую метку «safe» или «unsafe», а для небезопасного контента указывает нарушенные категории. Модель предназначена для модерации диалогов и проверки вызовов инструментов, включая поиск и интерпретатор кода; классификация охватывает 14 категорий рисков по таксономии MLCommons и дополнительную категорию злоупотребления интерпретатором кода. Модель работает с текстом и заявлена для английского, французского, немецкого, хинди, итальянского, португальского, испанского и тайского языков. В репозитории размещена версия с половинной точностью в формате safetensors; для бинарной оценки можно использовать вероятность первого токена как оценку класса «unsafe» и задать порог. Для применения нужны Transformers и совместимый код инференса. Лицензия — Llama 3.1 Community License.

Weni/Llama-Guard-3-8B-AWQ — это 4-битная AWQ-квантизированная версия Llama Guard 3, опубликованная Weni на Hugging Face. Базовую модель разработала Meta: это Llama 3.1 с 8 млрд параметров, дообученная для классификации безопасности контента. Модель принимает текстовые запросы и ответы LLM и генерирует оценку safe или unsafe, а для небезопасного содержимого указывает нарушенные категории риска. Модель предназначена для модерации пользовательских запросов и ответов, включая сценарии с поисковыми инструментами и code interpreter. Она поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский языки, а также 14 категорий опасного контента, включая преступления, сексуальное насилие, эксплуатацию детей, приватность, интеллектуальную собственность, ненависть, самоповреждение, выборы и злоупотребление интерпретатором кода. AWQ-квантизация уменьшает требования к памяти и обычно облегчает локальное развертывание; в документации Meta для квантизированной версии приводятся близкие к неквантизированной показатели качества. Ограничения модели связаны с зависимостью от обучающих данных, неполным пониманием контекста и возможными ложными срабатываниями. Для категорий, требующих актуальных фактов, например диффамации, интеллектуальной собственности и выборов, Meta рекомендует более сложные системы. Модель также может быть уязвима к adversarial- и prompt injection-атакам, поэтому не должна быть единственным механизмом защиты. Для базовой Llama 3.1 указана Llama 3.1 Community License; при использовании необходимо соблюдать её условия и Acceptable Use Policy Meta.

meta-llama/Llama-Guard-3-8B-INT8 — модель Meta для задач модерации и классификации текстового контента по категориям безопасности. По доступным данным, она относится к семейству Llama 3.1, имеет около 8 миллиардов параметров и представлена в формате INT8. Модель поддерживает английский язык и размещена с тегом text-generation. Модель может применяться в системах фильтрации пользовательского контента, контроля входных запросов и выходных ответов, а также в других сценариях, где требуется автоматическая оценка текстов на соответствие политикам безопасности. В предоставленной карточке не указаны точный формат классификационных категорий, максимальная длина контекста, архитектурные детали, качество на тестовых наборах и требования к аппаратному обеспечению. Поэтому эти характеристики нельзя надёжно оценить по имеющимся данным. Модель распространяется по Llama 3.1 Community License от Meta. Лицензия разрешает использование, воспроизведение, распространение, создание производных работ и модификацию на указанных условиях, включая соблюдение Acceptable Use Policy, передачу текста лицензии и требования к атрибуции. Для продуктов или сервисов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено отдельное лицензирование Meta.

Ornith-1.5-35B-A3B uncensored (NVFP4) — доработанная и квантованная версия модели Ornith-1.5-35B-A3B от команды Ornith, подготовленная Robert Ressl. Модель основана на архитектуре Mixture-of-Experts: общий размер составляет 35B параметров, около 3B параметров активны при обработке токена. Это текстовая генеративная модель на английском языке, предназначенная для генерации текста, рассуждений, вызова инструментов, исследований безопасности, red-teaming и penetration testing. В README также указано, что мультимодальная оболочка и vision tower сохранены, однако подробные сведения о поддерживаемых визуальных сценариях не приведены. Модель использует abliteration в один проход и формат NVFP4 только для экспертных тензоров; attention, shared expert, router и embeddings остаются в BF16. Размер экспортированной модели составляет около 23 ГБ вместо 71,9 ГБ у BF16-версии, заявленная длина контекста — 262 144 токена. Для запуска рекомендованы SGLang и NVIDIA GPU с поддержкой Blackwell; на одной NVIDIA RTX PRO 6000 Blackwell 96 GB измерена скорость 213 токенов в секунду при коротких запросах. К сильным сторонам относятся существенно сниженная частота жёстких отказов, сохранение инструментального вызова и близкое к базовой модели качество на GPQA-Diamond: 58,6% против 61,1%. Ограничения включают остаточные отказы, возможное влияние квантования на поведение и отсутствие MTP speculative decoding, поскольку тензоры mtp.* были удалены из экспортированного контрольного пункта. Модель по умолчанию ориентирована на рассуждения; для коротких прямых ответов рекомендуется отключать режим thinking. Лицензия — MIT, унаследованная от базовой модели Ornith.

Offlin33er разработал Qwen2.5-Coder-7B Solidity Audit V3 — разговорную модель для генерации структурированных аудитов Solidity-кода. Она дообучена методом QLoRA на базе Qwen/Qwen2.5-Coder-7B-Instruct, после чего веса адаптера объединены с базовой моделью. Архитектура — плотная Qwen2 causal language model на 7,1 млрд параметров; модель принимает текстовый код и выдаёт текстовый отчёт. Контекст — до 32 768 токенов. Модель анализирует функциональность фрагмента, классифицирует основную находку по одной из восьми категорий, описывает проблему и предлагает исправление. Она предназначена для предварительной проверки смарт-контрактов и развёртывания через Hugging Face Inference Endpoint, TGI или vLLM. В описанной оценке на 100 отложенных примерах точность и полнота обнаружения составили 0,986, однако точное совпадение с категорией разметки было 44,9%. Модель обучена на аудированных примерах Solidity и может ошибаться, в частности при выборе между близкими категориями уязвимостей. Результаты следует проверять вручную; модель не заменяет профессиональный аудит. Лицензия — Apache-2.0.

Qwen3Guard-Gen-0.6B — генеративная модель модерации безопасности из семейства Qwen3, разработанная командой Qwen. Она дообучена на 1,19 млн промптов и ответов с метками безопасности и предназначена для классификации пользовательских запросов и ответов моделей как безопасных, спорных или небезопасных. Модель поддерживает 119 языков и диалектов и рассчитана на сценарии многоязычной проверки контента. Модель построена на плотной архитектуре Qwen3ForCausalLM, содержит 507,9 млн параметров и имеет контекст длиной до 32 768 токенов. Она выдаёт генеративную классификацию по категориям насилия, незаконных действий, сексуального контента, персональных данных, самоповреждения, неэтичного поведения, политически чувствительных тем, нарушения авторских прав и попыток обхода инструкций во входных запросах. Указанная лицензия — Apache-2.0. Модель ориентирована на модерацию и оценку риска, а не на универсальную генерацию ответов. Заявленные сильные стороны — три уровня серьёзности и многоязычная поддержка; README также сообщает о высокой результативности на тестах безопасности, но не приводит здесь конкретных метрик. Как классификатор на основе генерации, она может требовать настройки формата вывода и порогов под конкретную политику модерации.

YuFeng-XGuard-Reason-0.6B — разработанная Alibaba AAIG компактная модель-ограничитель для выявления рисков безопасности в запросах пользователей, ответах моделей и произвольном тексте. Она основана на плотной архитектуре Qwen3ForCausalLM и дообучена на Qwen/Qwen3-0.6B; размер составляет около 507,9 млн параметров, максимальная длина контекста — 40 960 токенов. Модель предназначена для быстрой проверки контента в интерактивных системах с высокой нагрузкой. Она сначала выдаёт структурированное заключение о риске и оценку, а затем может привести объяснение с указанием триггеров и причин классификации. Встроенная таксономия охватывает общие категории безопасности и соответствия требованиям; модель поддерживает диалоговый режим. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Разработчики позиционируют её как вспомогательный инструмент для модерации и управления рисками, а не как окончательный арбитр: возможны ложноположительные и ложноотрицательные результаты, поэтому для конкретного применения необходима оценка качества и мониторинг.