II.11Кибербезопасность и приватность

Goodmotion/spam-mail-classifier — модель классификации текста, дообученная на базе microsoft/Multilingual-MiniLM-L12-H384 для определения, является ли тема письма спамом или обычным сообщением. Она выдаёт один из двух классов: SPAM или NOSPAM. Модель построена на архитектуре BERT для классификации последовательностей, содержит 124,3 млн параметров и рассчитана на контекст до 512 токенов. Модель предназначена для фильтрации спама по темам электронных писем и может использоваться в почтовых фильтрах или для первичной сортировки входящих сообщений. Карточка заявляет поддержку нескольких языков. Модель распространяется под лицензией Apache-2.0.

delpot/steganograph-ia-detector — дообученный Vision Transformer (ViT), разработанный в рамках проекта SteganographIA (MIAGE TPI), для бинарной классификации изображений на реальные фотографии и изображения, созданные ИИ. Модель содержит 113,2 млн параметров и обучена на наборе Defactify; в описании указана проверка на сбалансированной тестовой выборке из 15 000 изображений. Среди генераторов в обучении названы Stable Diffusion 2.1, SDXL, Stable Diffusion 3, DALL·E 3 и Midjourney v6. На тестовой выборке точность составила 0,923. Модель редко помечает реальные фотографии как сгенерированные ИИ: доля ложноположительных срабатываний указана как 1,4%; при этом она пропускает около 14% изображений, созданных ИИ. Изображения перед классификацией масштабируются до 224×224 пикселей, поэтому детали, заметные только в высоком разрешении, могут теряться. Качество на генераторах, не представленных в обучении, включая Flux и новые модели, не гарантировано. Лицензия — MIT.

UniGenDet — дообученная модель на базе BAGEL-7B-MoT, разработанная авторами из кафедры автоматизации Университета Цинхуа. Она объединяет генерацию изображений по тексту с обнаружением изображений, созданных ИИ, и объяснением результатов детекции в рамках единого цикла обучения. Модель подходит для создания изображений по текстовым запросам и анализа их происхождения. В метаданных указаны английский и китайский языки, формат весов safetensors и лицензия Apache-2.0. Базовая BAGEL-7B-MoT — мультимодальная модель для понимания изображений и видео, генерации изображений и редактирования по текстовым инструкциям.

Vela Safety — модель классификации текста для выявления общих рисков безопасности и маршрутизации запросов к подходящей обработке. Её разработала команда llm-semantic-router как дообученную версию Vela-1.0-Encoder-307M на базе ModernBERT с архитектурой ModernBertForSequenceClassification. Модель содержит 306,9 млн параметров и принимает до 32 768 токенов, включая специальные токены. В оценках на наборах Reviewed safety и CultureGuard Vela показала более высокий Macro F1, чем исходная модель mmBERT Safety, а на AEGIS — более низкий. Эти наборы использовались при выборе модели и не являются независимыми тестами. Сигнал риска может требовать поддерживающего ответа, в том числе помощи при кризисной ситуации, и сам по себе не означает необходимость отказа. Репозиторий содержит веса safetensors и ONNX; библиотека — Transformers. Лицензия Apache-2.0.

Vela Safety — модель классификации текста от vLLM Semantic Router для выявления общих рисков в пользовательских сообщениях и маршрутизации запросов к подходящей обработке безопасности. Она содержит 306,9 млн параметров, построена на архитектуре ModernBERT и принимает входы длиной до 32 768 токенов, включая специальные токены. Модель предназначена для анализа запросов перед передачей их соответствующему сценарию обработки; сигнал риска может указывать на необходимость поддерживающей реакции, например помощи в кризисной ситуации, и сам по себе не означает, что запрос нужно отклонить. В карточке приведены результаты оценки на трёх наборах: Vela превосходит исходную mmBERT Safety на Reviewed safety и CultureGuard, но уступает на AEGIS. Эти наборы использовались при выборе модели и не являются независимыми тестами; кроме того, результаты зависят от порога unsafe probability 0,5. Модель дообучена на vllm-sr/Vela-1.0-Encoder-307M, доступна в форматах Safetensors и ONNX и распространяется по лицензии Apache-2.0.

Модель aaronkantrowitz/ai-image-detection — дообученная на наборе CIFAKE модель Vision Transformer (ViT) для бинарной классификации изображений на реальные и сгенерированные ИИ. В карточке указана архитектура ViT-Base с входным размером 224×224 пикселя; метаданные каталога указывают 113,2 млн параметров и класс ViTForImageClassification. Базовая модель — dima806/ai_vs_real_image_detection, построенная на архитектуре google/vit-base-patch16-224-in21k. Модель предназначена для проверки изображений на признаки синтетической генерации, например при модерации контента и предварительной проверке подлинности. Она обучалась на CIFAKE; точность на современных генераторах может снижаться. Лицензия — Apache-2.0. Среди ограничений карточка отмечает возможное снижение точности на новых генераторах, сильно сжатых или небольших изображениях. Результат не следует использовать как единственное основание для важных решений; рекомендуется проверка человеком.

Bielik Guard (Sójka) — классификатор безопасности польскоязычных текстов, разработанный сообществом Bielik.AI при некоммерческой организации SpeakLeash. Модель дообучена на польском энкодере RoBERTa sdadas/mmlw-roberta-base и возвращает вероятностные оценки по нескольким категориям: ненависть и агрессия, вульгарная лексика, сексуальный контент, преступления и самоповреждение. Модель предназначена для анализа запросов и ответов в реальном времени, модерации контента и защиты чат-ботов. Оценки отражают долю разметивших текст участников, считавших его относящимся к категории, поэтому результат не сводится к бинарной метке. Модель поддерживает польский язык; её можно использовать как компонент систем модерации и безопасности. Это первая версия модели. Она не предназначена для обнаружения дезинформации, попыток обхода защит, нарушений авторских прав и категорий вне заданной таксономии. Возможны смещения из-за особенностей данных сообщества и ошибки на пограничных или новых типах контента; для комплексной защиты README рекомендует дополнительные меры. Лицензия — Apache-2.0.

DroidDetect-Base — классификатор кода, разработанный project-droid и дообученный на answerdotai/ModernBERT-base на датасете DroidCollection. Он относит фрагменты кода к одному из четырёх классов: написан человеком, сгенерирован машиной, доработан ИИ или создан с применением состязательных методов. Модель предназначена для выявления кода, связанного с генеративным ИИ, и различения его типов. При обучении использовались Cross-Entropy Loss и Batch-Hard Triplet Loss: дополнительная контрастивная составляющая помогает разделять представления человеческого и машинного кода. Модель принимает текст кода и выдаёт метку класса. Репозиторий содержит веса в формате PyTorch; лицензия — Apache-2.0. Надёжность классификации для разных языков программирования и устойчивость к новым способам маскировки в предоставленных данных не оценены.

Havenlon Execution Boundary — Qwen35 0.8B — компактная текстовая генеративная модель Havenlon из семейства Execution Boundary. Она предназначена для изучения того, можно ли сохранить рассуждения о допуске действий к исполнению в небольшой модели для локальной работы и устройств с ограниченными ресурсами. Модель помогает оценивать инициатора и содержание действия, затрагиваемый ресурс, текущее состояние, подтверждающие данные и ограничения политики, формируя решение вроде «разрешить», «отклонить», «запросить дополнительные данные» или «перейти в безопасное состояние».

Gemma-2 2B Agent Security — модель Sumit Guha для генерации текста в диалогах, настроенная защищать конфиденциальную конфигурацию ИИ-агента от утечек, сохраняя полезные ответы на безопасные запросы. Это дообучение с LoRA базовой модели thesreedath/gemma-2-2b-qa-sft на наборе sumitguha13/ai-agent-security-sft-dpo; используется плотная архитектура Gemma 2 с 2,7 млрд параметров. Метаданные указывают английский язык, контекст до 8192 токенов и лицензию Apache-2.0. В оценке на 80 ранее не встречавшихся агентах авторы сообщают нулевую долю утечек как на атакующих, так и на обычных запросах, а также более высокую оценку полезности на безопасных запросах относительно базовой модели. Результаты относятся к указанному набору из 240 атакующих и 240 безопасных запросов и не гарантируют защиту от новых типов атак. В README также отмечено снижение точности закрытых вопросов и отсутствие измеримого вклада этапа DPO относительно SFT.

Hemmingway-1-27B-abliterated — модифицированная версия Hemmingway-1 от distributedcognition. Это плотная текстовая модель семейства Qwen3.8 размером 27 млрд параметров: в исходных весах удалено направление отказа, а остальные тензоры сохранены. Модель предназначена для диалоговой генерации текста, в том числе для red teaming, исследований offensive security и оценки поведения отказов. Доступны веса Safetensors и квантизованные варианты GGUF; GGUF можно запускать через llama.cpp, LM Studio, Ollama и Jan, а модель также поддерживают Transformers, vLLM и SGLang. В README указан контекст до 262144 токенов. По приведённой оценке на 104 вредоносных запросах число отказов по оценке языковой модели-судьи снизилось со 101 до 21; результат MMLU составил 82,74% против 83,13% у базовой модели. Это не гарантирует качество на других запросах. Встроенные защитные отказы удалены, поэтому модель может содействовать вредоносным действиям; автор рекомендует самостоятельно добавлять модерацию входов и выходов. Лицензия — Apache-2.0.

Jash Vora разработал эту модель как нейронный компонент гибридного конвейера модерации hybrid-guardrails и как отдельную базовую модель для экспериментов. Это дообученная DeBERTa-v3-base с архитектурой DebertaV2ForSequenceClassification: 12 слоёв, размер скрытого состояния 768, около 211,6 млн параметров и контекст до 512 токенов. Модель относит текст к одному из двух классов: safe или unsafe. Модель предназначена для оценки текстовых запросов и проверки подходов к модерации вредоносных инструкций и токсичных высказываний, в том числе в гибридных системах с символьными правилами. В экспериментах на наборах проекта указаны precision 0,890, recall 0,952 и F1 0,919; эти результаты не подтверждают пригодность для произвольной производственной модерации. Для обучения использовались AdvBench, ToxiGen и Alpaca-Cleaned. Веса распространяются по лицензии MIT, однако условия использования и распространения обучающих данных различаются, включая ограничения некоммерческого использования для Alpaca-Cleaned.

OwenElliott разработал image-safety-classifier-l — компактную модель классификации изображений на базе SwiftFormer, дообученную для определения категорий NSFW, NSFL и SFW. Она предназначена для проверки изображений в сценариях, где важны небольшие размеры модели, низкая задержка или работа на периферийных устройствах. Модель обучена на частном наборе примерно из 320 тысяч изображений, включающем фотографии, рисунки, мемы, скриншоты и изображения, созданные ИИ. Для запуска доступны веса PyTorch и ONNX; в ONNX-вариантах предобработка, нормализация и softmax встроены в граф. Лицензия — MIT. Классификатор может ошибаться, а границы NSFW зависят от контекста. Класс NSFL представлен в обучающих данных значительно слабее, чем NSFW и SFW, поэтому качество распознавания жестокого контента может быть ограничено.

ImageShield-MMCF-0.8B-GGUF — мультимодальная модель-классификатор для обеспечения безопасности контента, разработанная prithivMLmods на основе Qwen/Qwen3.5-0.8B. Модель обучена примерно на 28 000 примерах для защитных механизмов модерации и предназначена прежде всего для классификации визуального контента по категориям «безопасный» и «небезопасный». Основное внимание уделено обнаружению NSFW-контента чувственного характера и других потенциально чувствительных изображений. Модель поддерживает обработку изображений и текста, использует формат GGUF и может применяться с llama.cpp; в репозитории также рекомендуются Transformers и точное соблюдение специального chat template. Доступны варианты BF16, F16 и квантованные сборки Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0, а также отдельные мультимодальные проекционные файлы. Заявлен английский язык. Размер базовой модели — 0,8 млрд параметров; сведения о размере контекста в README отсутствуют. Это экспериментальный выпуск, поэтому модель может демонстрировать непредсказуемое поведение и артефакты рассуждений. Она предназначена для исследовательских задач и классификации контента, а её результаты требуют ответственного использования и проверки. Лицензия — Apache-2.0.

ImageShield-MMCF-2B-vl-GGUF — мультимодальная модель классификации контента, разработанная prithivMLmods на базе Qwen/Qwen3-VL-2B-Instruct и обученная на наборе данных ImageShield-Guardrail-Multimodal-20K. Модель предназначена для анализа визуального контента и классификации его как безопасного или небезопасного. Основной сценарий применения — модерация изображений и выявление потенциально чувствительного визуального контента, в частности эротических материалов категории NSFW, а также других нарушений визуальной безопасности. Модель поддерживает обработку изображений с текстовыми инструкциями, рассчитана на английский язык и имеет около 2 млрд параметров. Точный размер контекста в README не указан. Для распространения доступны варианты GGUF с разными уровнями квантования, включая BF16, F16 и диапазон от Q3_K до Q8_0; также опубликованы отдельные мультимодальные проекторы. Релиз является экспериментальным: модель может демонстрировать неожиданное поведение и артефакты рассуждений, поэтому результаты требуют дополнительной проверки и не должны рассматриваться как безошибочные решения модерации. Она предназначена для исследовательских задач и классификации контента, а ответственность за применение результатов лежит на пользователе. Указана лицензия Apache-2.0; авторы рекомендуют использовать реализацию на базе Transformers, несмотря на доступность формата GGUF для llama.cpp.

onnx-community/nsfw_image_detection-ONNX — это ONNX-версия модели Falconsai/nsfw_image_detection, разработанная сообществом onnx-community. Модель предназначена для выявления контента сексуального характера на изображениях и может использоваться в сценариях автоматической модерации и фильтрации изображений. Модель автоматически преобразована и опубликована в формате ONNX для использования с библиотекой Transformers.js. В предоставленных данных не указаны точная архитектура, размер, поддерживаемые языки, модальности помимо изображений и ограничения контекста. Лицензия также не указана, поэтому условия использования необходимо уточнять в карточках исходной и ONNX-модели.

AlphaAvatar Persona Speaker Vector — модель для получения вектора признаков голоса, используемая плагином AlphaAvatar Persona. Это ERes2NetV2 в формате ONNX, побайтная копия артефакта из репозитория AlphaAvatar; README указывает, что веса происходят от ModelScope iic/speech_eres2netv2_sv_zh-cn_16k-common. Модель принимает последовательность 80-мерных Kaldi filterbank-признаков и выдаёт 192-мерный вектор говорящего. Для работы нужны монофонические аудиоданные с частотой 16 кГц и предварительная обработка: log-mel filterbank из 80 полос, без dithering, с нормализацией среднего по времени. Вектор модели сам по себе не L2-нормализован; перед вычислением косинусного сходства его нужно нормализовать. AlphaAvatar использует окна длительностью 3 секунды с шагом 1 секунда. Артефакт проверен с ONNX Runtime на CPU для нескольких размеров пакета и длины последовательностей. Модель подходит для построения эмбеддингов и сравнения голосов, включая проверку совпадения говорящего. README отмечает порог same/different 0,360 в конфигурации исходной модели, но AlphaAvatar применяет собственный порог сопоставления. Применяется лицензия Apache 2.0. Код экспортировавшего модель и скрипт экспорта не установлены; подтверждена идентичность ONNX-артефакта и отдельных тензоров исходному чекпойнту.

pii-layout-synth-v11 — модель на базе ModernBERT-base, дообученная для классификации токенов. По названию репозитория она предназначена для синтетической разметки персональных данных с учётом структуры макета, однако README не раскрывает назначение подробнее. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и принимает последовательности текста с контекстом до 8192 токенов. В README приведены результаты на оценочном наборе: F1 0,9926, точность 0,9907, полнота 0,9945 и accuracy 0,9987. Датасет и условия оценки не описаны, поэтому эти показатели не позволяют судить о качестве на других данных. Модель распространяется по лицензии Apache-2.0.

ZeroXClem/Qwen2.5-7B-Qandora-CySec — объединённая ZeroXClem на основе Qwen2.5 модель для диалоговой генерации текста. Она сочетает возможности ответов на общие вопросы модели bunnycore/QandoraExp-7B со знаниями в области кибербезопасности модели trollek/Qwen2.5-7B-CySecButler-v0.1; объединение выполнено методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2 dense и поддерживает контекст до 131 072 токенов. Модель предназначена для ответов на общие вопросы, анализа тем кибербезопасности и запросов, сочетающих общие знания со специализированной экспертизой. В метаданных также заявлен интерфейс вызова инструментов. Опубликованные веса представлены в формате safetensors; README упоминает отдельные GGUF-квантизации для Ollama. Лицензия — Apache-2.0. Количественные результаты в README приведены для Open LLM Leaderboard, но не описывают качество в конкретных задачах кибербезопасности.

Qwen3.8-27B-OBLITERATED — модифицированная версия открытой модели Qwen3.8-27B от Alibaba, опубликованная пользователем shivanandasai. Модель предназначена для генерации текста и локального использования, включая исследования AI safety, red teaming, оценку устойчивости защитных механизмов, анализ jailbreaks и prompt injection, а также задачи программирования и технические запросы. В README указано, что защитные ограничения исходной модели были удалены методом OBLITERATUS с шестью итеративными раундами и использованием пяти направлений SVD. Это не дообучение в обычном смысле, а хирургическая модификация весов. Размер модели составляет 27B параметров; базовая архитектура — Qwen3, тип конвейера — text-generation. Поддерживаемые модальности, языки и размер контекстного окна в README не указаны. Доступны форматы GGUF, Safetensors и MLX. Для генерации рекомендуются greedy decoding, temperature 0, repetition_penalty 1.15, max_new_tokens не менее 2048 и отключённый режим thinking. По заявленным тестам, модель не демонстрировала отказов на 842 вредоносных запросах, однако сохранила 81,4% в MMLU против 87,4% у исходной модели; качество завершённых ответов составило 79,9%. Главная особенность модели — отсутствие встроенных защитных отказов, что делает её пригодной для контролируемых исследований и оценки рисков, но создаёт существенные ограничения для безопасного применения: модель может без предупреждений генерировать вредоносный или опасный контент. README также отмечает отдельные пробелы в возможностях, включая один пустой ответ в тесте SQL injection. Модель распространяется по лицензии Apache-2.0.

SafeEdit-Safety-Classifier — классификатор безопасности текста от ZJUNLP, предназначенный для оценки ответов больших языковых моделей в контексте их детоксикации с помощью редактирования знаний. Модель использует архитектуру RoBERTa и класс RobertaForSequenceClassification; размер составляет 454,1 млн параметров, максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт классификацию, которую можно использовать для проверки ответов LLM на безопасность. Карточка показывает загрузку весов и токенизатора через Transformers. Модель опубликована под лицензией Apache-2.0. Карточка не описывает метки классов, пороги, языки обучения или качество классификации.

Safiron — дообученная языковая модель для проверки планов действий LLM-агентов до их выполнения. Она анализирует план, определяет, является ли он безопасным или рискованным, относит риск к категории и формирует краткое объяснение. Для унификации разных форматов планов авторы рекомендуют использовать модель вместе с модулем Adapter. Модель основана на плотной архитектуре MistralForCausalLM с 7,5 млрд параметров и контекстом до 32 768 токенов. Обучение включало supervised fine-tuning на синтетических безопасных и рискованных траекториях, а затем оптимизацию GRPO. Указан английский язык. Модель предназначена для генерации текста и запускается через vLLM или совместимые инструменты; метаданные также отмечают интерфейс вызова функций. Safiron может помогать выявлять опасные действия на этапе планирования и объяснять классификацию, но описание не приводит численных результатов оценки или подробностей ограничений по типам риска и форматам входных данных. Лицензия — CC BY 4.0.

SadraCoding/SDXL-Deepfake-Detector — экспериментальная дообученная модель бинарной классификации изображений лиц на классы «искусственное» и «человеческое». Она разработана на основе Organika/sdxl-detector и использует гибридную архитектуру: пространственные признаки Swin объединяются с 128-мерным представлением логарифма амплитудного спектра двумерного преобразования Фурье; дополнительная классификационная голова Swin обучается с отдельной функцией потерь. Изображения приводятся к размеру 224 × 224 и нормализуются по статистикам ImageNet. Модель предназначена для исследовательского анализа синтетических лицевых изображений и ограничена узкой областью данных, связанной с набором 140k Real and Fake Faces и изображениями, описанными как реальные или созданные StyleGAN. Она выдаёт метку класса и оценку softmax; эту оценку нельзя считать калиброванной вероятностью. README сообщает об экспериментальных метриках на тестовом наборе и о режиме раннего выхода, но подчёркивает, что доступных сведений недостаточно для независимого воспроизведения или проверки результатов. Классификатор не подтверждает подлинность или происхождение изображения, факт манипуляции, авторство или согласие изображённого человека. Его надёжность не установлена для подмены лиц, видео, SDXL и других неиспытанных генераторов либо произвольных изображений; не следует использовать его как единственное основание для значимых решений. Для загрузки требуется пользовательский код архитектуры, стандартный AutoModelForImageClassification не подходит. Лицензия CC BY-NC 3.0 ограничивает коммерческое использование.

Ateeqq/ai-vs-human-image-detector — модель классификации изображений, дообученная на базе SigLIP 2 для различения изображений, созданных ИИ, и изображений, созданных человеком. Для обучения использовалось по 60 000 изображений каждого типа; в карточке сообщается точность 99,23% и F1 99,23% на тестовом наборе. Модель подходит для предварительной проверки изображений в пользовательских загрузках, модерации и исследовательского анализа происхождения изображений. Модель использует архитектуру SigLIP для классификации изображений и распространяется в формате Safetensors через Transformers. В README пользователи сообщают о случаях переобучения, поэтому результаты на тестовом наборе не гарантируют такую же точность на новых источниках изображений. Лицензия — Apache-2.0.

DeTexD-RoBERTa-base — базовая модель RoBERTa для обнаружения и классификации деликатного текста. Она размечает текст по шести уровням риска: от неделикатного до очень высокого риска, что позволяет ранжировать потенциально чувствительное содержание по степени выраженности. Модель разработана для задачи из бенчмарка DeTexD: A Benchmark Dataset for Delicate Text Detection. Модель содержит 151,8 млн параметров, принимает текст и выдаёт метки классов. Контекст составляет до 514 токенов. Карточка указывает английский язык, формат PyTorch и лицензию Apache-2.0. Это базовая модель RoBERTa, а не заявленное дообучение другой модели; пример кода в README не содержит рабочего кода.

OwenElliott/image-safety-classifier-s — компактная модель классификации изображений, разработанная Owen Elliott для выявления небезопасного визуального контента. Она присваивает изображениям один из трёх классов: NSFW (порнографический или сильно suggestive-контент), NSFL (изображения с кровью и сценами жестокости) и SFW (остальное). Модель построена на архитектуре SwiftFormer и содержит 6,1 млн параметров; доступны веса PyTorch и ONNX, включая варианты fp32 и fp16. Небольшой размер рассчитан на запуск на периферийных устройствах и в сценариях с низкими требованиями к задержке. Модель предназначена для автоматической модерации изображений, предварительной фильтрации пользовательских загрузок и маркировки визуального контента. По заявлению автора, она обучена на примерно 320 тысячах изображений из сети, включая фотографии, рисунки, скриншоты, мемы и изображения, созданные ИИ; заявленная точность на оценочном наборе — 97,99%. Лицензия MIT разрешает использование и распространение на её условиях.

Kanana Safeguard-Siren — разработанная Kakao модель классификации пользовательских высказываний на юридические и политические риски в диалоговых системах ИИ. Она основана на Kanana 8B и использует плотную архитектуру Llama с 7,5 млрд параметров; модель опубликована в формате safetensors и рассчитана на запуск через Transformers. Контекстное окно составляет 8192 токена. Модель принимает текст на корейском языке и классифицирует его по заданной системе из четырёх категорий рисков, основанной на классификации MLCommons с дополнениями для законодательства Южной Кореи. Результат выдаётся одним токеном: <SAFE> либо <UNSAFE-I2>, где код обозначает категорию риска. Модель предназначена для фильтрации пользовательских реплик в диалоговых ИИ-системах; лицензия — Apache-2.0. Карточка сообщает о высокой классификационной точности на внутреннем корейском наборе оценки, но численные результаты недоступны. Возможны ложные срабатывания и пропуски, особенно в отдельных предметных областях. Модель не учитывает историю диалога и обнаруживает только заранее заданные категории рисков.

Jazhyc разработала Llama-3.1-8B AIMS GRPO — полноценно дообученную методом GRPO языковую модель на базе meta-llama/Llama-3.1-8B-Instruct. Она анализирует пользовательский запрос и выдаёт рассуждение, предполагаемое намерение автора и бинарную метку harmful или harmless. Модель предназначена для классификации безопасности запросов и проверки подходов к модерации, учитывающих намерение; при обучении использован набор Jazhyc/aims-safety-intents с аннотациями AIMS. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Она рассчитана на английский язык. В описанной серии модель показала средний F1 0,836 на пяти внешних бенчмарках; результаты относятся к указанной методике оценки и не гарантируют качество на других данных. Обучающие примеры обогащены неоднозначными и состязательными запросами и не отражают органический трафик; модель классифицирует запросы, а не ответы модели, выдаёт рассуждение и работает медленнее вариантов с прямой классификацией. Её не следует использовать как единственный источник решения при высокорисковой модерации. Лицензия — Llama 3.1 Community License (llama3.1).

SafetyGuard Content Binary Guard — текстовый классификатор K-intelligence на базе дообученной Llama 3.1 8B. Он проверяет ответы языковых моделей и присваивает им одну из двух меток: SAFE или UNSAFE; модель рассчитана на потоковую проверку растущих фрагментов ответа с возможностью остановить выдачу при обнаружении небезопасного содержания, а также на классификацию полного текста. Модель имеет архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно 8192 токена. Обучающие данные преимущественно корейские, поэтому качество на других языках не гарантируется. В README описаны категории риска, включая насилие, сексуальный контент и самоповреждение; модель не учитывает историю диалога и может ошибаться, особенно в специализированных областях. Лицензия — llama3.1.

MAGE — модель семейства Longformer для классификации текста, предназначенная для выявления машинно-сгенерированных текстов в реальных условиях. Она разработана для задачи определения происхождения текста и представлена в виде модели классификации последовательностей на базе Transformers и PyTorch. Модель содержит 151,8 млн параметров и поддерживает контекст до 4098 токенов. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0. Карточка называет задачу обнаружения машинно-сгенерированного текста, но не приводит подробностей об обучающих данных, перечне языков и точности. Классификатор может ошибаться на текстах, отличающихся от тех, на которых его обучали.