Clary-2-Cyber-Flash-1.7B

🇷🇺 Русская версия

Clary 2 Cyber Flash (1.7B) — высокоскоростная сбалансированная языковая модель семейства Clary 2, разработанная исследовательской командой Aurora System.

Модель построена на базе Qwen/Qwen3-1.7B и оптимизирована для быстрого локального анализа защищенности, решения CTF-задач, аудита скриптов, криптографических вычислений и помощи разработчикам непосредственно на рабочих станциях и ноутбуках с минимальным потреблением ресурсов.

Веса модели поставляются в нативном формате Safetensors (bfloat16) с объединёнными адаптерами DoRA, а также в форматах GGUF для запуска на CPU и мобильных устройствах.

📌 Ключевые возможности

• Скоростной аудит и автоматизация (CTF & DevSecOps)
  • Быстрая генерация вспомогательных скриптов на pwntools, requests, scapy и pycryptodome с минимальной задержкой инференса.
• Веб-безопасность (OWASP Top 10)
  • Анализ классических и слепых SQL-инъекций, обход валидации JWT (уязвимости неподписанных токенов), выявление XSS, CSRF и ошибок контроля доступа (IDOR/BOLA).
• Прикладной криптоанализ
  • Реализация атак на симметричные шифры (AES-ECB Cut-and-Paste), решение классических задач RSA с малым открытым показателем (атака Хастада через CRT), работа с хэш-функциями.
• Анализ кода и базовый реверс
  • Разбор простых ассемблерных функций x86_64, восстановление логики алгоритмов в читаемый код на C/Python, поиск ошибок переполнения буфера.
• Высокая сохранность общего интеллекта
  • За счет архитектурного баланса модель удерживает высокий уровень рассуждений (73.3% на ARC-Challenge и 55.0% на College CS) без выраженного эффекта деградации базы.
• Полноценный двуязычный контекст (RU/EN)
  • Свободное владение профессиональной англоязычной терминологией ИБ и грамотным русским языком.

📊 Результаты бенчмарков

Тестирование проводилось в автономной среде с использованием движка vLLM с детерминированным декодированием (temperature=0.0) и независимым слепым судейством.

1. Профильный домен: Кибербезопасность (Cybersecurity Suite)

2. Алгоритмы, программирование и точные науки (STEM)

3. Сравнительные бенчмарки (Clary 2 / Aurora System)

SecEval (Tencent Xuanwu Lab)

CyberMetric 500

MMLU (Сравнение по категориям CS и рассуждениям)

Aurora System Benchmark (внутренний практический срез)

🚀 Инструкции по использованию

Запуск через Hugging Face Transformers

import torch

from transformers import AutoModelForCausalLM, AutoTokenizer



MODEL_ID = "AuroraSystem/Clary-2-Cyber-Flash-1.7B"



tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, trust_remote_code=True)

model = AutoModelForCausalLM.from_pretrained(

    MODEL_ID,

    dtype=torch.bfloat16,

    device_map="auto",

    trust_remote_code=True

)



prompt = "Напиши Python-скрипт на requests для проверки наличия уязвимости Blind Time-based SQLi через замер времени отклика."



messages = [

    {"role": "system", "content": "You are Aurora, an expert cybersecurity assistant developed by Aurora System."},

    {"role": "user", "content": prompt}

]



inputs = tokenizer.apply_chat_template(

    messages,

    tokenize=True,

    add_generation_prompt=True,

    return_tensors="pt"

).to(model.device)



with torch.no_grad():

    outputs = model.generate(

        **inputs,

        max_new_tokens=512,

        do_sample=True,

        temperature=0.2,       # Рекомендуемый диапазон 0.2 – 0.3 для кода и CTF

        repetition_penalty=1.15

    )



print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))

Высокопроизводительный инференс через vLLM

vllm serve AuroraSystem/Clary-2-Cyber-Flash-1.7B 

  --dtype bfloat16 

  --max-model-len 8192 

  --gpu-memory-utilization 0.85 

  --trust-remote-code

Пример запроса через curl:

curl http://localhost:8000/v1/chat/completions 

  -H "Content-Type: application/json" 

  -d '{

    "model": "AuroraSystem/Clary-2-Cyber-Flash-1.7B",

    "messages": [

      {"role": "system", "content": "You are Aurora, an expert autonomous CTF assistant."},

      {"role": "user", "content": "Напиши функцию декодирования строки из Base64 с обработкой некорректного паддинга."}

    ],

    "temperature": 0.2,

    "max_tokens": 350

  }'

🛠️ Детали обучения

• Базовая архитектура: Qwen/Qwen3-1.7B
• Контекстное окно: 8 192 токена
• Метод адаптации: DoRA (Weight-Decomposed Low-Rank Adaptation)
  • Конфигурация: ранг $r = 32$, $alpha = 32$, Dropout = 0.05
  • Модули адаптации: q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj
• Слияние весов: Адаптеры DoRA нативно интегрированы с базовыми весами через merge_and_unload() в единый 16-битный тензор.

⚠️ Отказ от ответственности (Responsible Use)

Модель Aurora Clary 2 Cyber Flash (1.7B) создана исключительно в исследовательских и образовательных целях, а также для содействия специалистам по информационной безопасности при аудите исходного кода, защите инфраструктуры и участии в соревнованиях CTF.

Разработчики не несут ответственности за несанкционированное или деструктивное применение генерируемых материалов в реальных вычислительных сетях.

🏢 Разработчик

Aurora AI by Aurora System

🇬🇧 English Version

Clary 2 Cyber Flash (1.7B) is a lightweight, high-throughput language model of the Clary 2 family, developed by the Aurora System research team.

Built upon Qwen/Qwen3-1.7B, the model is optimized for fast local security assessment, CTF challenge solving, script auditing, cryptographic calculations, and developer assistance directly on local workstations and laptops with minimal hardware requirements.

Model weights are provided in native Safetensors format (bfloat16) with merged DoRA adapters, as well as in GGUF format for CPU and edge deployment.

📌 Key Capabilities

• Fast Security Auditing & Automation (CTF & DevSecOps)
  • Low-latency generation of practical scripts using pwntools, requests, scapy, and pycryptodome.
• Web Security Auditing (OWASP Top 10)
  • Detection and exploitation logic for SQLi (including blind time-based vectors), JWT validation bypass (unsigned token vulnerabilities), XSS, CSRF, and broken access control (IDOR/BOLA).
• Applied Cryptanalysis
  • Attacks on symmetric ciphers (AES-ECB Cut-and-Paste), classical small-exponent RSA factorization (Hastad’s broadcast attack via CRT), and hash-based challenges.
• Code Inspection & Basic Reverse Engineering
  • Decompilation of simple x86_64 assembly routines, reconstruction of algorithmic logic into readable C/Python code, and buffer overflow pattern analysis.
• High General Intelligence Retention
  • Thanks to balanced training dynamics, the model preserves high reasoning accuracy (73.3% on ARC-Challenge and 55.0% on College CS) without severe domain degradation.
• Bilingual Proficiency (RU/EN)
  • Fluent command of English technical security vocabulary and natural Russian phrasing.

📊 Benchmark Results

Testing was conducted in an isolated environment using vLLM with deterministic decoding (temperature=0.0) and independent blind evaluation.

1. Domain Focus: Cybersecurity Suite

2. Algorithms, Programming & Exact Sciences (STEM)

3. Comparative Benchmarks (Clary 2 / Aurora System)

SecEval (Tencent Xuanwu Lab)

CyberMetric 500

MMLU (Computer Science & Reasoning Comparison)

Aurora System Benchmark (Internal Practical Assessment)

🚀 Usage Instructions

Hugging Face Transformers

import torch

from transformers import AutoModelForCausalLM, AutoTokenizer



MODEL_ID = "AuroraSystem/Clary-2-Cyber-Flash-1.7B"



tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, trust_remote_code=True)

model = AutoModelForCausalLM.from_pretrained(

    MODEL_ID,

    dtype=torch.bfloat16,

    device_map="auto",

    trust_remote_code=True

)



prompt = "Write a Python script using requests to verify a blind time-based SQL injection via response time measurements."



messages = [

    {"role": "system", "content": "You are Aurora, an expert cybersecurity assistant developed by Aurora System."},

    {"role": "user", "content": prompt}

]



inputs = tokenizer.apply_chat_template(

    messages,

    tokenize=True,

    add_generation_prompt=True,

    return_tensors="pt"

).to(model.device)



with torch.no_grad():

    outputs = model.generate(

        **inputs,

        max_new_tokens=512,

        do_sample=True,

        temperature=0.2,       # Recommended range 0.2 – 0.3 for code and CTF

        repetition_penalty=1.15

    )



print(tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True))

High-Performance Inference with vLLM

vllm serve AuroraSystem/Clary-2-Cyber-Flash-1.7B 

  --dtype bfloat16 

  --max-model-len 8192 

  --gpu-memory-utilization 0.85 

  --trust-remote-code

Example request via curl:

curl http://localhost:8000/v1/chat/completions 

  -H "Content-Type: application/json" 

  -d '{

    "model": "AuroraSystem/Clary-2-Cyber-Flash-1.7B",

    "messages": [

      {"role": "system", "content": "You are Aurora, an expert autonomous CTF assistant."},

      {"role": "user", "content": "Write a robust base64 decoding helper function in Python that handles missing padding gracefully."}

    ],

    "temperature": 0.2,

    "max_tokens": 350

  }'

🛠️ Training Details

• Base Architecture: Qwen/Qwen3-1.7B
• Context Length: 8,192 tokens
• Adaptation Method: DoRA (Weight-Decomposed Low-Rank Adaptation)
  • Configuration: rank $r = 32$, $alpha = 32$, Dropout = 0.05
  • Target modules: q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj
• Weight Merging: Native integration of DoRA adapters via merge_and_unload() into a single 16-bit tensor.

⚠️ Responsible Use Disclaimer

The Clary 2 Cyber Flash (1.7B) model is created strictly for research and educational purposes, assisting cybersecurity professionals in source code auditing, infrastructure hardening, and defensive CTF competitions.

The developers assume no liability for unauthorized, unethical, or destructive use of generated outputs across live production networks.

🏢 Developer

Aurora AI by Aurora System