/ Модель

Характеристики

Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Базовая модель
Qwen3.5-2B-CyberSec
Библиотека
gguf
Опубликована
9 авг 2026

Qwen3.5-2B-CyberSec-GGUF

Генерация текстаТекст → текст3 профессии

Qwen3.5-2B-CyberSec-GGUF — это GGUF-версия модели Qwen3.5-2B-CyberSec, разработанной reaperdoesntknow.

5 673скачиваний за 30 дней0лайковвеса обновлены13 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Релиз предназначен для локального запуска через llama.cpp-совместимые среды. Исходная модель связана с датасетом Trendyol Cybersecurity Instruction Tuning Dataset, а в качестве зарегистрированной upstream-базы указана unsloth/Qwen3.5-2B.

Модель ориентирована на качественную локальную оценку кибербезопасностных сценариев, эксперименты на CPU и потребительских GPU, а также сравнение вариантов BF16, Q8_0 и Q4_K_M. Доступны файлы размером примерно от 1,31 ГБ для Q4_K_M до 3,90 ГБ для BF16. Q4_K_M рекомендован как исходный вариант для локального запуска, а BF16 должен обеспечивать наиболее высокую точность среди представленных сборок. Формат GGUF поддерживается llama.cpp и совместимыми рантаймами.

В конфигурации исходной модели присутствуют компоненты для работы с изображениями, а в репозитории есть файл мультимодального проектора BF16, однако документированного подтверждения мультимодального запуска нет. Поэтому поддержку изображений следует проверять отдельно с учётом проектора, формата промпта, версии рантайма и способа передачи изображения. Публичные результаты бенчмарков, регрессионных проверок и оценок безопасности отсутствуют; квантование может изменить качество и поведение относительно исходной модели, а генерируемые инструкции по безопасности могут быть ошибочными, небезопасными или иметь двойное назначение.

Модель не следует использовать как авторитетный механизм управления безопасностью или принимать на её основе решения без проверки. Сгенерированные команды необходимо анализировать и выполнять только в изолированной среде. Релиз распространяется по лицензии Apache-2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3.5-2B-CyberSec — GGUF

GGUF exports of reaperdoesntknow/Qwen3.5-2B-CyberSec for local inference with llama.cpp-compatible runtimes.

The source model is associated with the Trendyol Cybersecurity Instruction Tuning Dataset. No benchmark or safety-evaluation results are published with this GGUF release.

Available files

FileReported sizePractical use
Qwen3.5-2B.BF16.gguf3.90 GBHighest-fidelity GGUF build
Qwen3.5-2B.Q8_0.gguf2.08 GBHigh-quality quantized build
Qwen3.5-2B.Q4_K_M.gguf1.31 GBRecommended local starting point
Qwen3.5-2B.BF16-mmproj.ggufrepository artifactMultimodal projector; see caveat below

Run locally

llama-cli \
  -hf reaperdoesntknow/Qwen3.5-2B-CyberSec-GGUF:Q4_K_M \
  --jinja

With Ollama:

ollama run hf.co/reaperdoesntknow/Qwen3.5-2B-CyberSec-GGUF:Q4_K_M

Multimodal note

A BF16 projector file is present, and the source-model configuration includes vision components. This release does not include a documented multimodal smoke-test receipt. Verify the projector, prompt format, runtime version, and image path before claiming multimodal support.

Intended use

  • Local qualitative evaluation of the source checkpoint.
  • CPU or consumer-GPU experimentation.
  • Comparison of BF16, Q8_0, and Q4_K_M output quality.

Limitations and safety

  • Quantization can change quality and behavior relative to the source checkpoint.
  • The release has no published benchmark, regression, or safety report.
  • Generated security instructions may be wrong, unsafe, or dual use.
  • Do not execute generated commands without review and isolation.
  • Do not rely on the model as an authoritative security control or decision-maker.

Lineage and license

Part of the CIx cybersecurity model collection.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Класс архитектуры
Qwen3_5ForConditionalGeneration
Ревизия весов
1a5509d

0 моделей