Характеристики

Контекст: 60 308 токенов
Параметры: 152 млн
Архитектура: roberta · dense
Опубликована: 16 июл 2022

Ссылки

Hugging Face

Vulnerability-detection

Zaib

Классификация текстаТекст → label5 профессий

Дообученная RoBERTa для классификации кода с целью выявления потенциально небезопасных фрагментов.

18скачиваний за 30 дней7лайковвеса обновлены5 авг 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Zaib/Vulnerability-detection — модель классификации текста, разработанная путём дообучения mrm8488/codebert-base-finetuned-detect-insecure-code на неизвестном наборе данных. Она предназначена для выявления потенциально небезопасного или уязвимого кода по входному тексту. Модель построена на архитектуре RoBERTa, содержит около 151,8 млн параметров и распространяется в формате PyTorch.

В README указан результат Loss 0,5778 на оценочном наборе, но не приведены его состав, метрики качества, схема меток и подробности обучения. Лицензия в предоставленных данных не указана.

Сценарии применения

поиск потенциально уязвимого кода
первичная проверка фрагментов кода на небезопасные шаблоны
классификация кода при аудите безопасности
отбор фрагментов кода для ручной проверки специалистом

Ограничения

Данные обучения и подробности оценки неизвестны; приведён только показатель Loss, поэтому качество выявления конкретных типов уязвимостей оценить нельзя. Результаты модели следует проверять вручную.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели II.5Разработка и данныеБезопасность программного кода и цепочки поставокAI помогает выявлять уязвимости в коде и цепочке поставок программного обеспечения.20 задач1 806моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей

Также подходит для

II.10Разработка и эксплуатация AI/ML-систем

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Vulnerability-detection

This model is a fine-tuned version of mrm8488/codebert-base-finetuned-detect-insecure-code on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.5778

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 5e-05
train_batch_size: 16
eval_batch_size: 64
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
lr_scheduler_warmup_steps: 500
num_epochs: 3

Training results

Framework versions

Transformers 4.21.1
Pytorch 1.12.0+cu113
Datasets 2.4.0
Tokenizers 0.12.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: RobertaForSequenceClassification
Ревизия весов: 8d35030