Характеристики

Контекст: 512 токенов
Архитектура: distilbert · dense
Опубликована: 14 июн 2023

Ссылки

Hugging Face

NSFW-Prompt-Detector

ezb

Классификация текстаТекст → label3 профессии

Классификатор на базе DistilBERT для выявления NSFW и неподходящих текстовых промптов.

1 111скачиваний за 30 дней7лайковвеса обновлены25 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ezb/NSFW-Prompt-Detector — модель классификации текста, опубликованная пользователем ezb на Hugging Face. Карточка демонстрирует её использование как text-classification и указывает архитектуру DistilBERT для классификации последовательностей; модель предназначена для обнаружения NSFW или неподходящих текстовых промптов, например перед их передачей генератору изображений. Поддерживаемый язык по тегам карточки — английский, а максимальная длина контекста по метаданным — 512 токенов.

Репозиторий содержит веса PyTorch и safetensors. В конфигурации указан путь Zlatislav/NSFW-Prompt-Detector, что указывает на происхождение от этой модели; сведения о лицензии доступны в метаданных карточки как license: other. Карточка не приводит оценок качества или подробных ограничений, поэтому надёжность детекции за пределами заявленного сценария установить нельзя.

Сценарии применения

фильтрация NSFW-промптов перед генерацией изображений
классификация пользовательских текстовых запросов по приемлемости
проверка промптов в модерационном конвейере

Ограничения

Карточка не сообщает метрик качества или границ применимости детектора; для текстов длиннее 512 токенов заявленный контекст недостаточен.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели II.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Автор не опубликовал карточку модели.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DistilBertForSequenceClassification
Ревизия весов: 443d136