/ Модель

Характеристики

Контекст
512 токенов
Параметры
205 млн
Лицензия
MIT
Архитектура
bert · dense
Базовая модель
bert-base-multilingual-cased
Опубликована
27 авг 2024

sexual_content_dection

Классификация текстаТекст → label4 профессии

Многоязычная модель на базе BERT для выявления сексуального контента в тексте и именах файлов.

95скачиваний за 30 дней2лайкавеса обновлены12 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель uget/sexual_content_dection разработана liu wei и предназначена для бинарной классификации текста и имён файлов: она определяет, содержит ли текст сексуальный контент. В качестве основы использован многоязычный энкодер BERT с архитектурой BertForSequenceClassification, дообученный на 100 000 вручную размеченных примеров с шумом. Размер модели — 205,1 млн параметров; максимальная длина контекста по метаданным — 512 токенов, а README указывает максимальную длину 128 токенов.

Модель рассчитана на модерацию пользовательских материалов на форумах, в поисковых системах и облачных хранилищах. Карточка заявляет поддержку нескольких языков, а метаданные перечисляют английский, японский, китайский и корейский. В README указаны точность и F1 по 92%, но не приведены детали методики оценки. Лицензия — MIT.

Сценарии применения

  • модерация пользовательских сообщений на форумах
  • проверка имён файлов в облачном хранилище
  • фильтрация результатов поисковой выдачи по сексуальному содержимому
  • выявление замаскированных и вариативных названий порнографических материалов

Ограничения

README сообщает о шуме в обучающих данных и не описывает методику оценки заявленных метрик. Максимальная длина указана неодинаково: 128 токенов в README и 512 в метаданных.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

Detect sexual content in text or file names.

Model Details

Model Description

  • Developed by: liu wei
  • License: MIT
  • Finetuned from model: bert-base-multilingual-cased
  • Task: Simple Classification
  • Language: Multilingual
  • Max Length: 128
  • Updated Time: 2024-8-22

Model Training Information

  • Training Dataset Size: 100,000 manually annotated data with noise
  • Data Distribution: 50:50
  • Batch Size: 8
  • Epochs: 5
  • Accuracy: 92%
  • F1: 92%

Buy me a cup of coffee,thanks

Uses

  • Supports multiple languages, such as English, Chinese, Japanese, etc.
  • Use for detect content submitted by users in forums, magnetic search engines, cloud disks, etc.
  • Detect semantics and variant content, Porn movie numbers or variant file names.
  • Compared with GPT4O-mini, The detection accuracy is greatly improved.

Examples

  • Example English
predict("Tiffany Doll - Wine Makes Me Anal (31.03.2018)_1080p.mp4")
{
    "predictions": 1,
    "label": "Sexual"
}
  • Example Chinese
predict("橙子 · 保安和女业主的一夜春宵。路见不平拔刀相助,救下苏姐,以身相许!")
{
    "predictions": 1,
    "label": "Sexual"
}
  • Example Japanese
predict("MILK-217-UNCENSORED-LEAKピタコス Gカップ痴女 完全着衣で濃密5PLAY 椿りか 580 2.TS")
{
    "predictions": 1,
    "label": "Sexual"
}
  • Example Porn Movie Numbers
predict("DVAJ-548_CH_SD")
{
    "predictions": 1,
    "label": "Sexual"
}

How to Get Started with the Model

step 1:

Create a python file under this model, such as 'use_model.py'

import torch
from transformers import BertForSequenceClassification, BertTokenizer

# load model
tokenizer = BertTokenizer.from_pretrained("uget/sexual_content_dection")
model = BertForSequenceClassification.from_pretrained("uget/sexual_content_dection")

def predict(text):
    encoding = tokenizer(text, return_tensors="pt")
    encoding = {k: v.to(model.device) for k,v in encoding.items()}

    outputs = model(**encoding)
    probs = torch.sigmoid(outputs.logits)
    
    predictions = torch.argmax(probs, dim=-1)
    label_map = {0: "None", 1: "Sexual"}
    predicted_label = label_map[predictions.item()]
    print(f"Predictions:{predictions.item()}, Label:{predicted_label}")
    return {"predictions": predictions.item(), "label": predicted_label}

predict("Tiffany Doll - Wine Makes Me Anal (31.03.2018)_1080p.mp4")

step 2:

Run

python3 use_model.py

Response JSON

{
    "predictions": 1,
    "label": "Sexual"
}

Explanation

The results only include two situations:

  • predictions-0 Not Dectection sexual content;
  • predictions-1 Sexual content was detected.

Buy me a cup of coffee,thanks

Model Card Contact

Email: jack813@gmail.com

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
4250d8b

0 моделей