Fine-tuned model that detects profanity in text.
This is the "tiny" version, see https://huggingface.co/tarekziade/pardonmyai
Evaluation:
- Accuracy: 0.9633
- Precision: 0.9378
- Recall: 0.8746
- F1 Score: 0.9051
- AUC-ROC: 0.9892
Характеристики
- Контекст
- 512 токенов
- Параметры
- 15,6 млн
- Лицензия
- Apache 2.0
- Архитектура
- bert · dense
- Базовая модель
- TinyBERT_General_4L_312D
- Библиотека
- transformers
- Опубликована
- 15 мар 2024
Ссылки
pardonmyai-tiny
Компактная дообученная модель TinyBERT для классификации текста и обнаружения ненормативной лексики.
64скачиваний за 30 дней3лайкавеса обновлены16 мар 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
tarekziade/pardonmyai-tiny — компактная модель классификации текста, дообученная на базе TinyBERT для обнаружения ненормативной лексики. Она предназначена для фильтрации сообщений и предварительной модерации пользовательского текста. Модель использует архитектуру BERT и содержит 15,6 млн параметров; максимальная длина контекста — 512 токенов. Доступны веса в форматах Safetensors и ONNX.
В README приведены метрики оценки: accuracy 0,9633, precision 0,9378, recall 0,8746, F1 0,9051 и AUC-ROC 0,9892. Модель выпущена под лицензией Apache-2.0. Карточка описывает обнаружение ненормативной лексики, но не уточняет поддерживаемые языки; качество может зависеть от языка, контекста и принятого определения ненормативной лексики.
Сценарии применения
- фильтрация ненормативной лексики в сообщениях
- предварительная модерация пользовательского текста
- проверка комментариев перед публикацией
Ограничения
README не сообщает, на каких языках обучена модель. Приведённые метрики не гарантируют такое же качество на других языках, текстовых жанрах и определениях ненормативной лексики.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейIV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейII.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers · text-classification
Подбираем GPU…
- Класс архитектуры
- BertForSequenceClassification
- Ревизия весов
- eae722d