/ Модель

Характеристики

Контекст
512 токенов
Параметры
4,4 млн
Лицензия
BSD 3-Clause
Архитектура
bert · dense
Опубликована
18 ноя 2023

OTIS-Official-Spam-Model

Классификация текстаТекст → label3 профессии

Компактная BERT-модель классифицирует английский текст для выявления спама в цифровых каналах общения.

258скачиваний за 30 дней12лайковвеса обновлены23 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Otis Anti-Spam AI — модель для выявления спама и нежелательного или вредоносного содержимого в цифровых каналах общения. По метаданным это компактная модель классификации последовательностей на основе BERT с архитектурой BertForSequenceClassification и 4,4 млн параметров; она принимает текст, а максимальная длина контекста составляет 512 токенов. Карточка представляет модель как антиспам-инструмент, но не раскрывает подробности обучения, набор меток и результаты оценки.

Модель предназначена для классификации сообщений, чтобы фильтровать спам в цифровой переписке. Указан английский язык. Доступны веса в форматах PyTorch, safetensors и ONNX. Лицензия — BSD 3-Clause.

Сценарии применения

  • фильтрация спам-сообщений в чатах
  • выявление нежелательных сообщений в цифровой переписке
  • предварительная классификация входящих сообщений для антиспам-фильтра

Ограничения

Карточка не приводит метрики качества, описание набора меток или сведения о данных обучения, поэтому пригодность для конкретных каналов и типов спама следует проверять отдельно. Контекст ограничен 512 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

GitHub forks GitHub Repo stars GitHub GitHub code size in bytes

Quickstart

# pip install transformers
from transformers import pipeline


def analyze_output(input: str):
    pipe = pipeline("text-classification", model="Titeiiko/OTIS-Official-Spam-Model")
    x = pipe(input)[0]
    if x["label"] == "LABEL_0":
        return {"type":"Not Spam", "probability":x["score"]}
    else:
        return {"type":"Spam", "probability":x["score"]}
    

print(analyze_output("Cһeck out our amazinɡ bооѕting serviсe ѡhere you can get to Leveӏ 3 for 3 montһs for just 20 USD."))

#Output: {'type': 'Spam', 'probability': 0.9996588230133057}

About The Project

Introducing Otis: Otis is an advanced anti-spam artificial intelligence model designed to mitigate and combat the proliferation of unwanted and malicious content within digital communication channels.

Contributing

Contributions are what make the open source community such an amazing place to learn, inspire, and create. Any contributions you make are greatly appreciated.

If you have a suggestion that would make this better, please fork the repo and create a pull request. You can also simply open an issue with the tag "enhancement". Don't forget to give the project a star! Thanks again!

  1. Fork the Project
  2. Create your Feature Branch (git checkout -b JewishLewish/Otis)
  3. Commit your Changes (git commit -m 'Add some AmazingFeatures')
  4. Push to the Branch (git push origin JewishLewish/Otis)
  5. Open a Pull Request

License

Distributed under the BSD-3 License. See LICENSE.txt for more information.

Contact

My Email: lenny@lunes.host

OtisV1

{'loss': 0.2879, 'learning_rate': 4.75e-05, 'epoch': 0.5}
{'loss': 0.1868, 'learning_rate': 4.5e-05, 'epoch': 1.0}                                                                                                                                                                                                                                                                     
{'eval_loss': 0.23244266211986542, 'eval_runtime': 4.2923, 'eval_samples_per_second': 465.951, 'eval_steps_per_second': 58.244, 'epoch': 1.0}                                                                                                                                                                                
{'loss': 0.1462, 'learning_rate': 4.25e-05, 'epoch': 1.5}                                                                                                                                                                                                                                                                    
{'loss': 0.1244, 'learning_rate': 4e-05, 'epoch': 2.0}
{'eval_loss': 0.19869782030582428, 'eval_runtime': 4.5759, 'eval_samples_per_second': 437.075, 'eval_steps_per_second': 54.634, 'epoch': 2.0}                                                                                                                                                                                
{'loss': 0.0962, 'learning_rate': 3.7500000000000003e-05, 'epoch': 2.5}                                                                                                                                                                                                                                                      
{'loss': 0.07, 'learning_rate': 3.5e-05, 'epoch': 3.0}
{'eval_loss': 0.18761929869651794, 'eval_runtime': 4.1205, 'eval_samples_per_second': 485.372, 'eval_steps_per_second': 60.672, 'epoch': 3.0}                                                                                                                                                                                
{'loss': 0.0553, 'learning_rate': 3.2500000000000004e-05, 'epoch': 3.5}                                                                                                                                                                                                                                                      
{'loss': 0.0721, 'learning_rate': 3e-05, 'epoch': 4.0}
{'eval_loss': 0.19852963089942932, 'eval_runtime': 3.992, 'eval_samples_per_second': 501.004, 'eval_steps_per_second': 62.625, 'epoch': 4.0}                                                                                                                                                                                 
{'loss': 0.0447, 'learning_rate': 2.7500000000000004e-05, 'epoch': 4.5}                                                                                                                                                                                                                                                      
{'loss': 0.0461, 'learning_rate': 2.5e-05, 'epoch': 5.0}
{'eval_loss': 0.20028768479824066, 'eval_runtime': 3.8479, 'eval_samples_per_second': 519.766, 'eval_steps_per_second': 64.971, 'epoch': 5.0}                                                                                                                                                                                
{'loss': 0.0432, 'learning_rate': 2.25e-05, 'epoch': 5.5}                                                                                                                                                                                                                                                                    
{'loss': 0.033, 'learning_rate': 2e-05, 'epoch': 6.0}
{'eval_loss': 0.20464178919792175, 'eval_runtime': 3.9167, 'eval_samples_per_second': 510.638, 'eval_steps_per_second': 63.83, 'epoch': 6.0}                                                                                                                                                                                 
{'loss': 0.0356, 'learning_rate': 1.75e-05, 'epoch': 6.5}                                                                                                                                                                                                                                                                    
{'loss': 0.027, 'learning_rate': 1.5e-05, 'epoch': 7.0}
{'eval_loss': 0.20742492377758026, 'eval_runtime': 3.9716, 'eval_samples_per_second': 503.578, 'eval_steps_per_second': 62.947, 'epoch': 7.0}                                                                                                                                                                                
{'loss': 0.0225, 'learning_rate': 1.25e-05, 'epoch': 7.5}                                                                                                                                                                                                                                                                    
{'loss': 0.0329, 'learning_rate': 1e-05, 'epoch': 8.0}
{'eval_loss': 0.20604351162910461, 'eval_runtime': 4.0244, 'eval_samples_per_second': 496.964, 'eval_steps_per_second': 62.12, 'epoch': 8.0}                                                                                                                                                                                 
{'loss': 0.0221, 'learning_rate': 7.5e-06, 'epoch': 8.5}                                                                                                                                                                                                                                                                     
{'loss': 0.0127, 'learning_rate': 5e-06, 'epoch': 9.0}
{'eval_loss': 0.21241146326065063, 'eval_runtime': 3.9242, 'eval_samples_per_second': 509.659, 'eval_steps_per_second': 63.707, 'epoch': 9.0}                                                                                                                                                                                
{'loss': 0.0202, 'learning_rate': 2.5e-06, 'epoch': 9.5}                                                                                                                                                                                                                                                                     
{'loss': 0.0229, 'learning_rate': 0.0, 'epoch': 10.0}
{'eval_loss': 0.2140526920557022, 'eval_runtime': 3.9546, 'eval_samples_per_second': 505.743, 'eval_steps_per_second': 63.218, 'epoch': 10.0}                                                                                                                                                                                
{'train_runtime': 667.0781, 'train_samples_per_second': 119.926, 'train_steps_per_second': 14.991, 'train_loss': 0.07010261821746826, 'epoch': 10.0} 

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
2586e3d

0 моделей