/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Лицензия
MIT
Архитектура
bert · dense
Базовая модель
bert-base-uncased
Опубликована
28 мар 2022

suicidal-bert

Классификация текстаТекст → label3 профессии

Англоязычная модель на базе BERT для классификации текстов по наличию суицидальной тематики.

102скачиваний за 30 дней2лайкавеса обновлены5 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Suicidal-BERT — англоязычная модель классификации текста, разработанная gohjiayi на основе google-bert/bert-base-uncased и дообученная для определения суицидальной тематики в последовательности слов. Она относит текст к одному из двух классов: суицидальный или несуицидальный. Модель предназначена для анализа англоязычных публикаций и текстов, в том числе сообщений в социальных сетях.

Модель построена на архитектуре BERT для классификации последовательностей, содержит 136,7 млн параметров и принимает текст с контекстом до 512 токенов. В README приведены результаты оценки на использованном наборе данных: accuracy 0,9757, recall 0,9669, precision 0,9701 и F1 0,9685. Данные собраны с Reddit и поровну распределены между двумя классами; дообучение проводилось в течение одной эпохи. Модель распространяется по лицензии MIT.

Показатели из README относятся к указанному набору данных и не подтверждают качество на других источниках или в реальных сценариях. Классификацию не следует использовать как клиническую оценку или единственное основание для решений, связанных с безопасностью; возможны ошибки и смещение из-за состава обучающих данных.

Сценарии применения

  • выявление суицидальной тематики в публикациях Reddit
  • предварительная фильтрация англоязычных сообщений для последующей проверки специалистом
  • классификация текстов на суицидальные и несуицидальные

Ограничения

Оценки качества приведены для набора данных из Reddit и не гарантируют переносимость на другие источники или клиническое применение. Модель обучалась одну эпоху на сбалансированных данных и может ошибаться; её вывод не заменяет профессиональную оценку.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Suicidal-BERT

This text classification model predicts whether a sequence of words are suicidal (1) or non-suicidal (0).

Data

The model was trained on the Suicide and Depression Dataset obtained from Kaggle. The dataset was scraped from Reddit and consists of 232,074 rows equally distributed between 2 classes - suicide and non-suicide.

Parameters

The model fine-tuning was conducted on 1 epoch, with batch size of 6, and learning rate of 0.00001. Due to limited computing resources and time, we were unable to scale up the number of epochs and batch size.

Performance

The model has achieved the following results after fine-tuning on the aforementioned dataset:

  • Accuracy: 0.9757
  • Recall: 0.9669
  • Precision: 0.9701
  • F1 Score: 0.9685

How to Use

Load the model via the transformers library:

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("gooohjy/suicidal-bert")
model = AutoModel.from_pretrained("gooohjy/suicidal-bert")

Resources

For more resources, including the source code, please refer to the GitHub repository gohjiayi/suicidal-text-detection.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
3a76bda

0 моделей