Характеристики

Контекст: 512 токенов
Параметры: 137 млн
Лицензия: MIT
Архитектура: electra · dense
Базовая модель: electra-base-discriminator
Опубликована: 2 мар 2022

Ссылки

suicidal-electra

Классификация текстаТекст → label3 профессии

Англоязычная ELECTRA-модель классифицирует текст на суицидальный и несуицидальный для первичной сортировки высказываний.

76скачиваний за 30 дней5лайковвеса обновлены5 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Suicidal-ELECTRA — англоязычная модель классификации текста, созданная дообучением Google ELECTRA Base Discriminator. Она определяет, относится ли текстовая последовательность к суицидальным высказываниям (класс 1) или несуицидальным (класс 0); подходит для исследовательских прототипов и первичной сортировки текстов. Модель содержит 136,7 млн параметров, использует архитектуру ELECTRA для классификации последовательностей и обрабатывает контекст длиной до 512 токенов.

Обучение проведено за одну эпоху на датасете Suicide and Depression Dataset из Kaggle: 232 074 сбалансированных примера, собранных с Reddit. В карточке сообщаются accuracy 0,9792, recall 0,9788, precision 0,9677 и F1 0,9732. Эти показатели относятся к оценке авторов на описанных данных и сами по себе не подтверждают качество на других источниках или в реальных сценариях. Модель выпущена под лицензией MIT.

Сценарии применения

Классификация англоязычных публикаций на суицидальные и несуицидальные
Первичная сортировка постов Reddit для анализа риска
Поиск суицидальных высказываний в текстовом корпусе

Ограничения

Обучена на данных Reddit и оценена на указанном в карточке датасете; результаты не гарантируют качество на других источниках. Обучение проводилось только одну эпоху, поэтому приведённые метрики следует рассматривать в контексте описанного эксперимента.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.4Отраслевые задачиКлиническая медицина и общественное здоровьеAI помогает поддерживать диагностику, лечение, наблюдение и организацию медицинской помощи.45 задач2 635моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей IV.8Отраслевые задачиГосударственное управление, правосудие и чрезвычайные ситуацииAI помогает улучшать государственные услуги, управление ресурсами, правосудие и реагирование на чрезвычайные ситуации.47 задач2 517моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Suicidal-ELECTRA

This text classification model predicts whether a sequence of words are suicidal (1) or non-suicidal (0).

Data

The model was trained on the Suicide and Depression Dataset obtained from Kaggle. The dataset was scraped from Reddit and consists of 232,074 rows equally distributed between 2 classes - suicide and non-suicide.

Parameters

The model fine-tuning was conducted on 1 epoch, with batch size of 6, and learning rate of 0.00001. Due to limited computing resources and time, we were unable to scale up the number of epochs and batch size.

Performance

The model has achieved the following results after fine-tuning on the aforementioned dataset:

Accuracy: 0.9792
Recall: 0.9788
Precision: 0.9677
F1 Score: 0.9732

How to Use

Load the model via the transformers library:

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("gooohjy/suicidal-electra")
model = AutoModel.from_pretrained("gooohjy/suicidal-electra")

Resources

For more resources, including the source code, please refer to the GitHub repository gohjiayi/suicidal-text-detection.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: ElectraForSequenceClassification
Ревизия весов: 3eb0da3