Характеристики

Контекст: 512 токенов
Параметры: 205 млн
Лицензия: MIT
Архитектура: bert · dense
Опубликована: 19 янв 2024

Ссылки

Hugging Face

news_classifier

MikhailRepkin

Классификация текстаТекст → label6 профессий

Модель классифицирует русскоязычные посты, определяя, являются ли они новостями.

11скачиваний за 30 дней7лайковвеса обновлены4 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MikhailRepkin/news_classifier — дообученная модель на базе Sentence RuBERT, созданная для бинарной классификации русскоязычных публикаций в Telegram: новость или не новость. Она предназначена, например, для отбора новостных сообщений в сервисе-агрегаторе. Модель использует архитектуру BERT для классификации последовательностей, содержит около 205,1 млн параметров и принимает текст длиной до 512 токенов.

По данным карточки, обучение проводилось на русскоязычных постах из Telegram; метрики на оценке составили 0,95 accuracy и 0,89 Matthews correlation. Результат выдаётся в виде метки класса: LABEL_1 означает новость, LABEL_0 — не новость. Модель распространяется по лицензии MIT. Оценка качества относится к указанным данным и метрикам; перенос на другие источники публикаций может потребовать отдельной проверки.

Сценарии применения

Отбор новостей из русскоязычных Telegram-каналов
Фильтрация неновостных постов в новостном агрегаторе
Автоматическая разметка публикаций метками «новость» и «не новость»

Ограничения

Модель обучалась на русскоязычных постах Telegram, поэтому качество на других источниках и стилях текста может отличаться. Максимальная длина входа составляет 512 токенов.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Details

Model Description

News_classifier is a fine-tuned model designed for binary classifying (news/not news) from various Russian-language Telegram channels. This model can be integrated into a news aggregation service.

Model type: Sentence RuBERT (Russian, cased, 12-layer, 768-hidden, 12-heads, 180M parameters)
Language(s): russian (ru)
License: mit
Finetuned from model: DeepPavlov/rubert-base-cased-sentence

Dataset

Russian telegram posts
train/valid/test: 2970/165/165

Training Details

token max length: 512
num labels: 2
batch size: 16
learning rate: 2e-5
train epochs: 20
weight decay: 0.01

Metrics:

Matthews_correlation (training evaluation metric): 0.89
Accuracy: 0.95

Label Scheme

LABEL_1 - news
LABEL_0 - not news

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForSequenceClassification
Ревизия весов: 085872d