Характеристики

Контекст: 512 токенов
Параметры: 205 млн
Архитектура: bert · dense
Базовая модель: rubert-base-cased
Опубликована: 13 сен 2023

Ссылки

Hugging Face

news_topic_classification

kartashoffv

Классификация текстаТекст → label6 профессий

Дообученная русскоязычная BERT-модель для определения тематики новостных текстов.

15скачиваний за 30 дней0лайковвеса обновлены13 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

kartashoffv/news_topic_classification — дообученная модель BERT для классификации текста по темам новостей. Она основана на русскоязычной DeepPavlov/rubert-base-cased и содержит 205,1 млн параметров; максимальная длина контекста — 512 токенов. Модель предназначена для присвоения новостным текстам тематических меток и может использоваться в автоматической сортировке новостей и тематической разметке публикаций.

В карточке приведён результат F1 0,8712 на оценочном наборе, но название и состав набора, схема классов и методика оценки не раскрыты. Модель работает с текстом и выдаёт классификационные метки. Используются форматы PyTorch и safetensors; лицензия в предоставленных данных не указана.

Сценарии применения

Автоматически распределять новости по тематическим рубрикам
Размечать архив новостей тематическими категориями
Сортировать новостные публикации для тематических лент

Ограничения

Датасет, перечень тематических классов и подробности оценки не раскрыты, поэтому результат F1 0,8712 трудно интерпретировать вне исходного тестового набора. Лицензия не указана в предоставленных данных.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

news_topic_classification

This model is a fine-tuned version of DeepPavlov/rubert-base-cased on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 0.7058
F1: 0.8712

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 10
eval_batch_size: 10
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 5

Training results

Training Loss	Epoch	Step	Validation Loss	F1
0.7979	1.0	700	0.5218	0.8569
0.3673	2.0	1400	0.5402	0.8697
0.2483	3.0	2100	0.6277	0.8668
0.1684	4.0	2800	0.6599	0.8712
0.1099	5.0	3500	0.7058	0.8712

Framework versions

Transformers 4.33.1
Pytorch 2.0.1+cu118
Datasets 2.14.5
Tokenizers 0.13.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForSequenceClassification
Ревизия весов: 14d1080