Характеристики

Контекст: 512 токенов
Параметры: 190 млн
Лицензия: Apache 2.0
Архитектура: bert · dense
Базовая модель: bert-fa-base-uncased-clf-persiannews
Опубликована: 12 мар 2024

Ссылки

Hugging Face

uncased-clf-persiannews_v2

soltaniali

Классификация текстаТекст → label4 профессии

Дообученный BERT-классификатор для тематической классификации персидских новостей.

10скачиваний за 30 дней0лайковвеса обновлены12 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

uncased-clf-persiannews_v2 — модель классификации текста на основе BERT, разработанная как дообученная версия HooshvareLab/bert-fa-base-uncased-clf-persiannews. Она предназначена для отнесения персидских новостных текстов к тематическим категориям. Модель содержит 190 млн параметров, использует архитектуру BertForSequenceClassification и принимает текст с контекстом до 512 токенов.

На указанном в карточке наборе для оценки модель получила accuracy и F1 0,6504, precision 0,6521 и loss 0,9489. Данные обучения в README обозначены как None, поэтому состав обучающей выборки и области, в которых классификатор надёжно работает, оценить нельзя. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

Определение тематики персидской новости
Автоматическая сортировка новостей по рубрикам
Маршрутизация персидских новостных текстов в тематические разделы

Ограничения

На оценочном наборе accuracy и F1 составили 0,6504; состав и характеристики этого набора не описаны. README указывает None в качестве набора обучения, поэтому переносимость результатов на другие новостные данные неясна.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

uncased-clf-persiannews_v2

This model is a fine-tuned version of HooshvareLab/bert-fa-base-uncased-clf-persiannews on the None dataset. It achieves the following results on the evaluation set:

Loss: 0.9489
Accuracy: 0.6504
F1: 0.6504
Precision: 0.6521

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 5e-06
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 10

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy	F1	Precision
No log	1.0	221	1.1578	0.5051	0.4978	0.5159
No log	2.0	442	1.0197	0.5846	0.5823	0.5889
1.1541	3.0	663	0.9553	0.6118	0.6087	0.6163
1.1541	4.0	884	0.9413	0.6209	0.6199	0.6281
0.8174	5.0	1105	0.9203	0.6493	0.6493	0.6506
0.8174	6.0	1326	0.9302	0.6493	0.6479	0.6551
0.6483	7.0	1547	0.9411	0.6368	0.6346	0.6379
0.6483	8.0	1768	0.9430	0.6504	0.6496	0.6514
0.6483	9.0	1989	0.9469	0.6481	0.6478	0.6500
0.5439	10.0	2210	0.9489	0.6504	0.6504	0.6521

Framework versions

Transformers 4.38.2
Pytorch 2.1.0+cu121
Datasets 2.18.0
Tokenizers 0.15.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForSequenceClassification
Ревизия весов: 09ea4a3