Характеристики

Контекст: 512 токенов
Параметры: 306 млн
Лицензия: MIT
Архитектура: deberta-v2 · dense
Базовая модель: mdeberta-v3-base
Библиотека: transformers
Опубликована: 21 мая 2025

Ссылки

Hugging Face

mdeberta-v3-base-finetuned-climate-vs-environment-classification

mljn

Классификация текстаТекст → label4 профессии

Дообученная DeBERTa V3 для классификации текстов по темам климата и окружающей среды.

27скачиваний за 30 дней0лайковвеса обновлены1 июн 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mljn/mdeberta-v3-base-finetuned-climate-vs-environment-classification — дообученная модель классификации текста на базе microsoft/mdeberta-v3-base от Microsoft. Она предназначена для различения текстов о климате и окружающей среде. В README приведены результаты на оценочном наборе: accuracy 0,9337 и macro F1 0,9322.

Модель использует архитектуру DeBERTa V3 для классификации последовательностей, содержит 306 млн параметров и принимает текст длиной до 512 токенов. Базовая модель многоязычная, однако конкретные языки и обучающие данные для этой версии не описаны. Распространяется по лицензии MIT.

Сценарии применения

Определение, посвящён ли текст климату или окружающей среде
Разметка новостных материалов по темам климата и экологии
Классификация публикаций для тематического поиска

Ограничения

README не раскрывает обучающий набор данных, поддерживаемые языки и точные определения классов. Приведённые метрики относятся только к оценочному набору; контекст ограничен 512 токенами.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mdeberta-v3-base-finetuned-climate-vs-environment-classification

This model is a fine-tuned version of microsoft/mdeberta-v3-base on the None dataset. It achieves the following results on the evaluation set:

Loss: 0.3534
Accuracy: 0.9337
F1 Macro: 0.9322
Accuracy Balanced: 0.9309
F1 Micro: 0.9337
Precision Macro: 0.9336
Recall Macro: 0.9309
Precision Micro: 0.9337
Recall Micro: 0.9337

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Use OptimizerNames.ADAMW_TORCH with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: linear
lr_scheduler_warmup_ratio: 0.06
num_epochs: 4

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy	F1 Macro	Accuracy Balanced	F1 Micro	Precision Macro	Recall Macro	Precision Micro	Recall Micro
0.5053	0.5663	500	0.3745	0.8924	0.8911	0.8953	0.8924	0.8892	0.8953	0.8924	0.8924
0.3056	1.1325	1000	0.3315	0.9151	0.9139	0.9174	0.9151	0.9119	0.9174	0.9151	0.9151
0.2184	1.6988	1500	0.3414	0.9264	0.9253	0.9280	0.9264	0.9234	0.9280	0.9264	0.9264
0.2006	2.2650	2000	0.3502	0.9298	0.9279	0.9255	0.9298	0.9310	0.9255	0.9298	0.9298
0.1464	2.8313	2500	0.3143	0.9337	0.9323	0.9321	0.9337	0.9325	0.9321	0.9337	0.9337
0.1177	3.3975	3000	0.3550	0.9349	0.9332	0.9313	0.9349	0.9356	0.9313	0.9349	0.9349
0.0992	3.9638	3500	0.3534	0.9337	0.9322	0.9309	0.9337	0.9336	0.9309	0.9337	0.9337

Framework versions

Transformers 4.52.2
Pytorch 2.6.0+cu124
Datasets 2.14.4
Tokenizers 0.21.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DebertaV2ForSequenceClassification
Ревизия весов: 513c49c