/ Модель

Характеристики

Контекст
512 токенов
Параметры
534 млн
Лицензия
MIT
Архитектура
deberta-v2 · dense
Базовая модель
deberta-v3-large
Библиотека
transformers
Опубликована
6 авг 2026

deberta_MP_dynamic

Классификация текстаТекст → label5 профессий

Дообученная на базе DeBERTa V3 Large модель для классификации текстовых последовательностей.

604скачиваний за 30 дней0лайковвеса обновлены9 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

debertaMPdynamic — дообученная модель orpe42 на базе microsoft/deberta-v3-large для классификации текстовых последовательностей. Она использует архитектуру DeBERTa V2 и содержит 533,8 млн параметров; максимальная длина контекста составляет 512 токенов. Модель принимает текст и выдаёт результат классификации.

В README приведены метрики на оценочном наборе: Macro F1 0,6518, Micro F1 0,6962 и Macro ROC AUC 0,9035. Датасет и назначение классов не описаны, поэтому эти показатели не позволяют определить пригодность для конкретной предметной области. Модель распространяется по лицензии MIT.

Сценарии применения

  • классификация текстов по заданным категориям
  • оценка вероятности принадлежности текста к классам
  • автоматическая разметка текстовых последовательностей

Ограничения

Датасет, набор классов и целевая область применения не описаны. Метрики приведены для оценочного набора без сведений о его составе.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

deberta_MP_dynamic

This model is a fine-tuned version of microsoft/deberta-v3-large on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 0.1315
  • Macro F1: 0.6518
  • Micro F1: 0.6962
  • Macro Precision: 0.6229
  • Macro Recall: 0.6869
  • Micro Precision: 0.6614
  • Micro Recall: 0.7348
  • Exact Match Ratio: 0.0764
  • Macro Roc Auc: 0.9035

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 3e-05
  • train_batch_size: 8
  • eval_batch_size: 8
  • seed: 42
  • gradient_accumulation_steps: 4
  • total_train_batch_size: 32
  • optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
  • lr_scheduler_type: cosine
  • lr_scheduler_warmup_steps: 0.1
  • num_epochs: 1000

Training results

Training LossEpochStepValidation LossMacro F1Micro F1Macro PrecisionMacro RecallMicro PrecisionMicro RecallExact Match RatioMacro Roc Auc
0.161212.83125000.14350.20580.39650.36320.17880.57930.30140.01870.7830
0.149425.649410000.13910.43770.54730.48250.43860.56110.53410.02840.8402
0.144338.467515000.13660.47590.58030.53500.48240.59380.56740.03150.8641
0.140451.285720000.13340.51310.61730.58790.49860.64920.58840.05180.8832
0.137664.103925000.13190.54750.63610.55720.57960.59420.68430.03280.8915
0.135776.935130000.13140.56600.64400.55190.61050.60230.69180.03370.8963
0.132889.753235000.12980.59180.66260.56630.64150.61280.72120.03950.9035
0.1311102.571440000.13030.59680.65900.55970.66170.59450.73940.03650.9051
0.1300115.389645000.13150.59220.65280.53580.68610.57510.75490.02960.9083
0.1282128.207850000.13060.61060.66890.56910.67680.60950.74090.04350.9077
0.1265141.026055000.12920.61950.67870.59870.65520.63610.72740.05200.9085
0.1248153.857160000.12970.61800.67550.57110.68940.60520.76440.04070.9113
0.1238166.675365000.13020.61540.67820.59730.65780.64690.71270.05390.9109
0.1230179.493570000.12960.62880.68380.59320.67780.64210.73120.05840.9075
0.1221192.311775000.12990.62750.68300.59980.67450.63890.73370.05820.9077
0.1205205.129980000.12990.63160.68390.62010.65860.65850.71140.05940.9066
0.1201217.961085000.13040.63060.68090.57830.70290.61410.76390.04470.9086
0.1189230.779290000.13030.63300.68510.59770.68030.64270.73350.05410.9086
0.1184243.597495000.13160.63030.68220.57950.70180.61960.75880.04510.9073
0.1184256.4156100000.13010.63620.68550.59550.69330.63770.74100.05450.9089
0.1180269.2338105000.13060.63730.68730.59970.69020.64050.74150.05570.9056
0.1175282.0519110000.13050.63900.68540.58820.70440.62730.75530.04790.9106
0.1171294.8831115000.13000.63920.69080.62010.67080.65980.72500.06360.9062
0.1169307.7013120000.13040.63980.68760.59010.70430.62850.75910.05120.9104
0.1154320.5195125000.13050.63880.68980.61700.67420.66470.71680.06900.9059
0.1151333.3377130000.13060.63920.68670.59900.69460.63950.74140.05730.9092
0.1156346.1558135000.13120.63690.68820.60610.68510.64820.73340.06090.9078
0.1147358.9870140000.13130.63780.68820.59580.69420.64260.74090.05960.9089
0.1140371.8052145000.13110.63970.68960.60880.68220.65500.72790.06510.9066
0.1138384.6234150000.13190.64120.68910.59950.69530.64340.74170.05810.9080
0.1136397.4416155000.13070.64280.69060.60870.68870.64620.74150.06220.9068
0.1131410.2597160000.13180.63990.68900.59550.69700.64210.74330.06310.9067
0.1129423.0779165000.13170.64070.69040.60190.69540.64970.73660.06340.9086
0.1126435.9091170000.13040.64150.69200.62180.67070.66770.71810.06830.9064
0.1123448.7273175000.13170.64120.68950.59530.69990.63990.74750.05930.9070
0.1121461.5455180000.13260.64140.69040.60080.69660.64670.74040.06090.9063
0.1122474.3636185000.13220.64140.68930.60370.69170.64510.74010.06070.9046
0.1114487.1818190000.13130.64190.69220.60650.68800.65230.73720.06440.9076
0.1110500.0195000.13100.64300.69380.63040.66290.67960.70860.07720.9034
0.1110512.8312200000.13180.64360.69300.61510.68360.66140.72780.06750.9045
0.1107525.6494205000.13130.64130.69190.61000.68430.65450.73370.06690.9056
0.1107538.4675210000.13180.64610.69360.61020.69230.65490.73700.06570.9051
0.1105551.2857215000.13210.64100.68960.59570.70110.63990.74780.05890.9059
0.1099564.1039220000.13270.64580.69260.60150.70410.64400.74910.05980.9052
0.1100576.9351225000.13250.64370.69220.59910.70110.64380.74850.06260.9061
0.1095589.7532230000.13250.64280.69300.60550.69240.65330.73780.06430.9053
0.1098602.5714235000.13130.64700.69560.62090.68070.66540.72880.07170.9035
0.1097615.3896240000.13240.64820.69590.60720.69810.65300.74490.06710.9055
0.1091628.2078245000.13240.64680.69330.61130.69330.65320.73860.06620.9035
0.1091641.0260250000.13220.64640.69440.60590.69660.65080.74420.06920.9044
0.1088653.8571255000.13190.65170.69770.62300.68630.66820.72990.07500.9036
0.1086666.6753260000.13150.64780.69700.62290.68070.66780.72900.07390.9033
0.1087679.4935265000.13280.64930.69450.60600.70410.64590.75100.06360.9055
0.1086692.3117270000.13290.64500.69330.60320.69720.64720.74640.06550.9020
0.1085705.1299275000.13280.64520.69380.61420.68710.65940.73210.07140.9024
0.1081717.9610280000.13260.64910.69600.61320.69330.65960.73660.07090.9027
0.1083730.7792285000.13250.64840.69510.61190.69330.65520.74030.06950.9044
0.1078743.5974290000.13260.64870.69550.61670.68840.66050.73440.07000.9032
0.1080756.4156295000.13220.64670.69480.61690.68450.65910.73460.07330.9018
0.1078769.2338300000.13250.64720.69480.60950.69330.65640.73800.06960.9034
0.1075782.0519305000.13260.64840.69620.61020.69440.65450.74360.06960.9019
0.1078794.8831310000.13270.64970.69620.61320.69410.65700.74040.07050.9035
0.1076807.7013315000.13280.64840.69580.61280.69250.65770.73860.06960.9050
0.1074820.5195320000.13280.64750.69580.60980.69420.65740.73900.07220.9041
0.1074833.3377325000.13210.65160.69820.62020.69060.66360.73670.07390.9040
0.1074846.1558330000.13260.64860.69670.61170.69460.65720.74130.07140.9037
0.1072858.9870335000.13210.65030.69750.62150.68550.66690.73100.07550.9031
0.1070871.8052340000.13270.64880.69610.61170.69460.65760.73940.07140.9043
0.1072884.6234345000.13280.65010.69690.61180.69650.65710.74170.07220.9033
0.1071897.4416350000.13260.65070.69740.61370.69570.65930.74030.07260.9034
0.1071910.2597355000.13230.65170.69840.62250.68760.66660.73330.07510.9027
0.1071923.0779360000.13260.65130.69790.61540.69490.65990.74060.07220.9035
0.1072935.9091365000.13260.65110.69760.61500.69500.65980.74000.07260.9034
0.1070948.7273370000.13250.65130.69800.61700.69290.66210.73810.07440.9033
0.1071961.5455375000.13260.65090.69750.61470.69500.65960.74000.07220.9037
0.1068974.3636380000.13250.65130.69800.61640.69380.66150.73880.07330.9035
0.1072987.1818385000.13250.65110.69800.61540.69460.66080.73960.07360.9036
0.10711000.0390000.13250.65130.69790.61570.69450.66080.73950.07320.9035

Framework versions

  • Transformers 5.12.1
  • Pytorch 2.5.1+cu121
  • Datasets 5.0.1
  • Tokenizers 0.22.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
DebertaV2ForSequenceClassification
Ревизия весов
0dda848

0 моделей