Характеристики

Контекст: 512 токенов
Параметры: 212 млн
Лицензия: MIT
Архитектура: deberta-v2 · dense
Базовая модель: deberta-v3-base
Библиотека: transformers
Опубликована: 3 окт 2024

Ссылки

Hugging Face

Intellect_binary

ajrayman

Классификация текстаТекст → label3 профессии

Дообученная DeBERTa-модель для классификации текстовых последовательностей.

18скачиваний за 30 дней0лайковвеса обновлены2 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Intellect_binary — модель классификации текста, созданная ajrayman тонкой настройкой microsoft/deberta-v3-base. Она использует архитектуру DeBERTa V2 и содержит 211,6 млн параметров; модель принимает текстовые последовательности длиной до 512 токенов и выдаёт результат классификации. Карточка не раскрывает названия классов и предметную область, поэтому назначение меток нельзя уточнить.

В README приведены результаты оценки: accuracy 0,6488, precision 0,6455, recall 0,6584, F1 0,6519 и AUC 0,6932. Модель распространяется по лицензии MIT. Карточка не описывает обучающие данные и ограничения применения.

Сценарии применения

Классификация текста по меткам, предусмотренным моделью
Встраивание классификатора в конвейер обработки текста
Оценка текстовых примеров в задаче, соответствующей меткам модели

Ограничения

В карточке не указаны названия классов, предметная область и обучающие данные. На приведённом наборе оценки F1 составляет 0,6519, поэтому пригодность для конкретного сценария следует оценивать отдельно.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Intellect_binary

This model is a fine-tuned version of microsoft/deberta-v3-base on the None dataset. It achieves the following results on the evaluation set:

Loss: 0.6596
Accuracy: 0.6488
Precision: 0.6455
Recall: 0.6584
F1: 0.6519
Auc: 0.6932

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 32
eval_batch_size: 32
seed: 1234
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
lr_scheduler_warmup_ratio: 0.06
num_epochs: 8

Training results

Training Loss	Epoch	Step	Validation Loss	Accuracy	Precision	Recall	F1	Auc
No log	1.0	118	0.6559	0.6164	0.5766	0.8728	0.6944	0.7155
No log	2.0	236	0.6098	0.6874	0.6812	0.7032	0.6920	0.7340
No log	3.0	354	0.6596	0.6488	0.6455	0.6584	0.6519	0.6932

Framework versions

Transformers 4.44.1
Pytorch 1.11.0
Datasets 2.12.0
Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры: DebertaV2ForSequenceClassification
Ревизия весов: 9dc6cbc