/ Модель

Характеристики

Контекст
512 токенов
Лицензия
Apache 2.0
Архитектура
distilbert · dense
Базовая модель
KA_demo
Библиотека
transformers
Опубликована
21 ноя 2024

KA_retrained_v1

Классификация текстаТекст → label

Дообученная на базе DistilBERT модель для классификации текстовых последовательностей.

8скачиваний за 30 дней0лайковвеса обновлены22 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

KAretrainedv1 — модель классификации последовательностей на базе DistilBERT, разработанная путём дообучения marklicata/KA_demo. Она предназначена для отнесения входного текста к классам; карточка сообщает о дообучении на наборе данных, обозначенном как None, и приводит значение loss 1,1406 на оценочной выборке. Контекст модели составляет 512 токенов, веса представлены в формате safetensors, библиотека — Transformers. Модель распространяется по лицензии Apache-2.0.

Карточка не описывает набор классов, назначение классификации, состав данных и качество по отдельным метрикам, поэтому практическую область применения и надёжность предсказаний определить нельзя. Используйте её с учётом необходимости проверить соответствие собственным данным и классам.

Сценарии применения

  • классификация текстовых последовательностей
  • отнесение текста к заданным категориям
  • эксперименты с классификацией на базе DistilBERT

Ограничения

Не указаны классы и конкретная область применения; приведено только значение loss 1,1406 без контекста и сравнительных метрик. Языки и свойства обучающего набора не описаны.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

KA_retrained_v1

This model is a fine-tuned version of marklicata/KA_demo on the None dataset. It achieves the following results on the evaluation set:

  • Loss: 1.1406

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 8
  • eval_batch_size: 8
  • seed: 42
  • optimizer: Use adamw_torch with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
  • lr_scheduler_type: linear
  • num_epochs: 3

Training results

Training LossEpochStepValidation Loss
No log1.01191.4550
No log2.02381.3147
No log3.03571.1406

Framework versions

  • Transformers 4.46.3
  • Pytorch 2.5.1+cpu
  • Datasets 3.1.0
  • Tokenizers 0.20.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
DistilBertForSequenceClassification
Ревизия весов
835ab0e

0 моделей