/ Модель

Характеристики

Контекст
512 токенов
Лицензия
Apache 2.0
Архитектура
distilbert · dense
Базовая модель
distilbert-base-uncased
Библиотека
transformers
Опубликована
19 июл 2026

my_awesome_wnut_model

Разметка токеновТекст → label3 профессии

Дообученная англоязычная DistilBERT-модель для разметки токенов в тексте.

10скачиваний за 30 дней0лайковвеса обновлены21 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

my_awesome_wnut_model — дообученная модель DistilBERT для классификации токенов, созданная на основе distilbert/distilbert-base-uncased. Она предназначена для разметки отдельных токенов в тексте; README сообщает метрики на оценочном наборе: F1 0,4640, точность 0,5351 и полнота 0,4096. Модель использует архитектуру DistilBertForTokenClassification, принимает текст с контекстом до 512 токенов и распространяется по лицензии Apache-2.0. Набор меток и обучающие данные в карточке не описаны, а качество по приведённым метрикам ограничено.

Сценарии применения

  • разметка сущностей и категорий отдельных слов в английском тексте
  • извлечение упоминаний из коротких сообщений
  • эксперименты с классификацией токенов на основе DistilBERT

Ограничения

README не раскрывает обучающий датасет и набор меток. На оценочном наборе F1 составляет 0,4640, поэтому качество разметки может быть ограниченным.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

my_awesome_wnut_model

This model is a fine-tuned version of distilbert/distilbert-base-uncased on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 0.3613
  • Precision: 0.5351
  • Recall: 0.4096
  • F1: 0.4640
  • Accuracy: 0.9462

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 2e-05
  • train_batch_size: 16
  • eval_batch_size: 16
  • seed: 42
  • optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
  • lr_scheduler_type: linear
  • num_epochs: 20

Training results

Training LossEpochStepValidation LossPrecisionRecallF1Accuracy
No log1.02130.28100.67220.26230.37730.9400
No log2.04260.25590.55020.31970.40450.9443
0.17753.06390.28670.52900.34660.41880.9446
0.17754.08520.28580.52930.40960.46190.9456
0.04135.010650.30640.52690.39940.45440.9459
0.04136.012780.32950.55380.40040.46480.9472
0.04137.014910.34260.55730.41890.47830.9474
0.01738.017040.35250.51420.38650.44130.9451
0.01739.019170.36130.53510.40960.46400.9462

Framework versions

  • Transformers 5.15.0
  • Pytorch 2.11.0+cpu
  • Datasets 4.0.0
  • Tokenizers 0.22.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
DistilBertForTokenClassification
Ревизия весов
81ac35c

0 моделей