/ Модель

Характеристики

Контекст
512 токенов
Архитектура
distilbert · dense

distilbert-base-uncased-ag-news

Классификация текстаТекст → label5 профессий

Дообученная TextAttack модель DistilBERT для классификации новостных текстов по категориям AG News.

298скачиваний за 30 дней3лайкавеса обновлены7 июл 2020

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель разработана TextAttack и представляет собой DistilBERT base uncased, дообученную для классификации новостных текстов на датасете AG News. Она относит входной текст к одной из категорий новостей; модель подходит для автоматической сортировки и тематической разметки новостных материалов.

Архитектура — DistilBertForSequenceClassification, веса в формате PyTorch. В карточке указаны обучение в течение пяти эпох с максимальной длиной последовательности 128 токенов и точность 0,9479 на оценочной выборке. Метаданные указывают нативный контекст до 512 токенов. Лицензия в предоставленных данных не указана.

Сценарии применения

  • распределение новостей по тематическим категориям
  • автоматическая разметка новостных статей
  • сортировка новостной ленты по темам

Ограничения

Модель обучена на AG News, поэтому её категории и качество могут не соответствовать другим типам текстов или новостным таксономиям. Точность 0,9479 относится к оценочной выборке, описанной в карточке.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TextAttack Model CardThis distilbert-base-uncased model was fine-tuned for sequence classification using TextAttack

and the ag_news dataset loaded using the nlp library. The model was fine-tuned for 5 epochs with a batch size of 32, a learning rate of 2e-05, and a maximum sequence length of 128. Since this was a classification task, the model was trained with a cross-entropy loss function. The best score the model achieved on this task was 0.9478947368421052, as measured by the eval set accuracy, found after 1 epoch.

For more information, check out TextAttack on Github.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
DistilBertForSequenceClassification
Ревизия весов
52ee64d

0 моделей