/ Модель

Характеристики

Контекст
512 токенов
Параметры
136 млн
Архитектура
albert · dense

albert-base-v2-ag-news

Классификация текстаТекст → label5 профессий

Модель ALBERT, дообученная для распределения новостных текстов по тематическим категориям AG News.

159скачиваний за 30 дней0лайковвеса обновлены7 июл 2020

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модель классификации текста на основе ALBERT-base-v2, дообученная TextAttack на наборе данных AG News для отнесения новостных текстов к тематическим категориям. Она принимает последовательность текста и выдаёт метку класса; модель обучалась пять эпох с максимальной длиной последовательности 128 токенов. В карточке указана точность 0,947 на проверочной выборке.

Модель предназначена для классификации новостных публикаций по категориям AG News. Архитектура — ALBERT для классификации последовательностей; размер составляет 136,3 млн параметров, нативное окно контекста — 512 токенов. Лицензия в предоставленных данных не указана.

Сценарии применения

  • Классификация новостных статей по темам AG News
  • Автоматическая категоризация англоязычной новостной ленты
  • Разметка новостных текстов для тематического архива

Ограничения

Обучена для категорий AG News, поэтому может не подходить для других схем тематической классификации без дополнительной адаптации. В карточке приведена точность на проверочной выборке, но не описаны ограничения оценки на иных данных.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TextAttack Model CardThis albert-base-v2 model was fine-tuned for sequence classification using TextAttack

and the ag_news dataset loaded using the nlp library. The model was fine-tuned for 5 epochs with a batch size of 16, a learning rate of 2e-05, and a maximum sequence length of 128. Since this was a classification task, the model was trained with a cross-entropy loss function. The best score the model achieved on this task was 0.9471052631578948, as measured by the eval set accuracy, found after 3 epochs.

For more information, check out TextAttack on Github.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
AlbertForSequenceClassification
Ревизия весов
f2a40f1

0 моделей