/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Опубликована
26 июн 2023

bert-base-uncased-yelp-reviews

Классификация текстаТекст → label3 профессии

Англоязычная модель BERT для многоклассовой классификации отзывов Yelp и похожих текстов.

113скачиваний за 30 дней2лайкавеса обновлены28 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель rttl-ai — англоязычный чекпойнт BERT для многоклассовой классификации отзывов Yelp. Она основана на bert-base-uncased и дообучена на датасете Yelp Review Full; перед этим применялось адаптивное к задаче предобучение (TAPT) на отзывах Yelp с повышенной долей маскируемых токенов и WWM. Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт класс текста.

Модель подходит для автоматической категоризации отзывов Yelp и похожих англоязычных отзывов. Она распространяется в формате PyTorch по лицензии Apache-2.0. Оценки качества и точная схема классов в карточке не приведены.

Сценарии применения

  • Классификация отзывов Yelp по категориям
  • Автоматическая разметка англоязычных отзывов
  • Анализ пользовательских оценок по тексту
  • Категоризация отзывов о ресторанах и сервисах

Ограничения

Модель обучалась на отзывах Yelp, поэтому её качество на других жанрах и предметных областях не подтверждено. Карточка не приводит метрики качества и подробную схему классов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Details

Model Description: This model is a fine-tune checkpoint of bert-base-uncased, fine-tuned on yelp reviews.

  • Developed by: rttl-ai
  • Model Type: Text Classification
  • Language(s): English
  • License: Apache-2.0
  • Resources for more information:
  • The model was pre-trained with task-adaptive pre-training TAPT with an increased masking rate, no corruption strategy, and using WWM, following this paper
    • pre-trained on yelp reviews
    • fine-tuned on yelp reviews for multi-class text classification

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForSequenceClassification
Ревизия весов
1e9a54a

0 моделей