Англоязычная модель BERT для многоклассовой классификации отзывов Yelp и похожих текстов.
113скачиваний за 30 дней2лайкавеса обновлены28 июн 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель rttl-ai — англоязычный чекпойнт BERT для многоклассовой классификации отзывов Yelp. Она основана на bert-base-uncased и дообучена на датасете Yelp Review Full; перед этим применялось адаптивное к задаче предобучение (TAPT) на отзывах Yelp с повышенной долей маскируемых токенов и WWM. Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт класс текста.
Модель подходит для автоматической категоризации отзывов Yelp и похожих англоязычных отзывов. Она распространяется в формате PyTorch по лицензии Apache-2.0. Оценки качества и точная схема классов в карточке не приведены.
Сценарии применения
Классификация отзывов Yelp по категориям
Автоматическая разметка англоязычных отзывов
Анализ пользовательских оценок по тексту
Категоризация отзывов о ресторанах и сервисах
Ограничения
Модель обучалась на отзывах Yelp, поэтому её качество на других жанрах и предметных областях не подтверждено. Карточка не приводит метрики качества и подробную схему классов.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Model Description: This model is a fine-tune checkpoint of bert-base-uncased, fine-tuned on yelp reviews.
Developed by: rttl-ai
Model Type: Text Classification
Language(s): English
License: Apache-2.0
Resources for more information:
The model was pre-trained with task-adaptive pre-training TAPT with an increased masking rate, no corruption strategy, and using WWM, following this paper
pre-trained on yelp reviews
fine-tuned on yelp reviews for multi-class text classification
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров