/ Модель

Характеристики

Контекст
512 токенов
Параметры
136 млн
Архитектура
albert · dense

albert-base-v2-SST-2

Классификация текстаТекст → label4 профессии

Дообученная на SST-2 модель ALBERT определяет положительную или отрицательную тональность коротких текстов.

630скачиваний за 30 дней0лайковвеса обновлены6 июл 2020

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это модель классификации текста на базе ALBERT, дообученная TextAttack на задаче SST-2 из набора GLUE. Она предназначена для классификации коротких текстов по тональности, например для определения положительной или отрицательной оценки отзыва. Модель содержит 136,3 млн параметров, использует архитектуру AlbertForSequenceClassification и принимает последовательности длиной до 512 токенов; при дообучении применялась максимальная длина 64 токена. В карточке указана точность 0,925 на оценочной выборке.

Модель подходит для анализа тональности англоязычных отзывов и коротких высказываний. Используется формат PyTorch и лицензия, явно указанная в доступных сведениях, не приводится.

Сценарии применения

  • определение тональности англоязычных отзывов
  • классификация отзывов как положительных или отрицательных
  • оценка тональности коротких пользовательских высказываний

Ограничения

Модель обучалась на SST-2 и рассчитана на короткие англоязычные тексты; её качество для других языков, доменов и более длинных текстов не подтверждено. При дообучении использовалась длина до 64 токенов.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TextAttack Model Card

This albert-base-v2 model was fine-tuned for sequence classification using TextAttack and the glue dataset loaded using the nlp library. The model was fine-tuned for 5 epochs with a batch size of 32, a learning rate of 3e-05, and a maximum sequence length of 64. Since this was a classification task, the model was trained with a cross-entropy loss function. The best score the model achieved on this task was 0.9254587155963303, as measured by the eval set accuracy, found after 2 epochs.

For more information, check out TextAttack on Github.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
AlbertForSequenceClassification
Ревизия весов
96d7ded

0 моделей