tiny-bert-sst2-distilled

Она предназначена для анализа тональности англоязычных текстов в рамках задачи SST-2 и возвращает один из двух классов: negative или positive. В карточке модели указано использование через Transformers и AutoModelForSequenceClassification.

Модель основана на архитектуре BERT и подвергнута дистилляции, то есть уменьшена по сравнению с исходной моделью для более экономичного запуска. Токенизатор использует uncased-режим BERT, словарь BERT и максимальную длину последовательности 512 токенов. Модель поддерживает только текстовый ввод и не предназначена для генерации текста, мультимодальных задач или надёжного анализа языков, отличных от английского.

Ключевые преимущества — небольшой размер, низкие требования к вычислительным ресурсам и специализация на бинарной классификации тональности. Ограничения включают узкую область применения, зависимость качества от английского языка и домена отзывов, а также недостаток подробно опубликованных сведений о точности, обучающем наборе данных и лицензии. Условия лицензирования для этого репозитория в найденных источниках явно не указаны.