unsup-simcse-roberta-large

Она основана на архитектуре RoBERTa-large и обучена в рамках метода SimCSE без разметки: к одному и тому же предложению применяются разные маскирования dropout, чтобы обучать устойчивые семантические embedding-представления. Разработчики — исследователи Princeton NLP, включая Tianyu Gao, Xingcheng Yao и Danqi Chen.

Модель предназначена для сравнения семантической близости текстов, поиска похожих предложений, sentence retrieval, кластеризации и построения признаков для последующих NLP-задач. Она работает как encoder и feature-extraction модель, а не как генеративная система. Для получения embedding обычно используется представление токена CLS; для unsupervised SimCSE разработчики рекомендуют вариант без дополнительного pooler-преобразования. Максимальная длина входа в конфигурации токенизатора — 512 токенов. Обучение выполнялось на предложениях из English Wikipedia, поэтому модель ориентирована прежде всего на английский язык и не является мультиязычной.

В опубликованном авторами списке модель получила средний результат 78.90 на задачах semantic textual similarity (STS), что характеризует её пригодность для оценки семантического сходства. Ограничения включают зависимость качества от языка, домена и способа pooling, ограничение длины входа и отсутствие возможностей генерации текста. На странице репозитория отдельная лицензия для этого чекпойнта не указана, поэтому условия использования следует проверять по исходному репозиторию и базовой модели RoBERTa.