NeuML/bert-tiny-sts-last-pooling — компактная модель эмбеддингов предложений от NeuML, построенная на BERT Tiny и предназначенная карточкой модели для тестирования pooling по последнему токену. Она дообучена на sentence-transformers/stsb с CosineSimilarityLoss и использует Sentence-Transformers для получения векторных представлений и вычисления сходства предложений.

Модель имеет архитектуру BERT с 2 слоями, скрытым размером 128 и 4,4 млн параметров; выходные эмбеддинги имеют размерность 128. Она принимает английский текст, поддерживает последовательности до 512 токенов и применяет last-token pooling. Лицензия — Apache-2.0.

Модель подходит для экспериментов и компактных задач сравнения предложений. Карточка описывает её как тестовую модель pooling и не приводит оценок качества; поэтому её пригодность для производственных задач сходства не подтверждена.