Описание составлено по карточке модели и метаданным Hugging Face
Wartortle — компактная модель эмбеддингов на базе BERT, созданная Mihaiii как дистилляция bge-base-en-v1.5. Она предназначена прежде всего для семантического автодополнения: преобразует текст в векторы, которые можно использовать для поиска подходящего продолжения или сопоставления фраз. Модель содержит 18,8 млн параметров, работает с контекстом до 512 токенов и доступна в форматах Safetensors и ONNX.
Для корректного использования в сценарии семантического автодополнения README рекомендует CLS-пулинг и нормализацию эмбеддингов; модель также можно применять в задачах сходства предложений и извлечения признаков. Базовая модель ориентирована на английский язык. Лицензия — MIT.
Сценарии применения
семантическое автодополнение поисковых запросов
поиск похожих предложений
ранжирование вариантов продолжения текста по смыслу
Ограничения
Контекст ограничен 512 токенами. Для семантического автодополнения необходимы CLS-пулинг и нормализация эмбеддингов.
Для каких профессий подходит8
Разделы каталога профессий, в задачах которых используется эта модель
This model is designed for use in semantic-autocomplete (click here for demo).
Make sure you also pass pipelineParams={{ pooling: "cls", normalize: true }} since the default pooling in the component is mean.