Описание составлено по карточке модели и метаданным Hugging Face
Squirtle — компактная модель эмбеддингов на архитектуре BERT, созданная Mihaiii дистилляцией bge-base-en-v1.5. Она предназначена прежде всего для семантического автодополнения, а также может использоваться для сравнения сходства предложений и извлечения признаков текста.
Модель содержит 16,4 млн параметров, работает с текстом и поддерживает контекст до 512 токенов. Для получения эмбеддингов в сценарии semantic-autocomplete README рекомендует использовать CLS-пулинг и нормализацию; модель также доступна в форматах Safetensors и ONNX.
Лицензия — MIT. README не приводит оценок качества или подробностей о поддерживаемых языках; название базовой модели указывает на англоязычное назначение.
Сценарии применения
семантическое автодополнение поискового запроса
подбор продолжения текста по смыслу
сравнение сходства предложений
извлечение эмбеддингов для поиска
Ограничения
Для semantic-autocomplete требуется CLS-пулинг с нормализацией; стандартный mean-pooling в компоненте из README не соответствует рекомендуемой настройке. Контекст ограничен 512 токенами, а оценок качества в карточке нет.
Для каких профессий подходит9
Разделы каталога профессий, в задачах которых используется эта модель
This model is designed for use in semantic-autocomplete (click here for demo).
Make sure you also pass pipelineParams={{ pooling: "cls", normalize: true }} since the default pooling in the component is mean.