/ Модель

Характеристики

Контекст
512 токенов
Параметры
16,4 млн
Лицензия
MIT
Архитектура
bert · dense
Библиотека
sentence-transformers
Опубликована
30 апр 2024

Squirtle

ЭмбеддингиТекст → embedding9 профессий

Компактная BERT-модель эмбеддингов для семантического автодополнения и сравнения сходства текстов.

239скачиваний за 30 дней1лайквеса обновлены30 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки33

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MIRACLRetrieval

    main_score

    Результат

    0,0454

    Общий результат 0,0013
    MTEB

    Публичная таблицаревизия совпадает

  • MassiveIntentClassification

    main_score

    Результат

    0,099

    Общий результат 0,3502Общий результат 0,1982Общий результат 0,1975
    MTEB

    Публичная таблицаревизия совпадает

  • NusaParagraphEmotionClassification

    main_score

    Результат

    0,3387

    MTEB

    Публичная таблицаревизия совпадает

  • IndicGenBenchFloresBitextMining

    main_score

    Результат

    0,0004

    Общий результат 0,0353Общий результат 0,0298Общий результат 0,0153
    MTEB

    Публичная таблицаревизия совпадает

  • SummEvalFr

    main_score

    Результат

    0,3122

    MTEB

    Публичная таблицаревизия совпадает

  • CodeEditSearchRetrieval

    main_score

    Результат

    0,2209

    MTEB

    Публичная таблицаревизия совпадает

  • GerDaLIRSmall

    main_score

    Результат

    0,0378

    MTEB

    Публичная таблицаревизия совпадает

  • PawsXPairClassification

    main_score

    Результат

    0,5335

    MTEB

    Публичная таблицаревизия совпадает

  • Tatoeba

    main_score

    Результат

    0,0021

    Общий результат 0,056
    MTEB

    Публичная таблицаревизия совпадает

  • LEMBPasskeyRetrieval

    main_score

    Результат

    0,14

    MTEB

    Публичная таблицаревизия совпадает

  • STSB

    main_score

    Результат

    0,3549

    MTEB

    Публичная таблицаревизия совпадает

  • STSBenchmarkMultilingualSTS

    main_score

    Результат

    0,655

    MTEB

    Публичная таблицаревизия совпадает

  • MassiveScenarioClassification

    main_score

    Результат

    0,0771

    Общий результат 0,3933Общий результат 0,1851
    MTEB

    Публичная таблицаревизия совпадает

  • MLQARetrieval

    main_score

    Результат

    0,0908

    Общий результат 0,1417Общий результат 0,0831Общий результат 0,0153
    MTEB

    Публичная таблицаревизия совпадает

  • MIRACLReranking

    main_score

    Результат

    0,4203

    MTEB

    Публичная таблицаревизия совпадает

  • XPQARetrieval

    main_score

    Результат

    0,0268

    MTEB

    Публичная таблицаревизия совпадает

  • NusaTranslationBitextMining

    main_score

    Результат

    0,6077

    MTEB

    Публичная таблицаревизия совпадает

  • NusaXBitextMining

    main_score

    Результат

    0,0854

    MTEB

    Публичная таблицаревизия совпадает

  • SciFact

    main_score

    Результат

    0,4242

    MTEB

    Публичная таблицаревизия не подтверждена

  • MintakaRetrieval

    main_score

    Результат

    0,1303

    Общий результат 0,134
    MTEB

    Публичная таблицаревизия совпадает

  • AfriSentiClassification

    main_score

    Результат

    0,3272

    MTEB

    Публичная таблицаревизия совпадает

  • DutchNewsArticlesRetrieval

    main_score

    Результат

    0,1383

    MTEB

    Публичная таблицаревизия совпадает

  • MultiHateClassification

    main_score

    Результат

    0,526

    MTEB

    Публичная таблицаревизия совпадает

  • XNLI

    main_score

    Результат

    0,5429

    MTEB

    Публичная таблицаревизия совпадает

  • MLSUMClusteringP2P

    main_score

    Результат

    0,2213

    MTEB

    Публичная таблицаревизия совпадает

  • OpusparcusPC

    main_score

    Результат

    0,9085

    MTEB

    Публичная таблицаревизия совпадает

  • AlloprofRetrieval

    main_score

    Результат

    0,1048

    MTEB

    Публичная таблицаревизия совпадает

  • SIB200ClusteringS2S

    main_score

    Результат

    0,0316

    MTEB

    Публичная таблицаревизия совпадает

  • TempReasonL1

    main_score

    Результат

    0,0109

    MTEB

    Публичная таблицаревизия совпадает

  • Quail

    main_score

    Результат

    0,0212

    MTEB

    Публичная таблицаревизия совпадает

  • MasakhaNEWSClassification

    main_score

    Результат

    0,4116

    MTEB

    Публичная таблицаревизия совпадает

  • STS22.v2

    main_score

    Результат

    0,3682

    MTEB

    Публичная таблицаревизия совпадает

  • RuReviewsClassification

    main_score

    Результат

    0,4162

    MTEB

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Squirtle — компактная модель эмбеддингов на архитектуре BERT, созданная Mihaiii дистилляцией bge-base-en-v1.5. Она предназначена прежде всего для семантического автодополнения, а также может использоваться для сравнения сходства предложений и извлечения признаков текста.

Модель содержит 16,4 млн параметров, работает с текстом и поддерживает контекст до 512 токенов. Для получения эмбеддингов в сценарии semantic-autocomplete README рекомендует использовать CLS-пулинг и нормализацию; модель также доступна в форматах Safetensors и ONNX.

Лицензия — MIT. README не приводит оценок качества или подробностей о поддерживаемых языках; название базовой модели указывает на англоязычное назначение.

Сценарии применения

  • семантическое автодополнение поискового запроса
  • подбор продолжения текста по смыслу
  • сравнение сходства предложений
  • извлечение эмбеддингов для поиска

Ограничения

Для semantic-autocomplete требуется CLS-пулинг с нормализацией; стандартный mean-pooling в компоненте из README не соответствует рекомендуемой настройке. Контекст ограничен 512 токенами, а оценок качества в карточке нет.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Squirtle

Squirtle is a distill of bge-base-en-v1.5.

Intended purpose

This model is designed for use in semantic-autocomplete (click here for demo). Make sure you also pass pipelineParams={{ pooling: "cls", normalize: true }} since the default pooling in the component is mean.

Usage

Other than within semantic-autocomplete, you can use this model same as bge-base-en-v1.5.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
BertModel
Ревизия весов
5b991da

0 моделей