/ Модель

Характеристики

Контекст
512 токенов
Параметры
124 млн
Лицензия
Apache 2.0
Архитектура
t5 · dense
Библиотека
sentence-transformers
Опубликована
2 мар 2022

sentence-t5-base

ЭмбеддингиТекст → embedding9 профессий

Sentence-T5-base кодирует английские предложения и абзацы в 768-мерные векторы для сравнения семантического сходства.

136 тыс.скачиваний за 30 дней51лайквеса обновлены6 мар 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки28

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • CQADupstackMathematicaRetrieval

    recall_at_5 · выше — лучше

    Результат

    0,2956

    MTEB

    Публичная таблицаревизия не подтверждена

  • BSARDRetrieval

    precision_at_5 · выше — лучше

    Результат

    0

    Общий результат 0,1712
    MTEB

    Публичная таблицаревизия не подтверждена

  • CQADupstackWebmastersRetrieval

    ndcg_at_3 · выше — лучше

    Результат

    0,3115

    Общий результат 0,4249
    MTEB

    Публичная таблицаревизия не подтверждена

  • STS17

    en-de.cos_sim.pearson · выше — лучше

    Результат

    0,6679

    Общий результат 0,3404Общий результат 0,1336
    MTEB

    Публичная таблицаревизия не подтверждена

  • STS22

    de-fr.manhattan.pearson · выше — лучше

    Результат

    0,4796

    Общий результат 0,4836Общий результат 0,2741
    MTEB

    Публичная таблицаревизия не подтверждена

  • AmazonReviewsClassification

    es.f1 · выше — лучше

    Результат

    0,3426

    Общий результат 0,3464
    MTEB

    Публичная таблицаревизия не подтверждена

  • SprintDuplicateQuestions

    euclidean.recall · выше — лучше

    Результат

    0,855

    MTEB

    Публичная таблицаревизия не подтверждена

  • ArguAna

    map_at_10 · выше — лучше

    Результат

    0,3599

    Общий результат 0,3714
    MTEB

    Публичная таблицаревизия не подтверждена

  • FEVER

    recall_at_10 · выше — лучше

    Результат

    0,3901

    Общий результат 0,2622Общий результат 0,1503
    MTEB

    Публичная таблицаревизия не подтверждена

  • CQADupstackPhysicsRetrieval

    map_at_1000 · выше — лучше

    Результат

    0,3437

    MTEB

    Публичная таблицаревизия не подтверждена

  • CQADupstackEnglishRetrieval

    ndcg_at_10 · выше — лучше

    Результат

    0,3703

    MTEB

    Публичная таблицаревизия не подтверждена

  • MTOPDomainClassification

    es.f1 · выше — лучше

    Результат

    0,7316

    MTEB

    Публичная таблицаревизия не подтверждена

  • NFCorpus

    map_at_3 · выше — лучше

    Результат

    0,0705

    MTEB

    Публичная таблицаревизия не подтверждена

  • HotpotQA

    recall_at_1000 · выше — лучше

    Результат

    0,7321

    Общий результат 0,1848
    MTEB

    Публичная таблицаревизия не подтверждена

  • TRECCOVID

    recall_at_1000 · выше — лучше

    Результат

    0,3457

    Общий результат 0,5Общий результат 0,427
    MTEB

    Публичная таблицаревизия не подтверждена

  • Touche2020

    map_at_1 · выше — лучше

    Результат

    0,0179

    MTEB

    Публичная таблицаревизия не подтверждена

  • QuoraRetrieval

    precision_at_3 · выше — лучше

    Результат

    0,3596

    Общий результат 0,8923Общий результат 0,8696
    MTEB

    Публичная таблицаревизия не подтверждена

  • SCIDOCS

    recall_at_10 · выше — лучше

    Результат

    0,1515

    Общий результат 0,1045Общий результат 0,0327
    MTEB

    Публичная таблицаревизия не подтверждена

  • DBPedia

    precision_at_100 · выше — лучше

    Результат

    0,0682

    MTEB

    Публичная таблицаревизия не подтверждена

  • CQADupstackProgrammersRetrieval

    precision_at_10 · выше — лучше

    Результат

    0,0758

    MTEB

    Публичная таблицаревизия не подтверждена

  • MSMARCO

    map_at_1 · выше — лучше

    Результат

    0,0106

    Общий результат 0,5659Общий результат 0,3478Общий результат 0,1623
    MTEB

    Публичная таблицаревизия не подтверждена

  • MassiveIntentClassification

    main_score

    Результат

    0,3607

    MTEB

    Публичная таблицадругая ревизия

  • MintakaRetrieval

    fr.recall_at_1000 · выше — лучше

    Результат

    0,957

    MTEB

    Публичная таблицаревизия не подтверждена

  • XLWICNLPairClassification

    main_score

    Результат

    0,5583

    MTEB

    Публичная таблицадругая ревизия

  • VABBRetrieval

    main_score

    Результат

    0,3361

    MTEB

    Публичная таблицадругая ревизия

  • ClimateFEVER

    recall_at_10 · выше — лучше

    Результат

    0,1339

    Общий результат 0,0873
    MTEB

    Публичная таблицаревизия не подтверждена

  • CQADupstackGamingRetrieval

    precision_at_10 · выше — лучше

    Результат

    0,0888

    MTEB

    Публичная таблицаревизия не подтверждена

  • TwitterSemEval2015

    cos_sim.recall · выше — лучше

    Результат

    0,7462

    MTEB

    Публичная таблицаревизия не подтверждена

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

sentence-transformers/sentence-t5-base — модель Sentence Transformers для кодирования предложений и абзацев в плотные векторы размерностью 768. Она построена на энкодере T5-base и предназначена прежде всего для оценки сходства между предложениями; для семантического поиска в README отмечено более низкое качество.

Модель создана преобразованием TensorFlow-модели st5-base-1 в PyTorch. Используются только веса энкодера T5-base; размер модели — 123,8 млн параметров, контекст — до 512 токенов. Доступны форматы PyTorch и Safetensors, веса сохранены в FP16. Карточка ссылается на публикацию Sentence-T5: Scalable sentence encoders from pre-trained text-to-text models.

Модель принимает текст и выдаёт векторные представления, пригодные для сравнения семантической близости. Метаданные указывают английский язык. Лицензия — Apache-2.0.

Сценарии применения

  • сравнение сходства двух предложений
  • поиск семантически похожих фраз
  • кластеризация предложений по смыслу
  • получение векторных представлений абзацев
  • поиск дубликатов коротких текстов

Ограничения

В README указано, что модель уступает для задач семантического поиска. Эмбеддинги PyTorch могут немного отличаться от TensorFlow-версии, хотя на тех же бенчмарках результаты совпадают.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

sentence-transformers/sentence-t5-base

This is a sentence-transformers model: It maps sentences & paragraphs to a 768 dimensional dense vector space. The model works well for sentence similarity tasks, but doesn't perform that well for semantic search tasks.

This model was converted from the Tensorflow model st5-base-1 to PyTorch. When using this model, have a look at the publication: Sentence-T5: Scalable sentence encoders from pre-trained text-to-text models. The tfhub model and this PyTorch model can produce slightly different embeddings, however, when run on the same benchmarks, they produce identical results.

The model uses only the encoder from a T5-base model. The weights are stored in FP16.

Usage (Sentence-Transformers)

Using this model becomes easy when you have sentence-transformers installed:

pip install -U sentence-transformers

Then you can use the model like this:

from sentence_transformers import SentenceTransformer
sentences = ["This is an example sentence", "Each sentence is converted"]

model = SentenceTransformer('sentence-transformers/sentence-t5-base')
embeddings = model.encode(sentences)
print(embeddings)

The model requires sentence-transformers version 2.2.0 or newer.

Citing & Authors

If you find this model helpful, please cite the respective publication: Sentence-T5: Scalable sentence encoders from pre-trained text-to-text models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
T5EncoderModel
Ревизия весов
fc5d462

0 моделей