/ Модель

Характеристики

Контекст
512 токенов
Параметры
385 млн
Лицензия
Apache 2.0
Архитектура
t5 · dense
Библиотека
sentence-transformers
Опубликована
2 мар 2022

sentence-t5-large

ЭмбеддингиТекст → embedding10 профессий

Sentence-T5-large кодирует предложения и абзацы в 768-мерные векторы для оценки текстового сходства.

15 797скачиваний за 30 дней25лайковвеса обновлены6 мар 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки26

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • Tatoeba

    kor-eng.accuracy · выше — лучше

    Результат

    0,023

    Общий результат 0,7127Общий результат 0,54Общий результат 0,3482
    MTEB

    Публичная таблицаревизия не подтверждена

  • PawsXPairClassification

    fr.euclidean.f1 · выше — лучше

    Результат

    0,6249

    Общий результат 0,4545
    MTEB

    Публичная таблицаревизия не подтверждена

  • BSARDRetrieval

    recall_at_5 · выше — лучше

    Результат

    0

    MTEB

    Публичная таблицаревизия не подтверждена

  • STS22

    es-it.cos_sim.spearman · выше — лучше

    Результат

    0,6158

    Общий результат 0,6809Общий результат 0,6772Общий результат 0,5289
    MTEB

    Публичная таблицаревизия не подтверждена

  • CQADupstackGamingRetrieval

    recall_at_10 · выше — лучше

    Результат

    0,7171

    Общий результат 0,5538
    MTEB

    Публичная таблицаревизия не подтверждена

  • CQADupstackMathematicaRetrieval

    precision_at_100 · выше — лучше

    Результат

    0,0097

    MTEB

    Публичная таблицаревизия не подтверждена

  • CQADupstackEnglishRetrieval

    recall_at_1000 · выше — лучше

    Результат

    0,8724

    MTEB

    Публичная таблицаревизия не подтверждена

  • MSMARCO

    mrr_at_10 · выше — лучше

    Результат

    0,192

    MTEB

    Публичная таблицаревизия не подтверждена

  • TRECCOVID

    precision_at_100 · выше — лучше

    Результат

    0,3748

    Общий результат 0,7342
    MTEB

    Публичная таблицаревизия не подтверждена

  • XPQARetrieval

    fr.ndcg_at_1000 · выше — лучше

    Результат

    0,5771

    Общий результат 0,498
    MTEB

    Публичная таблицаревизия не подтверждена

  • SciFact

    map_at_3 · выше — лучше

    Результат

    0,431

    MTEB

    Публичная таблицаревизия не подтверждена

  • SCIDOCS

    mrr_at_5 · выше — лучше

    Результат

    0,2522

    Общий результат 0,1307
    MTEB

    Публичная таблицаревизия не подтверждена

  • DBPedia

    map_at_100 · выше — лучше

    Результат

    0,1898

    MTEB

    Публичная таблицаревизия не подтверждена

  • AmazonReviewsClassification

    zh.f1 · выше — лучше

    Результат

    0,1967

    MTEB

    Публичная таблицаревизия не подтверждена

  • QuoraRetrieval

    ndcg_at_1000 · выше — лучше

    Результат

    0,8741

    Общий результат 0,8356Общий результат 0,0153
    MTEB

    Публичная таблицаревизия не подтверждена

  • SummEval

    cos_sim.pearson · выше — лучше

    Результат

    0,2938

    MTEB

    Публичная таблицаревизия не подтверждена

  • CQADupstackPhysicsRetrieval

    recall_at_10 · выше — лучше

    Результат

    0,545

    MTEB

    Публичная таблицаревизия не подтверждена

  • TweetSentimentExtractionClassification

    accuracy · выше — лучше

    Результат

    0,6233

    MTEB

    Публичная таблицаревизия не подтверждена

  • WikipediaRetrievalMultilingual

    main_score

    Результат

    0,6692

    MTEB

    Публичная таблицадругая ревизия

  • MintakaRetrieval

    fr.map_at_3 · выше — лучше

    Результат

    0,1738

    MTEB

    Публичная таблицаревизия не подтверждена

  • CQADupstackWordpressRetrieval

    map_at_5 · выше — лучше

    Результат

    0,2166

    Общий результат 0,0083
    MTEB

    Публичная таблицаревизия не подтверждена

  • AlloprofRetrieval

    ndcg_at_10 · выше — лучше

    Результат

    0,3452

    MTEB

    Публичная таблицаревизия не подтверждена

  • SyntecRetrieval

    ndcg_at_100 · выше — лучше

    Результат

    0,735

    MTEB

    Публичная таблицаревизия не подтверждена

  • STS17

    en-en.euclidean.pearson · выше — лучше

    Результат

    0,8888

    MTEB

    Публичная таблицаревизия не подтверждена

  • Touche2020

    mrr_at_1000 · выше — лучше

    Результат

    0,4832

    MTEB

    Публичная таблицаревизия не подтверждена

  • ClimateFEVER

    precision_at_100 · выше — лучше

    Результат

    0,0088

    MTEB

    Публичная таблицаревизия не подтверждена

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

sentence-transformers/sentence-t5-large — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерности 768. Она использует энкодер архитектуры T5-large и подходит для вычисления сходства между текстами и других задач, основанных на векторных представлениях. Модель получена конвертацией TensorFlow-модели st5-large-1 в PyTorch; в репозитории доступны форматы PyTorch, Safetensors и ONNX, веса хранятся в FP16.

Модель предназначена для сравнения предложений и абзацев, например для поиска похожих формулировок или группировки текстов по близости. Разработчики отмечают, что она хуже подходит для семантического поиска. Карточка ссылается на исследование Sentence-T5: Scalable sentence encoders from pre-trained text-to-text models. Лицензия — Apache 2.0.

Сценарии применения

  • сравнение сходства предложений
  • поиск перефразировок
  • сопоставление похожих абзацев
  • группировка текстов по семантической близости

Ограничения

По данным карточки, модель хуже справляется с семантическим поиском, чем с задачами сходства предложений. PyTorch-версия может выдавать немного другие векторы, чем исходная TensorFlow-модель.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

sentence-transformers/sentence-t5-large

This is a sentence-transformers model: It maps sentences & paragraphs to a 768 dimensional dense vector space. The model works well for sentence similarity tasks, but doesn't perform that well for semantic search tasks.

This model was converted from the Tensorflow model st5-large-1 to PyTorch. When using this model, have a look at the publication: Sentence-T5: Scalable sentence encoders from pre-trained text-to-text models. The tfhub model and this PyTorch model can produce slightly different embeddings, however, when run on the same benchmarks, they produce identical results.

The model uses only the encoder from a T5-large model. The weights are stored in FP16.

Usage (Sentence-Transformers)

Using this model becomes easy when you have sentence-transformers installed:

pip install -U sentence-transformers

Then you can use the model like this:

from sentence_transformers import SentenceTransformer
sentences = ["This is an example sentence", "Each sentence is converted"]

model = SentenceTransformer('sentence-transformers/sentence-t5-large')
embeddings = model.encode(sentences)
print(embeddings)

The model requires sentence-transformers version 2.2.0 or newer.

Citing & Authors

If you find this model helpful, please cite the respective publication: Sentence-T5: Scalable sentence encoders from pre-trained text-to-text models

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
T5EncoderModel
Ревизия весов
1b36eb4

0 моделей