Дообученная модель T5 для извлечения представлений запросов и текстовых пассажей в задачах поиска.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
OpenMatch/t5-ance — модель семейства T5, дообученная для получения представлений запросов и документов в задачах поиска. Обучение проводилось на наборе MS MARCO Passage по процедуре ANCE с увеличенным размером пакета; модель содержит 123,8 млн параметров и принимает последовательности длиной до 512 токенов. В README приведён результат MRR@10 0,3570 на dev-разбиении MS MARCO Passage.
Модель предназначена для извлечения признаков текста, в частности для кодирования запросов и пассажей в поисковых системах и системах ранжирования. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — MIT.
В README приведён результат только для MS MARCO Passage; качество на других корпусах не описано. Максимальная длина запроса в обучающих параметрах указана как 32 токена.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
T5-ANCE generally follows the training procedure described in this page, but uses a much larger batch size.
Dataset used for training:
Evaluation result:
| Dataset | Metric | Result |
|---|---|---|
| MS MARCO Passage (dev) | MRR@10 | 0.3570 |
Important hyper-parameters:
| Name | Value |
|---|---|
| Global batch size | 256 |
| Learning rate | 5e-6 |
| Maximum length of query | 32 |
| Maximum length of document | 128 |
| Template for query | <text> |
| Template for document | Title: <title> Text: <text> |
-
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…