Характеристики
- Контекст
- 512 токенов
- Параметры
- 137 млн
- Архитектура
- bert · dense
- Опубликована
- 21 ноя 2024
Ссылки
laff
BERT-модель для вычисления обучаемого сходства между парами документов в системах информационного поиска и адаптивного переранжирования.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
macavaney/laff — модель, разработанная Sean MacAvaney для оценки обучаемого сходства между парами документов в задачах информационного поиска. Она используется в PyTerrier Adaptive и связана с подходом Quam: Adaptive Retrieval through Query Affinity Modelling, где оценки близости помогают строить граф связей между документами и выполнять адаптивное переранжирование результатов поиска.
Модель основана на архитектуре BERT и имеет около 136,7 млн параметров; максимальная длина входного контекста составляет 512 токенов. По связанным материалам она дообучена на англоязычных данных MS MARCO и предназначена для вычисления affinity score между двумя текстами документов. Сильная сторона модели — применение семантической близости документов в графовых и адаптивных поисковых системах.
Она не является универсальной генеративной моделью, не предназначена для диалога или генерации текста, а её оценки зависят от домена и качества входных документов. В доступных источниках лицензия самой модели не подтверждена.
Сценарии применения
- оценка семантической близости двух документов
- построение графа связей между документами
- адаптивное переранжирование результатов поиска
- улучшение поиска по корпусу MS MARCO
- вычисление affinity score для retrieval-систем
Ограничения
Модель предназначена для оценки сходства документов, а не для генерации текста, диалога или универсального понимания языка. Качество оценок может зависеть от домена и распределения данных, на которых выполнялось дообучение.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…
- Класс архитектуры
- BertForSequenceClassification
- Ревизия весов
- f58d628