/ Модель

Характеристики

Контекст
514 токенов
Параметры
659 млн
Лицензия
MIT
Архитектура
xlm-roberta · dense
Базовая модель
bge-reranker-large
Опубликована
15 ноя 2024

OpenScholar_Reranker

Классификация текстаТекст → label4 профессии

Англоязычный переранжировщик OpenScholar_Reranker оценивает релевантность научных документов запросу для поиска источников при синтезе литературы.

3 194скачиваний за 30 дней10лайковвеса обновлены19 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OpenScholar_Reranker — переранжировщик научной литературы, разработанный University of Washington и Allen Institute for AI (AI2). Модель дообучена на базе BAAI/bge-reranker-large и оценивает релевантность научных документов запросу, помогая упорядочивать найденные материалы для синтеза литературы.

Это плотный XLM-RoBERTa cross-encoder с классификационной головой, принимающий пары текстов и выдающий оценку релевантности. Модель рассчитана на английский язык; контекст — до 514 токенов, размер — 658,7 млн параметров. Данные для дообучения включали синтетические запросы, созданные Llama 3 70B.

Модель подходит для переранжирования результатов поиска по научным публикациям. Лицензия README обозначена как Apache-2.0, тогда как метаданные Hugging Face указывают MIT; перед использованием следует проверить актуальные условия лицензирования в репозитории.

Сценарии применения

  • Переранжирование научных статей по запросу
  • Отбор релевантных публикаций для обзора литературы
  • Сортировка результатов поиска научных источников
  • Поиск материалов для синтеза научной литературы

Ограничения

Контекст ограничен 514 токенами; заявленная языковая поддержка — английский. В README и метаданных указаны разные лицензии (Apache-2.0 и MIT), поэтому условия использования следует сверить с репозиторием.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

OpenScholar_Reranker is a fine-tuned version of bge-reranker-large for scientific literature synthesis.

Model Description

  • Developed by: University of Washigton, Allen Institute for AI (AI2)
  • Model type: a masked language model.
  • Language(s) (NLP): English
  • License: The code and model are released under apache-2.0.
  • Date cutoff: The fine-tuning data is generated by Llama 3 70B for synthetically generated queries.

Model Sources

Citation

If you find it useful in this work, cite our paper.

@article{openscholar,
  title={{OpenScholar}: Synthesizing Scientific Literature with Retrieval-Augmented Language Models},
  author={ Asai, Akari and He*, Jacqueline and Shao*, Rulin and Shi, Weijia and Singh, Amanpreet and Chang, Joseph Chee  and Lo,  Kyle and Soldaini, Luca and Feldman, Tian, Sergey and Mike, D’arcy and Wadden, David and Latzke, Matt and Minyang and Ji, Pan and Liu, Shengyan and Tong, Hao and Wu, Bohao and Xiong, Yanyu and Zettlemoyer, Luke and Weld, Dan and Neubig, Graham and Downey, Doug and Yih, Wen-tau and Koh, Pang Wei and Hajishirzi, Hannaneh},
  journal={Arxiv},
  year={2024},
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
XLMRobertaForSequenceClassification
Ревизия весов
f371d9d

0 моделей