nq_extractive_compressor

fangyuan/nq_extractive_compressor — модель Fangyuan Xu для извлечения и оценки предложений при сжатии найденных документов в системах поиска с дополненной генерацией (RAG). Она связана с проектом RECOMP, который исследует сжатие контекста и выборочное дополнение для языковых моделей. Модель использует архитектуру BERT: 12 слоёв, 768 скрытых размерностей и около 136,7 млн параметров; максимальная длина входа — 512 токенов. Карточка Hugging Face помечает её как feature-extraction и предоставляет загрузку через Transformers.

В сценарии извлекающего компрессора модель присваивает предложениям оценки, позволяющие отобрать содержательные фрагменты из найденных документов для последующей генерации ответа. Это специализированный компонент конвейера, а не генератор текста. В доступных сведениях не указаны лицензия и языковая специализация; базовая конфигурация указывает на facebook/contriever-msmarco.