rq_rag_llama2_7B

chiminchan/rq_rag_llama2_7B — модель на базе архитектуры Llama, представленная авторами для работы «RQ-RAG: Learning to Refine Queries for Retrieval Augmented Generation». Она предназначена для генерации уточнённых поисковых запросов в системах генерации с дополнением извлечёнными документами (RAG), чтобы улучшить поиск релевантных источников перед формированием ответа. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и принимает текст с контекстом до 4096 токенов.

Модель опубликована в формате PyTorch и ориентирована на сценарии, где нужно итеративно уточнять запрос для поиска информации. В карточке не указаны базовая модель и лицензия, поэтому их условия и конкретные ограничения использования установить нельзя.