CAG-mistral-7b

CAG-mistral-7b — языковая модель на архитектуре Mistral, дообученная авторами репозитория на Mistral-7B для генерации ответов с учётом достоверности сведений в контексте. Она предназначена для сценариев retrieval-augmented generation (RAG), где нужно отвечать по внешним документам, в том числе при наличии шумных или противоречивых источников. Среди заявленных сценариев — персонализированные ответы и разрешение конфликтов знаний; модель также оценивалась на вопросах по открытым и меняющимся во времени сведениям и на вопросах в условиях загрязнения дезинформацией.

Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык и лицензию MIT. Ограничения качества и инструкции по развёртыванию в карточке не описаны.