Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
CAG-7b — плотная языковая модель семейства Llama, разработанная для генерации ответов с учётом достоверности сведений в контексте. Модель содержит 6,6 млрд параметров, принимает текст и имеет контекст до 4096 токенов; карточка описывает её как 7B-модель. В метаданных указаны английский язык и архитектура LlamaForCausalLM.
Модель предназначена для ответов на вопросы по документам, в том числе содержащим шумные или противоречивые сведения. Заявленные сценарии включают персонализированную генерацию ответов и разрешение конфликтов знаний; оценивание проводилось для вопросов по открытым, актуальным и загрязнённым дезинформацией данным. Модель распространяется по лицензии MIT.
Ключевая особенность CAG — настройка на использование сигналов достоверности из контекста при генерации. Результаты и устойчивость могут зависеть от качества и состава входных документов; указанное контекстное окно ограничено 4096 токенами.
Сценарии применения
ответы на вопросы по документам с шумными сведениями
сопоставление противоречащих друг другу источников
ответы на вопросы по актуальным данным
персонализированная генерация ответов
ответы на вопросы в корпусах, загрязнённых дезинформацией
Ограничения
Контекст ограничен 4096 токенами; устойчивость к шуму и конфликтам зависит от входных документов, а описание не приводит количественных результатов оценки.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
This model is a 7B model with credibility-aware generation, capable of understanding and leveraging credibility in context for generation, thus being robust to noisy documents. Because of the capability of customized credibility in CAG, it has diverse application scenarios, including personalized response generation and the resolution of knowledge conflicts.
Evaluate our model in real scenarios including Open-domain QA, Time-sensitive QA, and Misinformation Polluted QA. For more information and to access the evaluation code, visit Code.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров