RoG

RoG — специализированная модель генерации текста от исследовательской группы RManLuo, разработанная для проекта Reasoning on Graphs: Faithful and Interpretable Large Language Model Reasoning. Модель объединяет большую языковую модель с графами знаний и используется в планировании путей отношений, извлечении релевантных путей и последующем формировании ответов на вопросы с опорой на эти пути.

Модель относится к семейству Llama, содержит около 6,6 млрд параметров и поддерживает контекст до 4096 токенов. Она предназначена прежде всего для многопрыжкового ответа на вопросы по графам знаний, включая задачи на основе WebQSP и Complex WebQuestions, а также для получения интерпретируемых ответов с объяснением через цепочки отношений. В Hugging Face модель опубликована для text-generation и работает с Transformers и PyTorch.

Сильная сторона RoG — сочетание генерации планов рассуждения с внешними структурированными знаниями, что может повышать обоснованность и интерпретируемость ответов в графовых системах вопросов и ответов. Модель не является универсальной мультимодальной системой: её применение рассчитано на текстовую генерацию в связке с графом знаний и соответствующим конвейером извлечения путей. Лицензия в доступных источниках не установлена.