Causal-aware Large Language Models: Enhancing Decision-Making Through Learning, Adapting and Acting
Created by
Haebom
저자
Wei Chen, Jiahao Zhang, Haipeng Zhu, Boyan Xu, Zhifeng Hao, Keli Zhang, Junjian Ye, Ruichu Cai
개요
본 논문은 대규모 언어 모델(LLM)의 의사결정 능력 향상을 위해 인간의 인지 과정에서 영감을 얻은 '인과성 인식 LLM'을 제안합니다. 이 모델은 구조적 인과 모델(SCM)을 통합하여 환경의 구조적 지식을 학습-적응-행동 패러다임으로 모델링, 업데이트 및 활용합니다. 구체적으로, 학습 단계에서는 LLM을 사용하여 환경 특유의 인과적 개체와 관계를 추출하여 환경의 SCM을 초기화합니다. 적응 단계에서는 인과적 개입을 통해 외부 피드백으로 SCM을 업데이트하고, 행동 단계에서는 강화 학습 에이전트를 통해 구조화된 인과 지식을 활용하여 효율적인 정책 결정을 합니다. 이러한 과정을 반복하여 인과 지식을 학습함으로써 환경에 대한 정확한 이해를 달성하고 더 효율적인 의사결정을 가능하게 합니다. 오픈 월드 게임 'Crafter'의 22가지 다양한 작업에 대한 실험 결과는 제안된 방법의 효과를 검증합니다.
