본 논문은 대규모 언어 모델(LLM)이 사용자 및 외부 세계와 상호 작용하는 에이전트로서 사용됨에 따라, 세계에 대한 내부적 표상을 구성하고 그 표상에 대한 확률적 믿음을 형성해야 함을 지적합니다. 베이지안 추론 프레임워크를 사용하여 현대 LLM이 이러한 능력을 갖추었는지 평가합니다. 연구 결과, LLM은 베이지안 프레임워크에서 기대되는 방식대로 믿음을 업데이트하지 않으며, 새로운 정보가 제공됨에 따라 예상대로 예측이 개선되지 않음을 보여줍니다. 이 문제를 해결하기 위해, 최적의 베이지안 모델의 예측을 모방하도록 LLM을 훈련하여 베이지안 방식으로 추론하도록 가르칩니다. 그 결과, 특정 추천 작업에 대한 LLM의 성능이 크게 향상될 뿐만 아니라 다른 작업으로 일반화될 수 있음을 발견하였고, 이는 LLM에 더 광범위한 베이지안 추론 능력을 부여함을 시사합니다. 결론적으로 LLM은 추론 전략을 효과적으로 학습하고 새로운 영역으로 그 능력을 일반화할 수 있으며, 이는 LLM의 경험적 성공을 부분적으로 설명합니다.
