Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Language Agents Mirror Human Causal Reasoning Biases. How Can We Help Them Think Like Scientists?

Created by
  • Haebom

저자

Anthony GX-Chen, Dongyan Lin, Mandana Samiei, Doina Precup, Blake A. Richards, Rob Fergus, Kenneth Marino

개요

본 논문은 언어 모델(LM)의 인과 관계 추론 능력을 심리학의 "Blicket Test"를 이용하여 평가한다. LM은 일반적인 단순한 인과 관계는 잘 추론하지만, 비일반적인 복합적인 인과 관계는 어려워하는 "선택적 편향(disjunctive bias)"을 보이는 것으로 나타났다. 이러한 편향은 모델의 종류, 크기, 프롬프트 전략에 관계없이 지속되며, 과제의 복잡성이 증가할수록 성능이 저하된다. 흥미롭게도, 성인에게서도 유사한 편향이 발견되어 LM이 훈련 데이터에서 이러한 추론 방식을 학습했을 가능성을 시사한다. 논문에서는 LM의 추론 프로파일이 어린이가 아닌 성인과 유사함을 정량적으로 보여주고, 선택적 편향을 줄이는 테스트 시간 샘플링 기법을 제안한다.

시사점, 한계점

시사점:
언어 모델의 인과 추론 능력에 대한 체계적인 평가 및 분석을 제공한다.
언어 모델이 인간과 유사한 추론 편향을 가지고 있음을 밝힘으로써, 인공지능의 발전 방향에 대한 시사점을 제공한다.
선택적 편향을 완화하는 새로운 테스트 시간 샘플링 기법을 제안한다.
언어 모델의 인과 추론 능력 향상을 위한 방향을 제시한다.
한계점:
Blicket Test라는 특정한 과제에 국한된 결과일 수 있다.
제안된 테스트 시간 샘플링 기법의 일반화 가능성에 대한 추가 연구가 필요하다.
LM의 인과 추론 능력의 근본적인 한계를 완전히 밝히지는 못했다.
👍