Spontaneous Giving and Calculated Greed in Language Models
Created by
- Haebom
Category
Empty
저자
Yuxuan Li, Hirokazu Shirado
개요
본 논문은 대규모 언어 모델(LLM)의 추론 능력(Chain of Thought, Reflection)이 사회적 지능에 미치는 영향을 경제 게임(사회적 딜레마 모델)을 통해 분석합니다. 공공재 게임을 시작으로 협력과 처벌에 관한 6가지 경제 게임에서 추론 모델과 비추론 모델을 비교 분석합니다. 그 결과, 추론 모델은 개인적 합리성을 우선시하여 협력과 규범 준수를 감소시키는 것으로 나타났습니다. 추론 모델이 많은 그룹은 협력 수준이 낮고 반복적인 상호작용을 통한 이득이 적었습니다. 이는 인간의 '자발적 기부와 계산된 탐욕'과 유사한 행동 양식입니다. 따라서 AI가 인간의 협력적 직관을 지원하도록 사회적 지능을 추론 능력과 통합해야 함을 시사합니다.
시사점, 한계점
•
시사점:
◦
LLM의 추론 능력이 사회적 지능과는 상반될 수 있음을 보여줌.
◦
추론 능력만으로는 사회적 협력을 증진시키지 못하며, 오히려 개인 이익을 우선시하는 결과를 초래할 수 있음을 제시.
◦
AI 개발 시 사회적 지능과 추론 능력의 통합 필요성 강조.
◦
인간의 사회적 행동(자발적 기부와 계산된 탐욕)에 대한 AI 모델의 시뮬레이션을 통해 사회적 상호작용에 대한 이해 증진.
•
한계점:
◦
사용된 경제 게임의 종류와 수가 제한적일 수 있음.
◦
실제 인간 사회의 복잡성을 완벽하게 반영하지 못할 수 있음.
◦
특정 유형의 LLM과 추론 기법에만 국한된 결과일 가능성.
◦
사회적 지능과 추론 능력의 통합 방안에 대한 구체적인 제시 부족.
