Position: Simulating Society Requires Simulating Thought
작성자
- Haebom
카테고리
Empty
저자
Chance Jiajie Li, Jiayi Wu, Zhenze Mo, Ao Qu, Yuhan Tang, Kaiya Ivy Zhao, Yulu Gan, Jie Fan, Jiangbo Yu, Jinhua Zhao, Paul Liang, Luis Alonso, Kent Larson
개요
대규모 언어 모델(LLM)을 이용한 사회 시뮬레이션은 그럴듯한 행동 생성을 넘어 구조적이고 수정 가능하며 추적 가능한 인지적으로 기반을 둔 추론을 필요로 한다. 본 논문에서는 LLM 기반 에이전트가 개인 및 집단 행동을 모방하는 데 점점 더 많이 사용되고 있지만, 내적 일관성, 인과 추론 및 신념 추적성이 부족하여 사람들의 추론, 숙고 또는 개입에 대한 반응을 분석하는 데 신뢰할 수 없다는 점을 지적한다. 이를 해결하기 위해, 인지 과학에 기반한 생성적 에이전트의 구조화된 신념 표현을 지원하는 개념적 모델링 패러다임인 Generative Minds(GenMinds)를 제시한다. 또한, 인과 추적성, 인구 통계적 기반 및 개입 일관성을 통해 추론 충실도를 평가하도록 설계된 벤치마크인 RECAP(REconstructing CAusal Paths) 프레임워크를 소개한다. 이러한 기여는 사회 시뮬레이션을 위해 단순한 언어 모방이 아닌 사고를 시뮬레이션하는 생성적 에이전트로의 전환을 추진한다.
시사점, 한계점
•
시사점:
◦
LLM 기반 사회 시뮬레이션의 한계점을 명확히 제시하고, 인지 과학에 기반한 새로운 접근 방식인 GenMinds를 제안함으로써 더욱 정교하고 신뢰할 수 있는 사회 시뮬레이션을 위한 방향을 제시한다.
◦
RECAP 프레임워크를 통해 생성적 에이전트의 추론 충실도를 평가할 수 있는 객관적인 기준을 제공한다.
◦
단순한 언어 모방에서 벗어나 사고 과정 자체를 시뮬레이션하는 생성적 에이전트 개발의 중요성을 강조한다.
•
한계점:
◦
GenMinds 및 RECAP 프레임워크의 실제 구현 및 성능에 대한 구체적인 설명이 부족하다.
◦
제안된 모델의 확장성 및 다양한 사회 현상에 대한 적용 가능성에 대한 추가 연구가 필요하다.
◦
인지 과학의 개념을 LLM에 적용하는 과정에서 발생할 수 있는 어려움과 제한점에 대한 논의가 부족하다.
