MF-LLM: Simulating Population Decision Dynamics via a Mean-Field Large Language Model Framework
Created by
Haebom
저자
Qirui Mi, Mengyue Yang, Xiangning Yu, Zhiyu Zhao, Cheng Deng, Bo An, Haifeng Zhang, Xu Chen, Jun Wang
개요
본 논문은 대규모 언어 모델(LLM)을 이용한 사회 시뮬레이션에서 실제 데이터와의 정량적 일치를 향상시키는 새로운 프레임워크인 평균장 LLM(MF-LLM)을 제안한다. MF-LLM은 개인과 전체 집단 간의 상호 작용을 반복적인 과정을 통해 모델링하며, 집단 신호를 생성하여 개인의 의사결정을 안내하고, 이는 다시 신호를 업데이트하는 과정을 거친다. 정보 병목 원리를 활용한 새로운 미세 조정 방법인 IB-Tune을 도입하여 실제 데이터와의 정합성을 높였다. 실제 사회 데이터셋을 이용한 평가 결과, MF-LLM은 기존 방법 대비 인간 집단 분포와의 KL divergence를 47% 감소시켜 정확한 추세 예측과 효과적인 개입 계획 수립을 가능하게 한다. 7개 도메인과 4개의 LLM 백본에 대한 일반화를 통해 확장 가능하고 높은 충실도를 가진 사회 시뮬레이션 기반을 제공한다.
시사점, 한계점
•
시사점:
◦
LLM 기반 사회 시뮬레이션의 실제 데이터와의 정량적 정합성을 크게 향상시켰다.
◦
평균장 이론을 LLM 기반 사회 시뮬레이션에 처음으로 도입하여 집단 행동의 일관된 궤적을 생성한다.
◦
IB-Tune을 통해 과도한 정보를 제거하고 예측력 높은 집단 신호만을 유지하여 정확도를 높였다.
