본 논문은 대규모 언어 모델(LLM)의 기만 행위를 연구하기 위해 사회적 추론 게임에서 영감을 받은 다중 에이전트 시뮬레이션 프레임워크인 "The Traitors"를 제시합니다. 소수의 "배신자" 에이전트는 다수를 속이려 하고, "충실한" 에이전트는 대화와 추론을 통해 배신자의 정체를 파악해야 합니다. 게임 이론, 행동 경제학, 사회 인지 과학의 공식적 틀을 기반으로 하며, 기만 성공률, 신뢰 역학, 집단 추론 품질을 측정하는 평가 지표를 개발했습니다. DeepSeek-V3, GPT-4o-mini, GPT-4o를 사용한 초기 실험 결과, GPT-4o와 같은 고급 모델은 뛰어난 기만 능력을 보이지만 다른 이들의 거짓말에는 더 취약한 것으로 나타났습니다. 이는 기만 기술이 탐지 능력보다 더 빠르게 발전할 수 있음을 시사합니다. The Traitors는 사회적으로 미묘한 상호 작용에서 LLM의 행동을 조사하기 위한 집중적이고 구성 가능한 테스트베드를 제공하며, 기만 메커니즘, 정렬 문제, AI 시스템의 광범위한 사회적 신뢰성에 대한 더 엄격한 연구에 기여합니다.
