Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

When Trust Collides: Decoding Human-LLM Cooperation Dynamics through the Prisoner's Dilemma

Created by
  • Haebom

저자

Guanxuan Jiang, Shirao Yang, Yuyang Wang, Pan Hui

개요

본 연구는 대규모 언어 모델(LLM)이 자율적 의사결정 능력을 갖추면서 야기되는 인간-AI 협력의 새로운 과제와 기회, 특히 혼합 동기 상황에서의 인간-AI 상호작용을 조사합니다. 기존 연구가 주로 AI의 보조적 또는 협력적 역할에 초점을 맞춘 것과 달리, 본 연구는 독립적이고 전략적인 행위자로 인식되는 AI 에이전트와 인간이 어떻게 상호 작용하는지에 대한 이해를 증진시키고자 합니다. 30명의 참가자(남성 15명, 여성 15명)를 대상으로, 자칭 인간, 규칙 기반 AI, LLM 에이전트 등 서로 다른 정체성을 가진 에이전트와 반복적인 죄수의 딜레마 게임을 진행하여 인간의 협력적 태도와 행동을 조사했습니다. 협력률, 결정 지연 시간, 자발적 협력 행위, 신뢰 회복 허용치 등의 행동 지표를 분석하여 에이전트 정체성과 참가자 성별의 영향을 평가했습니다. 연구 결과, 대부분의 협력 관련 행동에 에이전트의 자칭 정체성이 유의미한 영향을 미치는 것으로 나타났으며, 결정 지연 시간에는 성별에 따른 차이가 두드러졌습니다. 정성적 반응 분석 결과, 이러한 행동적 차이는 참가자들의 에이전트에 대한 해석과 기대에 의해 형성되었음을 시사합니다. 본 연구 결과는 자율적 에이전트와의 경쟁적 협력 상황에서 인간의 적응에 대한 이해를 높이고, 효과적이고 윤리적인 인간-AI 상호작용을 위한 에이전트 프레이밍의 중요성을 강조합니다.

시사점, 한계점

시사점:
LLM 에이전트의 자칭 정체성이 인간의 협력적 행동에 상당한 영향을 미침을 밝힘.
인간-AI 상호작용에서 에이전트 프레이밍의 중요성을 강조.
자율적 AI 에이전트와의 경쟁적 협력 상황에서 인간의 적응 전략에 대한 이해 증진.
성별에 따른 의사결정 속도 차이를 확인.
한계점:
참가자 수가 제한적(30명).
죄수의 딜레마 게임이라는 특정 상황에 국한된 연구 결과.
다양한 유형의 LLM 및 AI 에이전트에 대한 일반화 가능성 제한.
장기간의 상호작용 및 더 복잡한 상황에 대한 추가 연구 필요.
👍