Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Strategic Tradeoffs Between Humans and AI in Multi-Agent Bargaining

Created by
  • Haebom

저자

Crystal Qian, Kehang Zhu, John Horton, Benjamin S. Manning, Vivian Tsai, James Wexler, Nithum Thain

개요

본 연구는 비즈니스 협상과 그룹 협업과 같은 다양한 인간 활동에 LLM이 활용됨에 따라, LLM의 성능 향상과 동적, 다중 에이전트 환경에서의 상호 작용을 평가하는 것이 중요하다고 강조한다. LLM은 잘 정의된 환경에서 뛰어난 성능을 보이는 기존의 통계적 에이전트와 달리, 다양한 실제 시나리오에서 일반화할 수 있다. 본 연구는 인간(N=216), LLM(GPT-4o, Gemini 1.5 Pro), 베이지안 에이전트 간의 동적 협상 환경에서의 결과와 행동 역학을 비교 분석한다. 베이지안 에이전트는 공격적인 최적화를 통해 높은 잉여 가치를 창출하지만, 빈번한 거래 거부라는 단점이 있다. 인간과 LLM은 유사한 전체 잉여 가치를 달성하지만, LLM은 보수적이고 양보적인 거래를 선호하며, 인간은 보다 전략적이고 위험을 감수하며 공정성을 추구하는 행동을 보인다. 따라서, 성능 동등성은 프로세스 및 정렬의 근본적인 차이점을 숨길 수 있으며, 이는 실제 협업 작업에 LLM을 적용하는 데 중요하다. 본 연구는 일치된 조건에서 기본적인 행동 기준선을 설정하여 향후 연구의 토대를 마련한다.

시사점, 한계점

시사점:
LLM은 인간과 유사한 전체 잉여 가치를 달성할 수 있다.
성능 동등성은 LLM의 행동 특성 차이를 간과할 수 있다.
LLM은 보수적이고 양보적인 거래를 선호하는 경향이 있다.
본 연구는 LLM의 행동 연구를 위한 기준선을 제공한다.
한계점:
본 연구는 특정 협상 환경에 국한된다.
실제 환경에서의 변동성을 모두 반영하지 못한다.
제한된 수의 LLM과 인간 그룹을 대상으로 한다.
👍