Sign In

Group size effects and collective misalignment in LLM multi-agent systems

Created by
  • Haebom
Category
Empty

저자

Ariel Flint, Luca Maria Aiello, Romualdo Pastor-Satorras, Andrea Baronchelli

Multi-agent Dynamics in Large Language Models: The Impact of Group Size

개요

본 논문은 대규모 언어 모델(LLM)을 활용한 멀티 에이전트 시스템의 그룹 크기가 시스템의 역학에 미치는 영향을 체계적으로 연구한다. 기존 연구가 단일 에이전트와 고정된 크기의 집단 간의 비교에 집중했던 것과 달리, 이 연구는 다양한 그룹 크기에 걸쳐 결과를 분석한다. 특히, 상호 작용하는 LLM이 단순한 조정 게임을 수행할 때 개별 모델에서는 나타나지 않는 집단적 편향이 발생한다는 최근의 증거를 바탕으로, 멀티 에이전트의 정렬 불일치에 초점을 맞춘다.

시사점, 한계점

시사점:
집단적 편향이 개별 편향을 증폭시키거나, 새로운 편향을 도입하거나, 모델 수준의 선호도를 무시하는 등 이전보다 심층적인 현상임을 밝힘.
그룹 크기가 동역학에 비선형적으로 영향을 미치며, 모델에 따라 다른 역학적 체제를 보임을 발견.
평균장 분석 접근법을 개발하여 임계 인구 크기 이상에서 시뮬레이션이 경쟁적 평형 상태의 매력 분지를 노출하는 결정론적 예측으로 수렴함을 보여줌.
그룹 크기가 멀티 에이전트 동역학의 주요 동인임을 확립하고, LLM 기반 시스템을 대규모로 배포할 때 인구 수준의 영향을 고려할 필요성을 강조.
한계점:
논문에 명시된 한계점은 제공되지 않음.
👍