본 논문은 다중 에이전트 시스템(MAS)에서의 AI 정렬을 동적인 상호작용 의존적 과정으로 간주해야 하며, 이는 에이전트가 배치되는 사회적 환경(협업적, 협력적 또는 경쟁적)에 크게 의존한다고 주장합니다. 인간의 가치와 선호도와의 AI 정렬이 여전히 핵심 과제이지만, 실제 응용 분야에서 MAS의 증가하는 보급은 에이전트가 목표를 추구하고 다양한 작업을 수행하기 위해 상호 작용하는 방식을 재구성하는 새로운 역동성을 도입합니다. 에이전트가 서로 상호 작용함에 따라 개별 목표와 집단 목표를 달성하기 위해 조정해야 합니다. 그러나 이러한 복잡한 사회적 조직은 의도치 않게 일부 또는 모든 에이전트를 인간의 가치 또는 사용자 선호도와 불일치하게 만들 수 있습니다. 사회 과학을 바탕으로 사회 구조가 집단 및 개인의 가치를 저해하거나 파괴하는 방식을 분석합니다. 이러한 분석을 바탕으로 AI 커뮤니티는 인간, 선호도 및 객관적 정렬을 고립된 문제가 아닌 상호 의존적인 개념으로 다루어야 한다고 주장합니다. 마지막으로, 연구자들이 이러한 상호 작용적 다중 에이전트 환경에서 정렬을 평가할 수 있도록 시뮬레이션 환경, 벤치마크 및 평가 프레임워크의 시급한 필요성을 강조합니다. 이는 역동성이 통제 불가능할 정도로 복잡해지기 전에 이루어져야 합니다.
