본 논문은 다중 에이전트 시스템(MAS)의 백도어 취약성을 조사하고, 에이전트 간 상호 작용을 기반으로 하는 방어 메커니즘을 제안한다. 대부분의 연구가 단일 AI 모델에 집중하는 것과 달리, 본 연구는 상호 작용하는 에이전트에 초점을 맞춰 MAS의 안전성 문제를 다룬다. 각 에이전트는 추론 능력을 활용하여 다른 에이전트의 응답을 평가하고, 비논리적인 추론 과정(중독된 에이전트의 지표)을 감지한다. ChatGPT 시리즈와 Llama 3를 포함한 LLM 기반 MAS에 대한 실험을 통해 제안된 방법의 효과를 입증하며, 중독된 에이전트를 높은 정확도로 식별하면서 정상 에이전트에 대한 오탐을 최소화한다.
