본 논문은 대규모 언어 모델(LLM) 기반 지능형 에이전트의 다중 에이전트 협업 시 발생하는 환각 증폭 및 오류 유입 및 전파와 같은 안전 문제를 해결하기 위한 통합 방법인 GUARDIAN을 제시합니다. GUARDIAN은 다중 에이전트 협업 과정을 이산 시간 속성 그래프로 모델링하여 환각 및 오류의 전파 역학을 명시적으로 포착합니다. 증분 학습 패러다임을 통합한 비지도 학습 인코더-디코더 아키텍처를 사용하여 잠재적 임베딩으로부터 노드 속성과 그래프 구조를 재구성하고, 이를 통해 이상 노드와 에지를 고정밀도로 식별합니다. 또한, 정보 병목 이론에 기반한 그래프 추상화 메커니즘을 도입하여 필수 패턴을 유지하면서 시간적 상호 작용 그래프를 압축합니다. 광범위한 실험을 통해 GUARDIAN이 다양한 안전 취약성으로부터 LLM 다중 에이전트 협업을 보호하는 데 효과적이며, 효율적인 자원 활용으로 최첨단 정확도를 달성함을 보여줍니다.
