LLM 기반 에이전트가 멀티 에이전트 시스템(MAS)에 널리 사용되면서 보안의 중요성이 커지고 있습니다. 본 연구는 MAS의 보안 취약성을 평가하기 위한 통일된 프레임워크인 SafeAgents를 제시합니다. SafeAgents는 계획 수립 전략, 에이전트 간 컨텍스트 공유, 폴백 동작과 같은 설계 선택이 적대적 프롬프트에 대한 취약성에 미치는 영향을 체계적으로 노출합니다. 또한, MAS 파이프라인 내 취약점을 식별하는 데 도움이 되는 진단 측정법인 Dharma를 소개합니다. SafeAgents를 사용하여 5가지 널리 사용되는 MAS 아키텍처를 대상으로 포괄적인 연구를 수행하여 흔한 설계 패턴이 상당한 취약점을 가지고 있음을 밝혀냈습니다.
