MASTER: Multi-Agent Security Through Exploration of Roles and Topological Structures -- A Comprehensive Framework
Created by
Haebom
저자
Yifan Zhu, Chao Zhang, Xin Shi, Xueqiao Zhang, Yi Yang, Yawei Luo
개요
대규모 언어 모델(LLM) 기반 다중 에이전트 시스템(MAS)은 다양한 영역에서 전문적인 에이전트 역할과 협력적인 상호 작용으로 인해 놀라운 문제 해결 및 작업 계획 능력을 보여줍니다. 그러나 이는 MAS 공격 하에서 보안 위험의 심각성을 증폭시킵니다. 이를 해결하기 위해 본 논문에서는 다양한 시나리오에서 다양한 역할 구성과 토폴로지 구조에 중점을 둔 MAS를 위한 새로운 보안 연구 프레임워크인 MASTER를 소개합니다. MASTER는 다양한 MAS 설정에 대한 자동화된 구성 프로세스와 정보 흐름 기반 상호 작용 패러다임을 제공합니다. 다양한 시나리오에서 MAS 보안 과제를 해결하기 위해 본 논문에서는 역할 및 토폴로지 정보를 활용하여 대상 지정된 도메인별 공격 작업을 동적으로 할당하는 시나리오 적응형 확장 가능한 공격 전략을 설계합니다. 실험 결과에 따르면 역할 및 토폴로지 정보를 활용한 이러한 공격은 대부분의 모델에서 상당한 파괴적인 잠재력을 보여줍니다. 또한, 본 논문에서는 다양한 시나리오에서 MAS 복원력을 크게 향상시키는 방어 전략을 제안합니다. 본 논문의 프레임워크와 결과는 MAS 보안 과제에 대한 미래 연구에 귀중한 통찰력을 제공할 것으로 예상됩니다.