본 논문은 단일 에이전트가 아닌 다중 에이전트 대규모 언어 모델(LLM) 시스템의 새로운 적대적 위험에 초점을 맞춥니다. 제한된 토큰 대역폭, 메시지 전달 간 지연 시간, 방어 메커니즘과 같은 제약 조건을 가진 실용적인 시스템을 공격하는 데 중점을 두고, 지연 시간 및 대역폭 제약 네트워크 토폴로지에서 프롬프트 분포를 최적화하는 순열 불변 적대적 공격을 설계했습니다. 최대 유량 최소 비용 문제와 새로운 순열 불변 회피 손실(PIEL)을 결합하여 그래프 기반 최적화를 활용하여 공격 성공률을 극대화하고 탐지 위험을 최소화합니다. Llama, Mistral, Gemma, DeepSeek 등 다양한 모델과 JailBreakBench, AdversarialBench와 같은 데이터 세트에서 평가한 결과, 기존 공격보다 최대 7배 우수한 성능을 보이며 다중 에이전트 시스템의 심각한 취약성을 드러냅니다. 또한 Llama-Guard 및 PromptGuard 변형을 포함한 기존 방어 메커니즘이 본 공격을 막지 못함을 보여주며, 다중 에이전트 특유의 안전 메커니즘의 시급한 필요성을 강조합니다.
