본 논문은 조직 간 경계를 넘나드는 자율 에이전트로 빠르게 진화하는 대규모 언어 모델(LLM)의 보안 문제를 다룬다. LLM 에이전트는 재난 대응, 공급망 최적화 등 분산된 전문성이 필요한 작업에 협력하지만, 이러한 교차 도메인 협업은 기존의 정렬 및 억제 기술의 통합된 신뢰 가정을 깨뜨린다. 고립된 상태에서는 안전한 에이전트도 신뢰할 수 없는 피어로부터 메시지를 받으면 비밀을 유출하거나 정책을 위반할 수 있으며, 이는 클래식한 소프트웨어 버그가 아닌 출현하는 다중 에이전트 역학에 의해 발생하는 위험을 초래한다. 논문에서는 교차 도메인 다중 에이전트 LLM 시스템에 대한 보안 어젠다를 제시하고, 7가지 새로운 보안 과제와 각 과제에 대한 가능한 공격, 보안 평가 지표, 미래 연구 지침을 제시한다.
