Open Challenges in Multi-Agent Security: Towards Secure Systems of Interacting AI Agents

Thu, 30 Apr 2026 07:25:18 GMT

### 저자

Christian Schroeder de Witt, Klaudia Krawiecka, Igor Krawczuk, Ben Hagag, William L. Anderson, Peter Belcak, Ben Bucknall, Xiaohong Cai, Ayush Chopra, Doron Cohen, Ron F. Del Rosario, Andis Draguns, Annie Gray, Keren Katz, Vasilios Mavroudis, Jaron Mink, Sumeet Ramesh Motwani, Jonathan Petit, Leif-Sebastian Rembeck, Chandler Smith, John Sotiropoulos, Steven Young, Sarah Scheffler, Mary Llewellyn

### 💡 개요

AI 에이전트 간 상호작용이 증가함에 따라 기존 사이버 보안 및 AI 안전 프레임워크를 넘어서는 새로운 보안 과제가 발생합니다. 이러한 자유 형식 프로토콜은 에이전트의 일반화 능력을 향상시키지만, 비밀 공모 및 협력적 공격과 같은 새로운 위협을 야기합니다. 본 논문은 AI 에이전트 상호작용에서 발생하는 보안 위협을 다루는 새로운 분야인 "멀티 에이전트 보안"을 제안하며, 이러한 위협의 분류, 관련 연구 분야들의 통합, 그리고 안전한 에이전트 시스템 설계를 위한 연구 의제를 제시합니다.

### 🔑 시사점 및 한계

- AI 에이전트 간 상호작용으로 인해 발생하는 독특한 보안 위협 환경을 체계적으로 분류합니다.

- AI 보안, 멀티 에이전트 학습, 사이버 보안 등 다양한 분야의 연구를 통합하여 멀티 에이전트 보안을 위한 통합된 연구 방향을 제시합니다.

- 대규모 에이전트 배포의 사회경제적 잠재력을 실현하고 국가 안보 위험을 완화하기 위한 연구의 필요성을 강조합니다.

- 현재 연구는 초기 단계이며, 제안된 위협 모델 및 해결책은 더 많은 이론적, 실증적 검증이 필요합니다.

---

[PDF 보기](https://arxiv.org/pdf/2505.02077)