# IP Leakage Attacks Targeting LLM-Based Multi-Agent Systems

### 저자

Liwen Wang, Wenxuan Wang, Shuai Wang, Zongjie Li, Zhenlan Ji, Zongyi Lyu, Daoyuan Wu, Shing-Chi Cheung

### 개요

본 논문은 대규모 언어 모델(LLM) 기반의 다중 에이전트 시스템(MAS)에서 지적 재산(IP) 보호의 취약성을 다룹니다.  MAS의 복잡한 구조와 에이전트 간 상호작용으로 인해 민감한 정보 유출 위험이 존재하며, 이를 해결하기 위해 MASLEAK이라는 새로운 공격 프레임워크를 제시합니다. MASLEAK은 공개 API를 통해 MAS와 상호 작용하며, 악성 쿼리를 사용하여 각 에이전트의 응답을 유도하고, 시스템 아키텍처, 시스템 프롬프트, 작업 지시 사항, 도구 사용 등의 독점 구성 요소를 추출합니다. 810개의 합성 MAS 애플리케이션 데이터셋과 Coze, CrewAI 등 실제 MAS 애플리케이션을 대상으로 MASLEAK을 평가한 결과, 시스템 프롬프트 및 작업 지시 사항에 대해 평균 87%, 시스템 아키텍처에 대해 92%의 높은 정확도로 MAS IP를 추출하는 것을 확인했습니다.

### 시사점, 한계점

- **시사점:**

    - LLM 기반 MAS의 지적 재산권 보호 취약성을 밝힘.

    - MASLEAK이라는 효과적인 공격 프레임워크 제시.

    - 실제 애플리케이션에 대한 공격 성공률이 높음을 보임.

    - MAS 보안 강화를 위한 방어 메커니즘 연구 필요성 제기.

- **한계점:**

    - 현재는 합성 데이터셋과 일부 실제 애플리케이션에 대한 평가만 수행. 다양한 유형의 MAS에 대한 추가적인 평가 필요.

    - MASLEAK에 대한 방어 기술 개발이 아직 미흡함.

    - 공격 성공률이 100%가 아니므로,  MASLEAK을 완벽하게 방어할 수 있는 기술 개발이 필요.

[PDF 보기](https://arxiv.org/pdf/2505.12442)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).