본 논문은 대규모 언어 모델(LLM) 기반의 다중 에이전트 시스템(MAS)에서 지적 재산(IP) 보호의 취약성을 다룹니다. MAS의 복잡한 구조와 에이전트 간 상호작용으로 인해 민감한 정보 유출 위험이 존재하며, 이를 해결하기 위해 MASLEAK이라는 새로운 공격 프레임워크를 제시합니다. MASLEAK은 공개 API를 통해 MAS와 상호 작용하며, 악성 쿼리를 사용하여 각 에이전트의 응답을 유도하고, 시스템 아키텍처, 시스템 프롬프트, 작업 지시 사항, 도구 사용 등의 독점 구성 요소를 추출합니다. 810개의 합성 MAS 애플리케이션 데이터셋과 Coze, CrewAI 등 실제 MAS 애플리케이션을 대상으로 MASLEAK을 평가한 결과, 시스템 프롬프트 및 작업 지시 사항에 대해 평균 87%, 시스템 아키텍처에 대해 92%의 높은 정확도로 MAS IP를 추출하는 것을 확인했습니다.
