본 논문은 AI 기반 자율 UI 에이전트의 보안 취약성을 평가하기 위한 새로운 벤치마크 WASP를 제안한다. 자율 UI 에이전트는 세금 신고나 청구서 지불과 같은 일상적인 작업을 자동화하여 생산성을 높일 수 있는 잠재력을 가지고 있지만, 사용자를 대신하여 행동할 수 있다는 점 때문에 보안 문제가 심각하다. 기존의 프롬프트 주입 공격 테스트는 비현실적인 시나리오를 테스트하거나 공격자에게 과도한 권한을 부여하거나 단일 단계의 독립적인 작업만을 고려하는 등의 한계를 가지고 있다. WASP는 현실적인 시나리오에서 종단 간 평가를 수행하여 이러한 한계를 극복하고자 한다. 실험 결과, 최첨단 AI 모델조차도 간단한 프롬프트 주입 공격에 속는 것으로 나타났으며, 공격이 부분적으로 성공하는 경우가 최대 86%에 달하지만, 공격자의 목표를 완전히 달성하는 데는 어려움을 겪는다는 사실을 밝혀냈다. 이는 현재 AI 에이전트의 보안 수준이 '무능력'에 의해 유지되고 있음을 시사한다.
