A Survey on the Safety and Security Threats of Computer-Using Agents: JARVIS or Ultron?

Thu, 30 Apr 2026 07:25:54 GMT

### 저자

Ada Chen, Yongjiang Wu, Junyuan Zhang, Jingyu Xiao, Shu Yang, Jen-tse Huang, Kun Wang, Wenxuan Wang, Shuai Wang

### 💡 개요

최근 LLM 기반의 컴퓨터 활용 에이전트(CUAs)가 발전하면서 복잡한 작업을 자율적으로 수행하게 되었지만, 이는 새로운 안전 및 보안 위험을 야기합니다. 본 논문은 CUAs의 안전 및 보안 위협에 대한 체계적인 지식을 제공하며, 현존하는 위협, 방어 전략, 평가 방법론을 종합적으로 분석합니다. 이 연구는 안전한 CUA 설계 및 배포를 위한 기반을 마련하고 미래 연구 방향을 제시합니다.

### 🔑 시사점 및 한계

- CUAs의 등장으로 LLM의 취약점과 소프트웨어 통합 복잡성이 결합된 새로운 유형의 안전 및 보안 위협이 발생하고 있습니다.

- 본 연구는 CUAs의 위협, 방어 전략, 평가 방법론에 대한 포괄적인 분류 체계를 제공하여 연구자와 실무자에게 유용한 가이드라인을 제공합니다.

- 향후에는 아직 탐색되지 않은 CUAs의 잠재적 취약점을 지속적으로 연구하고, 더욱 강력한 방어 메커니즘을 개발하는 것이 중요합니다.

[PDF 보기](https://arxiv.org/pdf/2505.10924)