본 논문은 대규모 언어 모델(LLM) 기반 컴퓨터 사용 에이전트의 보안 취약성을 다룹니다. SUDO라는 새로운 공격 프레임워크를 제시하는데, 이는 Claude for Computer Use와 같은 상용 에이전트의 거부 훈련된 안전 장치를 체계적으로 우회합니다. SUDO의 핵심 메커니즘인 Detox2Tox는 유해한 요청을 겉보기에는 무해한 요청으로 변환한 후, 고급 비전 언어 모델(VLM)을 통해 자세한 지침을 확보하고, 실행 직전에 악의적인 내용을 다시 도입합니다. 기존의 탈옥(jailbreak)과 달리, SUDO는 내장된 거부 피드백을 기반으로 공격을 반복적으로 개선하여 강력한 정책 필터에 대한 효과를 높입니다. 실제 환경에서 50가지 작업에 대한 광범위한 테스트 결과, Claude for Computer Use에서 SUDO의 공격 성공률은 24.41%(미세 조정 없이)에서 최대 41.33%(반복적 미세 조정 시)에 달했습니다. 이 연구는 실제 컴퓨팅 환경에서 LLM 기반 에이전트의 취약성과 쉽게 악용될 수 있음을 보여주며, 견고하고 맥락을 인식하는 안전 장치의 필요성을 강조합니다.
