본 논문은 대규모 언어 모델(LLM) 에이전트와 다중 에이전트 시스템의 빠른 도입으로 인해 자연어 처리 및 생성 분야에서 전례 없는 기능이 가능해졌지만, 기존의 프롬프트 주입 공격을 넘어서는 전례 없는 보안 취약성이 발생했다는 점을 지적한다. 연구진은 에이전트 AI 시스템 내의 신뢰 경계를 악용하여 완전한 컴퓨터 장악을 달성할 수 있는 공격 벡터로서 LLM 에이전트를 포괄적으로 평가한 최초의 연구 결과를 제시한다. 직접 프롬프트 주입, RAG 백도어 공격, 에이전트 간 신뢰 악용이라는 세 가지 공격 표면을 이용하여 GPT-4o, Claude-4, Gemini-2.5를 포함한 인기 있는 LLM을 속여 피해자 시스템에 악성 코드를 자율적으로 설치하고 실행하도록 유도할 수 있음을 보여준다. 17개의 최첨단 LLM에 대한 평가 결과, 직접 프롬프트 주입에 41.2%의 모델이 취약하고, RAG 백도어 공격에는 52.9%, 에이전트 간 신뢰 악용에는 82.4%의 모델이 취약하다는 놀라운 취약성 계층 구조를 드러냈다. 특히, 직접적인 악의적인 명령을 성공적으로 막은 LLM도 동료 에이전트의 요청을 받으면 동일한 페이로드를 실행하는 것을 발견하여 현재 다중 에이전트 보안 모델의 근본적인 결함을 보여준다. 테스트된 모델 중 5.9%(1/17)만이 모든 공격 벡터에 저항력이 있는 것으로 나타났으며, 대부분은 맥락에 따라 보안 동작이 달라져 악용 가능한 사각지대를 만드는 것으로 나타났다. 이러한 결과는 LLM의 보안 위험에 대한 인식과 연구를 강화해야 할 필요성을 강조하며, AI 도구 자체가 정교한 공격 벡터가 되는 사이버 보안 위협의 패러다임 전환을 보여준다.
