대규모 언어 모델(LLM) 기반 자율 에이전트(특히 표 형식 데이터를 처리하는 에이전트)의 확산으로 인해 프롬프트 주입 공격에 대한 취약성이 제기되었다. 기존의 표 형식 에이전트는 엄격한 데이터 형식과 규칙을 적용하지만, 다층 구조 데이터를 탐색하여 공격 코드를 통합해야 하는 경우 효과적이지 않다. 본 논문에서는 블랙박스 LLM 기반 표 형식 에이전트를 표적으로 하는 새로운 공격 기법인 StruPhantom을 제시한다. StruPhantom은 제약된 몬테카를로 트리 탐색과 오프토픽 평가자를 활용한 진화적 최적화 절차를 통해 공격 페이로드를 지속적으로 개선한다. 실제 플랫폼의 다양한 LLM 기반 에이전트와 공격 시나리오에 대한 평가를 통해 피싱 링크 또는 악성 코드 삽입 성공률이 기존 기법보다 50% 이상 높음을 확인하였다.
