본 논문은 검색 증강 생성(RAG) 시스템의 프롬프트 주입 공격에 대한 보안 취약점을 다루고, 이를 평가하기 위한 종합적인 벤치마크와 다중 계층 방어 프레임워크를 제안한다. 847개의 적대적 테스트 케이스를 포함하는 벤치마크를 통해 5가지 공격 범주를 평가하고, 임베딩 기반 이상 탐지, 계층적 시스템 프롬프트 가드레일, 다단계 응답 검증 등 3가지 방어 메커니즘을 7개의 최첨단 언어 모델에 적용하여 평가했다. 결과적으로 제안된 프레임워크는 공격 성공률을 73.2%에서 8.7%로 감소시키면서 기본 작업 성능의 94.3%를 유지했다. 연구를 위해 벤치마크 데이터 세트 및 방어 구현을 공개한다.
