Kill-Chain Canaries: Stage-Level Tracking of Prompt Injection Across Attack Surfaces and Model Safety Tiers

Created by

Haebom

저자

Haochuan Kevin Wang, Zechen Zhang

💡 개요

본 논문은 멀티 에이전트 LLM 시스템의 프롬프트 주입 공격에 대한 취약성을 단일 이진 결과(성공/실패)로 평가하는 방식의 한계를 지적하고, 공격이 파이프라인의 네 단계를 거치며 추적되는 '킬 체인 카나리' 방법론을 제안합니다. 이를 통해 다양한 LLM, 공격 표면, 방어 조건에서 프롬프트 주입 공격의 단계별 성공률을 분석하여, 공격이 파이프라인 아키텍처의 문제임을 재조명하고 있습니다.

🔑 시사점 및 한계

•

쓰기 노드(write-node) 배치 최적화: 프롬프트 주입 공격을 차단하는 데 있어 가장 효과적인 안전 결정은 쓰기 노드를 어떻게 배치하느냐입니다. 검증된 모델을 통해 쓰기를 라우팅하면 공격이 전파되는 것을 효과적으로 제거할 수 있습니다.

•

방어 실패의 근본 원인: 네 가지 방어 기법 모두 최소한 하나의 공격 표면에서 채널 불일치만으로도 실패하며, 이는 적대적 적응 없이도 발생하는 현상입니다.

•

렌더링 계층 스크리닝의 불충분함: 눈에 보이지 않는 흰색 글꼴 PDF 페이로드가 가시적인 텍스트 페이로드와 동일하거나 그 이상의 공격 성공률을 보이므로, 렌더링 계층만으로는 효과적인 차단이 어렵습니다.

•

한계점 또는 향후 과제: 본 연구는 다양한 LLM과 공격 표면에 대한 단계별 추적을 제공하지만, 실제 운영 환경에서 발생하는 복잡하고 진화하는 프롬프트 주입 공격 시나리오에 대한 포괄적인 방어를 위해서는 더 많은 방어 기법과 공격 표면에 대한 심층적인 분석 및 실제 환경에서의 검증이 필요합니다.

PDF 보기

Made with Slashpage