본 논문은 대규모 언어 모델(LLM)의 안전성을 평가하고 강화하기 위해, 은밀한 jailbreak 프롬프트를 생성하는 고급 접근 방식인 GAP(Graph of Attacks with Pruning) 프레임워크를 소개합니다. GAP는 기존 트리 기반 LLM jailbreak 방법의 한계를 해결하기 위해, 공격 경로 간의 지식 공유를 가능하게 하는 상호 연결된 그래프 구조를 구현합니다. GAP는 기존 기법보다 우수하여 공격 성공률을 20.8% 증가시키고 쿼리 비용을 62.7% 감소시킵니다. 또한, 자동 시드 생성용 GAP-Auto 및 다중 모달 공격용 GAP-VLM과 같은 특수 변형을 제시합니다. GAP 생성 프롬프트는 내용 검토 시스템을 개선하는 데 매우 효과적이며, 미세 조정을 위해 사용될 때 실제 긍정 감지율을 108.5% 증가시키고 정확도를 183.6% 증가시킵니다.
