본 논문은 텍스트-이미지(T2I) 모델의 안전 필터를 우회하여 민감한 이미지를 생성하는 새로운 공격 기법인 MJA(Metaphor-based Jailbreaking Attack)를 제안합니다. 기존의 LLM 기반 공격 방법들이 많은 질의를 필요로 하는 한계를 극복하기 위해, 비유(metaphor)를 활용한 적대적 프롬프트 생성 전략을 채택했습니다. MJA는 LLM 기반 다중 에이전트 생성 모듈(MLAG)과 적대적 프롬프트 최적화 모듈(APO)로 구성됩니다. MLAG는 비유 검색, 문맥 매칭, 적대적 프롬프트 생성의 세 가지 하위 작업으로 나뉘어 다양한 비유와 문맥을 탐색하여 다양한 적대적 프롬프트를 생성합니다. APO는 공격 결과 예측을 위한 대리 모델을 학습하고, 최적의 적대적 프롬프트를 적응적으로 식별하는 획득 전략을 설계하여 공격 효율성을 높입니다. 실험 결과, MJA는 기존 방법보다 적은 질의로 더 높은 공격 성공률을 달성하며, 다양한 오픈소스 및 상용 T2I 모델에 대한 높은 전이성을 보여줍니다. 논문에는 불쾌하거나 불편한 내용을 포함하는 모델 생성 콘텐츠가 포함되어 있음을 명시하고 있습니다.
