본 논문은 다중 모달 대규모 언어 모델(MLLM)의 시각적 모달 취약성을 이용한 새로운 탈옥 공격 기법인 FC-Attack을 제안합니다. FC-Attack은 악의적인 질의에 해당하는 단계적 설명을 생성하고, 이를 수직, 수평, S자형 세 가지 형태의 흐름도로 시각화하여, 무해한 텍스트 프롬프트와 결합하여 MLLM을 공격합니다. 사전 훈련된 LLM을 미세 조정하여 단계 설명 생성기를 만든 후, 이를 이용하여 악의적인 질의에 대한 단계적 설명을 생성하고, 이를 흐름도로 변환하여 시각적 프롬프트로 사용하는 것이 핵심입니다. Advbench를 이용한 평가 결과, 이미지를 통한 공격 성공률은 최대 96%, 비디오를 통한 공격 성공률은 최대 78%에 달하는 것으로 나타났습니다. 또한, 흐름도의 단계 수와 글꼴 스타일 등 공격 성능에 영향을 미치는 요소들을 조사하고, AdaShield 등의 방어 기법에 대한 연구도 수행했습니다.
