본 논문은 다중 모달 대규모 언어 모델(MLLM)의 탈옥 공격 방어를 위한 최초의 적대적 훈련(AT) 패러다임인 ProEAT을 제시합니다. 기존 AT를 MLLM에 적용하는 어려움인 매개변수 조정과 다중 모달에 대한 강건성 확보 문제를 해결하기 위해, 경량 프로젝터 계층에 집중하는 프로젝터 기반 AT 구조와 작업 요구에 따른 손실 함수 가중치 조정 메커니즘을 도입했습니다. 시각 및 텍스트 모달리티에 대한 공동 최적화 전략을 통해 다양한 탈옥 공격에 대한 강력한 방어 성능을 달성하며, 세 가지 주요 MLLM과 다섯 가지 탈옥 공격 방법에 대한 실험 결과, 기존 방법 대비 평균 34% 향상된 성능과 1% 미만의 정확도 저하를 보였습니다. 실제 구현된 지능형 시스템에서의 평가를 통해 실용성을 입증했습니다.
시사점, 한계점
•
시사점:
◦
MLLM의 탈옥 공격에 대한 효과적인 방어 기법인 ProEAT 제시
◦
대규모 모델의 매개변수 조정 문제 해결 및 계산 효율성 향상
◦
다중 모달(시각 및 텍스트)에 대한 강건한 방어 성능 구현
◦
실제 시스템 적용 가능성 검증
◦
기존 방어 기법 대비 성능 향상 (평균 34%)
•
한계점:
◦
ProEAT의 일반화 성능에 대한 추가 연구 필요
◦
새로운 유형의 탈옥 공격에 대한 저항력 평가 필요
◦
특정 MLLM 및 탈옥 공격 방법에 대한 실험 결과이므로 다른 모델이나 공격 방법에 대한 일반화 가능성 검토 필요
