본 논문은 시각적 조작의 악의적인 응용으로 인한 보안 및 평판 위협에 대응하기 위해 지식 기반의 적대적 방어 기법을 제안합니다. 기존의 "데이터 전용" 방식이 저수준 특징 공간에서의 왜곡에 그치는 한계를 극복하고자, 도메인 특정 지식 수준에서 의미론적 혼란을 유발하는 적대적 노이즈 생성에 집중합니다. 시각적 인지와 밀접한 관련이 있는 지표를 사용하여 일반적인 픽셀 단위 지표를 대체하고, 지식 기반 및 인지 관련 방해를 통해 악의적 조작 모델의 출력을 방해합니다. 인간의 인지 및 화질 평가 실험을 통해 제안된 방법의 효과와 우수한 일반화 성능을 검증합니다.
시사점, 한계점
•
시사점:
◦
지식 기반 접근 방식을 통해 기존의 적대적 방어의 한계를 극복하고 더욱 강력하고 일반화 가능한 방어 시스템을 구축할 수 있음을 보여줍니다.
◦
의미론적 혼란을 유발하는 적대적 노이즈 생성 전략은 시각적 조작 공격에 대한 효과적인 방어 전략이 될 수 있음을 제시합니다.
◦
제안된 방법은 다양한 시각적 조작 공격에 대해 우수한 성능과 일반화 성능을 보입니다.
•
한계점:
◦
제안된 방법의 효과는 특정 도메인의 지식에 의존적일 수 있으며, 다른 도메인으로의 일반화가 어려울 수 있습니다.
◦
인간의 인지 및 화질 평가는 주관적일 수 있으며, 객관적인 평가 지표를 추가적으로 고려해야 합니다.
