Adversarial Evasion Attacks on Computer Vision using SHAP Values

Created by

Haebom

저자

Frank Mollard, Marcus Becker, Florian Roehrbein

💡 개요

본 논문은 SHAP 값을 활용하여 컴퓨터 비전 모델에 대한 화이트박스 공격 기법을 제안합니다. 제안된 공격은 딥러닝 모델의 출력 신뢰도를 낮추거나 오분류를 유발하여 성능을 저하시키며, 인간의 눈으로는 감지하기 어려운 특징을 가집니다. 특히, SHAP 값은 추론 단계에서 개별 입력의 중요도를 정량화하는 데 사용되며, 이는 기존의 Fast Gradient Sign Method(FGSM)와 비교하여 특정 상황에서 더 강건한 오분류를 생성함을 보여줍니다.

🔑 시사점 및 한계

•

SHAP 값을 활용한 새로운 종류의 적대적 공격 방법을 제시하여 컴퓨터 비전 모델의 보안 취약점을 탐구했습니다.

•

제안된 SHAP 공격은 FGSM과 같은 기존 공격보다 특정 조건(예: 기울기 은닉)에서 더 강건한 오분류를 유도할 수 있음을 입증했습니다.

•

본 연구는 적대적 공격의 은밀성과 효과성을 높일 수 있는 가능성을 보여주지만, 인간의 눈에는 보이지 않는 공격의 실제 적용 가능성과 윤리적 측면에 대한 추가적인 고려가 필요합니다.

PDF 보기

Made with Slashpage