Assessing Robustness via Score-Based Adversarial Image Generation
Created by
- Haebom
Category
Empty
저자
Marcel Kollovieh, Lukas Gosch, Marten Lienen, Yan Scholten, Leo Schwinn, Stephan Gunnemann
개요
본 논문은 기존의 $\ell_p$-norm 제약 하에서 이루어지는 적대적 공격 및 방어 연구의 한계를 극복하기 위해, Score-Based Adversarial Generation (ScoreAG)이라는 새로운 프레임워크를 제시합니다. ScoreAG는 score-based generative model을 활용하여 $\ell_p$-norm 제약을 넘어서는, 의미를 유지하는 제한 없는 적대적 예시를 생성합니다. 기존 이미지 변환 또는 완전히 새로운 이미지 합성을 통해 이미지의 핵심 의미를 유지하면서 적대적 예시를 생성하며, 생성 능력을 활용하여 이미지를 정제함으로써 분류기의 강건성을 향상시킵니다. 다양한 벤치마크에서 기존 최첨단 공격 및 방어보다 성능이 우수함을 실험적으로 보여줍니다. 이는 $\ell_p$-norm 제약보다는 의미론적 제약에 따른 적대적 예시 연구의 중요성을 강조합니다.
시사점, 한계점
•
시사점:
◦
$\ell_p$-norm 제약의 한계를 극복하는 새로운 적대적 공격 및 방어 프레임워크 제시
◦
의미를 유지하는 적대적 예시 생성을 통한 더욱 포괄적인 강건성 평가 가능성 제시
◦
ScoreAG를 통한 이미지 정제를 통한 분류기 강건성 향상 가능성 확인
◦
기존 최첨단 방식 대비 우수한 성능 검증
•
한계점:
◦
ScoreAG의 생성 과정에 대한 자세한 설명 부족 (구체적인 알고리즘 및 구현 세부사항)
◦
다양한 종류의 생성 모델에 대한 적용 가능성 및 일반화 성능에 대한 추가 연구 필요
◦
"의미 유지"의 정량적 측정 및 평가 기준에 대한 명확한 제시 부족
◦
실제 적용 환경에서의 효율성 및 확장성에 대한 추가적인 검토 필요
