MOS-Attack: A Scalable Multi-objective Adversarial Attack Framework
Created by
Haebom
Category
Empty
저자
Ping Guo, Cheng Gong, Xi Lin, Fei Liu, Zhichao Lu, Qingfu Zhang, Zhenkun Wang
개요
딥 뉴럴 네트워크(DNN)의 견고성을 평가하고 향상시키기 위해 적대적 예제를 생성하는 것은 중요하며, 이는 비분리 가능한 0-1 손실 함수를 최대화하는 것과 동일한 과제를 제시합니다. 기존의 단일 목표 방법은 여러 손실 함수의 시너지 효과와 상반된 특성에 대한 불충분한 이해로 인해 여러 손실 함수를 활용하는 이점을 충분히 활용하지 못합니다. 이러한 한계를 극복하기 위해, 본 논문은 여러 손실 함수를 활용하고 상호 관계를 자동으로 발견하는 새로운 적대적 공격 프레임워크인 Multi-Objective Set-based Attack (MOS Attack)을 제안합니다. MOS Attack은 세트 기반 다중 목표 최적화 전략을 채택하여 추가 매개변수 없이 다양한 손실 함수를 통합할 수 있게 합니다. 또한 다양한 손실 간의 시너지 패턴을 자동으로 탐색하여 더 적은 목표로 강력한 적대적 공격을 생성할 수 있도록 지원합니다.
시사점, 한계점
•
MOS Attack은 단일 목표 공격보다 성능이 뛰어납니다.
•
MOS Attack은 식별된 시너지 패턴을 활용하여 더 적은 수의 손실 함수로도 우수한 결과를 보입니다.
•
본 논문은 적대적 공격 프레임워크에 초점을 맞추고 있으며, 다른 분야로의 확장 가능성은 제한적일 수 있습니다.
