본 논문은 다양한 컴퓨터 비전 작업에서 딥 뉴럴 네트워크 모델의 안전성을 탐구하기 위해 제안된 지속 가능한 자기 진화 적대적 훈련 (SSEAT) 프레임워크를 제시합니다. 기존의 단일 또는 제한된 유형의 공격에 의존하는 방어 모델의 한계를 극복하기 위해, SSEAT는 여러 단계에 걸쳐 다양한 적대적 예제로부터 학습하는 지속적인 적대적 방어 파이프라인을 도입합니다. 또한, 모델의 재앙적 망각 문제를 해결하기 위해 적대적 데이터 재생 모듈을 제안하고, 일관성 정규화 전략을 통해 이전 지식을 유지하고 깨끗한 샘플에 대한 정확도를 유지하도록 유도합니다. 실험 결과 SSEAT가 경쟁 모델보다 우수한 방어 성능과 분류 정확도를 보였습니다.
시사점, 한계점
•
시사점:
◦
지속적인 적대적 학습 파이프라인을 통해 동적이고 진화하는 공격 방법에 적응하는 방어 모델을 제안.
