Improving Sustainability of Adversarial Examples in Class-Incremental Learning
Created by
Haebom
Category
Empty
저자
Taifeng Liu, Xinjing Liu, Liangqiu Dong, Yang Liu, Yilong Yang, Zhuo Ma
개요
본 논문은 Class-Incremental Learning (CIL) 환경에서 모델 업데이트로 인해 기존 적대적 예제(AE)가 실패하는 문제를 해결하기 위해 SAE(Sustainable Adversarial Examples)를 제안합니다. SAE는 AE의 의미론적 견고성을 높여 도메인 드리프트에 강하도록 설계되었으며, Semantic Correction Module과 Filtering-and-Augmentation Module을 통해 AE의 일반화 성능을 향상시키고 의미론적 변동성을 줄입니다. 실험 결과, SAE는 기준선 모델보다 평균 31.28% 높은 성능을 보였습니다.
시사점, 한계점
•
시사점:
◦
CIL 환경에서 적대적 예제의 지속 가능성을 향상시키는 새로운 접근 방식을 제시했습니다.
◦
Semantic Correction Module을 통해 시각-언어 모델과 CIL 모델을 결합하여 AE의 일반화 성능을 높였습니다.
◦
Filtering-and-Augmentation Module을 통해 AE의 의미론적 안정성을 개선했습니다.
◦
다양한 CIL 환경에서 SAE의 우수한 성능을 입증했습니다.
•
한계점:
◦
구체적인 성능 향상 수치와 관련된 데이터셋, 환경 설정을 알 수 없습니다.
◦
시각-언어 모델의 종류와 그에 따른 영향에 대한 정보가 부족합니다.
◦
Filtering-and-Augmentation Module의 구체적인 작동 방식에 대한 설명이 부족합니다.
