본 논문은 적대적 학습에서 강건성과 정확도 사이의 상충 관계를 해결하기 위해 불변성 정규화를 활용하는 방법을 분석하고, 그 한계점을 극복하는 새로운 방법인 ARAT(Asymmetric Representation-regularized Adversarial Training)을 제안합니다. 기존 불변성 정규화의 문제점으로, 불변성 목표와 분류 목표 간의 기울기 충돌과 깨끗한 입력과 적대적 입력 간의 분포 차이로 인한 혼합 분포 문제를 지적합니다. ARAT은 비대칭 불변성 손실과 stop-gradient 연산, 예측기를 사용하여 기울기 충돌 문제를 해결하고, split-BatchNorm 구조를 통해 혼합 분포 문제를 해결합니다. 실험 결과 ARAT이 기존 방법들보다 우수한 성능을 보이며, 지식 증류 기반 방어에 대한 새로운 관점을 제시합니다.
