본 논문은 현재의 LLM unlearning 방법이 "forgotten" 정보를 다시 학습하는 공격(relearning attacks)에 취약하다는 보안 취약점을 지적합니다. 기존 방법들이 loss landscape의 sharp minima로 모델 파라미터를 유도하여 불안정한 영역을 만들고, 이로 인해 소량의 fine-tuning 데이터만으로도 삭제된 지식이 쉽게 복구될 수 있다는 것을 밝힙니다. 이를 해결하기 위해, 본 논문은 neighborhood-aware optimization을 통해 더 안정적인 파라미터 영역을 탐색하는 bi-level feedback-guided optimization framework인 StableUN을 제안합니다. StableUN은 adversarial perturbation을 사용하여 파라미터 주변을 탐색하는 forgetting feedback과 모델 유틸리티를 보존하는 remembering feedback을 통합하고, gradient projection을 통해 두 목적을 정렬합니다. WMDP와 MUSE 벤치마크에서 StableUN은 relearning 및 jailbreaking 공격에 대해 더 강력한 방어력을 보이면서도 경쟁력 있는 유틸리티 성능을 유지함을 입증했습니다.
