본 논문은 방대한 데이터셋으로 학습된 대규모 언어 모델(LLM)이 민감한 정보를 학습하는 문제를 해결하기 위해, 다중 도메인 언러닝 프레임워크인 GRAIL(GRadient-based AdaptIve unLearning)을 제안합니다. 기존의 단일 도메인 언러닝 방법은 다중 도메인(예: 개인정보, 저작권) 간의 지식이 얽혀 과도한 지식 제거 또는 성능 저하를 초래하는 문제를 해결하지 못합니다. GRAIL은 다중 도메인의 기울기 정보를 활용하여 언러닝 범위와 유지 범위를 정확하게 구분하고, 적응적 매개변수별 국재화 전략을 적용하여 목표 지식을 선택적으로 제거하면서 각 도메인의 중요 매개변수는 보존합니다. 실험 결과, GRAIL은 기존 방법과 동등한 수준의 언러닝 성공률을 달성하면서, 기존 최고 성능 방법보다 최대 17% 향상된 지식 유지 성공률을 보였습니다.
