본 논문은 현대 대규모 언어 모델이 민감 정보, 유해 정보 또는 저작권이 있는 지식을 포함하는 문제를 해결하기 위해, 모델 전체 재훈련 없이 특정 지식을 제거하는 '사후 망각 (unlearning)' 기술을 연구합니다. 특히, 망각을 위한 효과적인 데이터셋(forget set) 구축의 어려움을 해결하기 위해, 언어 모델 자체를 사용하여 고품질의 합성 데이터셋을 자동으로 생성하는 방법을 제시합니다. 이 방법은 도메인 이름만 입력하면 교과서 스타일의 데이터를 생성하는 프롬프팅 파이프라인을 활용합니다. 생물 보안, 사이버 보안, 해리 포터 소설에 대한 망각 실험을 통해 제안된 합성 데이터셋이 기존의 합성 데이터셋보다 우수하고, 전문가가 직접 큐레이션한 데이터셋과 유사한 성능을 보임을 확인했습니다. 또한, 다단계 생성 파이프라인이 데이터 다양성을 높여 망각 성능을 향상시킨다는 것을 밝혔습니다.
