본 논문은 확산 모델에서 훈련 데이터의 정확한 재현(memorization) 현상이 저작권 침해 및 개인 정보 유출로 이어질 수 있다는 문제점을 제기한다. 저자들은 메모라이제이션이 탈잡음 과정에서 메모리된 이미지로 향하는 인력 분지(attraction basin) 때문이라고 주장하며, 이를 완화하기 위한 새로운 접근 방식을 제시한다. 이는 분류기 없는 안내(classifier-free guidance)를 이상적인 전환점 이후에 적용하여 인력 분지에서 탈출하도록 확산 궤적을 유도하는 방법이다. 또한, 탈잡음 과정에서 더 빨리 인력 분지에서 벗어나도록 돕는 새로운 안내 기법인 '반대 안내(opposite guidance)'를 제안한다. 실험을 통해 다양한 메모라이제이션 발생 시나리오에서 인력 분지의 존재를 보이고, 제안된 접근 방식이 메모라이제이션을 성공적으로 완화함을 보여준다.
시사점, 한계점
•
시사점:
◦
확산 모델의 메모라이제이션 현상에 대한 새로운 관점 제시 (인력 분지 개념)
◦
메모라이제이션 완화를 위한 효과적인 방법 제안 (전환점 기반 분류기 없는 안내, 반대 안내)
