Training-Free Safe Denoisers for Safe Use of Diffusion Models
Created by
- Haebom
Category
Empty
저자
Mingyu Kim, Dongjun Kim, Amman Yusuf, Stefano Ermon, Mijung Park
개요
강력한 확산 모델(DMs)의 안전성에 대한 우려가 커지면서, 부적절하거나 NSFW 콘텐츠 생성, 저작권 침해 또는 잊혀질 권리를 가진 개인의 데이터 생성 등의 오용 문제가 발생하고 있습니다. 본 논문에서는 텍스트 기반의 부정 프롬프트를 사용하거나 DMs을 재학습하는 기존 방법론과 달리, DMs을 재학습하거나 미세 조정할 필요 없이 부정 집합(예: 안전하지 않은 이미지, 저작권 데이터 등)을 활용하여 샘플링 궤적을 직접 수정하는 새로운 접근 방식을 제시합니다. 안전한 노이즈 제거된 샘플과 안전하지 않은 샘플 간의 관계를 공식적으로 도출하여 최종 샘플이 부정 영역에서 벗어나도록 보장하는 safe 디노이저를 개발했습니다. 이 알고리즘은 텍스트 조건, 클래스 조건, 무조건적인 이미지 생성 시나리오에서 고품질 샘플을 생성하면서 데이터 분포의 부정 영역을 성공적으로 피할 수 있음을 보여줍니다.
시사점, 한계점
•
DMs의 재학습이나 미세 조정 없이 안전한 이미지 생성을 가능하게 하는 훈련 없는 접근 방식 제시.
•
부정 집합을 활용하여 샘플링 궤적을 직접 수정함으로써 안전성을 확보.
•
텍스트 조건, 클래스 조건, 무조건적인 이미지 생성 시나리오에서 효과 입증.
•
DMs을 보다 안전하게 사용할 수 있는 잠재력 제시.
•
논문 내 한계점은 명시되지 않음.
