SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models

Thu, 07 May 2026 08:28:20 GMT

### 저자

Renyang Liu, Kangjie Chen, Han Qiu, Jie Zhang, Kwok-Yan Lam, Tianwei Zhang, See-Kiong Ng

### 💡 개요

본 논문은 이미지 생성 모델(IGM)이 학습 데이터에서 학습한 유해한 개념(예: NSFW 이미지, 저작권 침해 스타일)을 제거하기 위한 새로운 프레임워크인 SafeRedir을 제안합니다. SafeRedir은 모델을 재학습시키지 않고, 프롬프트 임베딩 공간에서 토큰 수준의 개입을 통해 유해한 프롬프트를 안전한 의미 영역으로 유도하는 경량 추론 시간 프레임워크입니다. 이를 통해 SafeRedir은 모델 성능 저하 없이 효과적인 개념 제거, 높은 의미 및 지각 보존, 견고한 이미지 품질, 그리고 적대적 공격에 대한 저항성을 달성합니다.

### 🔑 시사점 및 한계

- **유해 개념 제거를 위한 경량 추론 시간 해결책 제시**: 기존의 모델 재학습 방식과 달리, SafeRedir은 모델을 수정하지 않고 추론 단계에서 안전성을 확보할 수 있어 효율적이고 유연합니다.

- **적대적 공격 및 프롬프트 변형에 대한 높은 견고성**: 토큰 수준의 정밀한 개입을 통해 다양한 공격 시나리오에서도 안정적인 유해 개념 제거 성능을 유지합니다.

- **다양한 모델 및 기존 unlearning 모델과의 호환성**: 확산 모델 아키텍처 및 기존에 unlearning된 모델에도 적용 가능하여 광범위한 활용성을 보여줍니다.

- **특정 유형의 유해 콘텐츠에 대한 제한적인 효과**: 논문에서 제시된 안전성 분류기가 모든 종류의 유해 콘텐츠를 완벽하게 탐지하고 분류하지 못할 수 있으며, 이는 향후 연구에서 개선되어야 할 부분입니다.

[PDF 보기](https://arxiv.org/pdf/2601.08623)