Prompt-Based Safety Guidance Is Ineffective for Unlearned Text-to-Image Diffusion Models
Created by
Haebom
Category
Empty
저자
Jiwoo Shin, Byeonghu Na, Mina Kang, Wonhyeok Choi, Il-Chul Moon
개요
본 논문은 텍스트-이미지 생성 모델의 유해 콘텐츠 생성 문제를 해결하기 위한 두 가지 주요 접근 방식(유해 개념 제거를 위한 모델 미세 조정 및 negative prompt를 활용하는 training-free guidance 방법) 간의 비호환성을 지적하고, 이를 해결하기 위한 새로운 방법을 제안한다. 제안된 방법은 기존의 두 가지 접근 방식에 대한 수정 없이 concept inversion을 통해 얻은 implicit negative embeddings으로 negative prompts를 대체함으로써 방어 성공률을 향상시키고 입력 prompt의 핵심 의미를 유지한다.
시사점, 한계점
•
시사점:
◦
유해 콘텐츠 생성 방지를 위한 두 가지 주요 접근 방식의 통합 시도에서 발생하는 비호환성 문제를 해결했다.
◦
concept inversion을 활용하여 기존 방법론에 쉽게 통합될 수 있는 효과적인 방법을 제시했다.
