Training-Free Safe Text Embedding Guidance for Text-to-Image Diffusion Models
Created by
Haebom
Category
Empty
저자
Byeonghu Na, Mina Kang, Jiseok Kwak, Minsang Park, Jiwoo Shin, SeJoon Jun, Gayoung Lee, Jin-Hwa Kim, Il-Chul Moon
개요
본 논문은 텍스트-이미지 생성 모델의 안전성을 향상시키기 위한 훈련 불필요 방식인 Safe Text embedding Guidance (STG)를 제안한다. STG는 샘플링 과정에서 텍스트 임베딩을 조정하여 모델이 유해한 출력을 생성하는 것을 방지한다. 안전성 함수를 사용하여 최종 디노이즈된 이미지에 대한 안전성을 평가하고, 이를 기반으로 텍스트 임베딩을 조절한다. STG는 모델의 생성 품질에 최소한의 영향을 미치면서 안전한 출력을 생성하도록 돕는다.
시사점, 한계점
•
시사점:
◦
훈련 없이 텍스트-이미지 모델의 안전성을 향상시키는 새로운 접근 방식 제시.
◦
유해한 콘텐츠 생성 문제를 해결하기 위한 효과적인 방법 제공 (예: 누드, 폭력, 특정 예술 스타일).
◦
기존 방법론 대비 우수한 성능 입증.
◦
모델의 생성 품질을 크게 훼손하지 않음.
•
한계점:
◦
구체적인 한계점에 대한 정보는 논문 요약에서 명시되지 않음. (논문에 직접 언급되어야 함)
