본 논문은 텍스트 반전(TI)을 이용한 확산 모델(DM)의 개인화 과정에 대한 독성 공격을 체계적으로 분석합니다. 먼저, 독성이 텍스트 임베딩에 미치는 영향을 시각화하는 새로운 방법인 의미적 민감도 맵(Semantic Sensitivity Maps)을 제시합니다. 다음으로, DM이 시간 단계에 따라 불균일한 학습 행동을 보이며, 특히 낮은 노이즈 샘플에 집중하는 것을 확인하고 실험적으로 검증합니다. 독성 공격은 이러한 편향을 상속받아 주로 낮은 시간 단계에서 적대적 신호를 주입합니다. 마지막으로, 적대적 신호가 학습 과정에서 관련 개념 영역으로부터 학습을 방해하여 TI 프로세스를 손상시키는 것을 관찰합니다. 이러한 통찰력을 바탕으로, 세 가지 주요 구성 요소(1) 고주파수 독성 신호를 약화시키는 JPEG 압축, (2) 낮은 시간 단계에서의 적대적 신호를 피하기 위해 TI 훈련 중 높은 시간 단계로의 제한, (3) 관련 영역으로 학습을 제한하는 손실 마스킹)로 구성된 새로운 방어 메커니즘인 안전 영역 훈련(SZT)을 제안합니다. 다양한 독성 공격 방법에 대한 광범위한 실험을 통해 SZT가 모든 독성 공격에 대한 TI의 강력함을 크게 향상시키고 이전에 발표된 방어보다 생성 품질을 향상시킨다는 것을 보여줍니다.
