본 논문은 텍스트 반전(TI)을 사용하는 확산 모델(DM)에 대한 포이즈닝 공격을 체계적으로 분석합니다. 먼저, 포이즈닝이 텍스트 임베딩에 미치는 영향을 시각화하는 새로운 방법인 의미적 민감도 맵(Semantic Sensitivity Maps)을 소개합니다. DM이 시간 단계에 따라 비균일한 학습 행동을 보이며, 특히 낮은 노이즈 샘플에 집중하는 것을 확인하고 실험적으로 검증합니다. 포이즈닝 공격은 이러한 편향을 상속받아 주로 낮은 시간 단계에 적대적 신호를 주입합니다. 또한, 적대적 신호가 학습을 훈련 데이터 내의 관련 개념 영역에서 벗어나게 하여 TI 프로세스를 손상시키는 것을 관찰합니다. 이러한 통찰력을 바탕으로, 3가지 주요 구성 요소(1) 고주파수 포이즈닝 신호를 약화시키는 JPEG 압축, (2) 낮은 시간 단계의 적대적 신호를 피하기 위해 TI 훈련 중 높은 시간 단계로 제한, (3) 관련 영역으로 학습을 제한하는 손실 마스킹)로 구성된 새로운 방어 메커니즘인 안전 영역 훈련(SZT)을 제안합니다. 여러 포이즈닝 방법에 대한 광범위한 실험을 통해 SZT가 모든 포이즈닝 공격에 대한 TI의 강력함을 크게 향상시키고 이전에 발표된 방어보다 생성 품질을 향상시킨다는 것을 보여줍니다.
