Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

MixBridge: Heterogeneous Image-to-Image Backdoor Attack through Mixture of Schr\"odinger Bridges

Created by
  • Haebom

저자

Shixi Qin, Zhiyong Yang, Shilong Bao, Shi Wang, Qianqian Xu, Qingming Huang

개요

본 논문은 복잡하고 임의의 입력 분포를 위한 브리지 기반 확산 모델에 여러 이종 백도어 트리거를 심는 데 초점을 맞추고 있습니다. 기존의 백도어 공식은 주로 단일 공격 시나리오를 다루며 가우시안 노이즈 입력 모델로 제한됩니다. 이러한 한계를 극복하기 위해, 본 논문은 임의의 입력 분포(I2I 작업을 특수한 경우로 간주)를 처리하기 위한 새로운 확산 슈뢰딩거 브리지(DSB) 프레임워크인 MixBridge를 제안합니다. MixBridge는 오염된 이미지 쌍으로 직접 훈련하여 백도어 트리거를 주입할 수 있으며, 이는 기존 연구에서 필요했던 확률적 미분 방정식에 대한 번거로운 수정을 제거하여 브리지 모델의 백도어 동작을 연구하기 위한 유연한 도구를 제공합니다. 그러나 단일 DSB 모델이 여러 백도어 트리거를 훈련할 수 있는지 여부는 중요한 질문입니다. 본 논문의 이론에 따르면, 이를 시도할 경우 모델은 양성 및 백도어 분포의 기하 평균을 따르게 되어 백도어 작업 전반에 걸쳐 성능 충돌이 발생합니다. 이를 극복하기 위해, 본 논문은 서로 다른 브리지를 혼합하기 위한 분할 및 병합 전략을 제안합니다. 이 전략은 각 특정 목표에 대해 모델을 독립적으로 사전 훈련한 다음(분할) 통합 모델로 통합합니다(병합). 또한, MixBridge의 은밀성을 향상시키기 위해 가중치 재할당 체계(WRS)도 설계되었습니다. 다양한 생성 작업에 대한 실험적 연구는 MixBridge의 효과를 보여줍니다.

시사점, 한계점

시사점:
임의의 입력 분포를 가진 브리지 기반 확산 모델에 대한 다중 이종 백도어 트리거 심기 가능성 제시
기존 방법의 한계점인 가우시안 노이즈 입력 모델 및 단일 공격 시나리오 제한 극복
확률적 미분 방정식 수정 없이 백도어 트리거 주입 가능한 MixBridge 프레임워크 제안
다중 백도어 트리거 훈련을 위한 분할 및 병합 전략과 가중치 재할당 체계 제시
다양한 생성 작업에서 MixBridge의 효과를 실험적으로 검증
한계점:
단일 DSB 모델로 다중 백도어 트리거를 훈련할 경우, 양성 및 백도어 분포의 기하 평균을 따르게 되어 성능 충돌 발생
분할 및 병합 전략 및 가중치 재할당 체계의 최적화 및 일반화에 대한 추가 연구 필요
👍