본 논문은 여러 작업에 미세 조정된 다중 모델을 통합하여 다양한 도메인에서 뛰어난 성능을 발휘하는 다용도 모델을 만드는 모델 병합 기술의 취약성을 다룹니다. 특히, 악의적인 단일 모델이 병합된 모델의 무결성을 손상시킬 수 있는 백도어 공격 가능성에 초점을 맞춥니다. 기존 연구는 상당한 컴퓨팅 자원을 가정하고 사전 훈련된 모델을 완전히 미세 조정할 수 있는 경우에 대한 공격 위험을 보여주려고 시도했지만, 이는 현실적이지 않을 수 있습니다. 본 논문은 자원이 제한되고 공격자가 LoRA(Low-Rank Adaptation)와 같은 기술만을 사용하여 악의적인 모델을 생성하는 경우에도 공격이 여전히 효과적일 수 있음을 밝히고, 이러한 상황에서 높은 공격 성공률을 달성하는 LoBAM(Low-Rank Backdoor Attack Method)이라는 새로운 방법을 제안합니다. LoBAM은 악의적인 가중치를 지능적으로 증폭하여 공격 효과를 높이는 방법으로, 다양한 모델 병합 시나리오에서 광범위한 실험을 통해 향상된 공격 성공률을 보여줍니다. 또한, LoBAM은 매우 은밀하여 탐지 및 방어가 어렵다는 것을 보여줍니다.
