본 논문은 기존의 적대적 트리거 학습(Adversarial Trigger Learning) 방법의 한계를 극복하기 위해 ATLA(Adversarial Trigger Learning with Augmented objectives)를 제안합니다. ATLA는 기존의 음의 로그 우도 손실 함수를 가중 손실 함수로 개선하여 학습된 적대적 트리거가 응답 형식 토큰에 더욱 최적화되도록 유도합니다. 이를 통해 ATLA는 단 하나의 질의-응답 쌍만으로 적대적 트리거를 학습할 수 있으며, 학습된 트리거는 다른 유사한 질의에도 잘 일반화됩니다. 또한, 회피적인 응답을 억제하는 보조 손실 함수를 추가하여 트리거 최적화를 개선했습니다. 실험 결과, ATLA는 기존 최첨단 기법보다 우수한 성능을 보이며, 거의 100%의 성공률을 달성하면서 80% 적은 질의만으로 공격을 수행할 수 있음을 보였습니다. 학습된 적대적 트리거는 새로운 질의와 LLM에도 잘 일반화되는 높은 일반화 성능을 보입니다. 소스 코드는 공개되었습니다 (https://github.com/QData/ALTA_Augmented_Adversarial_Trigger_Learning).
