본 논문은 적대적 트리거 학습의 최적화 목표를 개선하는 ATLA(Adversarial Trigger Learning with Augmented objectives)를 제안합니다. 기존 연구에서 사용하는 음의 로그 우도 손실을 가중 손실 공식으로 개선하여 학습된 적대적 트리거가 응답 형식 토큰에 더욱 최적화되도록 유도합니다. 이를 통해 ATLA는 단 하나의 질의-응답 쌍만으로 적대적 트리거를 학습할 수 있으며, 학습된 트리거는 다른 유사한 질의에도 잘 일반화됩니다. 또한, 회피적인 응답을 억제하는 보조 손실을 사용하여 트리거 최적화를 개선하는 변형을 설계했습니다. ATLA를 사용하여 LLM을 탈옥하는 적대적 접미사를 학습하고 숨겨진 시스템 프롬프트를 추출하는 방법을 보여줍니다. 실험적으로 ATLA가 기존 최첨단 기술보다 일관되게 우수한 성능을 보이며, 공격 성공률이 거의 100%에 달하고 질의 수는 80% 감소함을 보였습니다. ATLA로 학습된 탈옥 접미사는 보이지 않는 질의에 대해 높은 일반화 성능을 보이며 새로운 LLM에도 잘 전이됩니다.
