본 논문은 선호도 학습 과정에서 대규모 언어 모델(LLM)의 데이터 중독 공격 취약성을 평가하기 위한 벤치마크인 PoisonBench를 소개한다. PoisonBench는 두 가지 유형의 공격을 여덟 가지 현실적인 시나리오에 적용하여 21개의 널리 사용되는 모델을 평가한다. 연구 결과, 매개변수 크기 증가가 중독 공격에 대한 복원력을 높이지 않으며, 공격 효과와 데이터 중독 비율 간에 로그-선형 관계가 존재하고, 데이터 중독의 영향이 중독된 데이터에 포함되지 않은 외삽 트리거로 일반화될 수 있음을 보여준다. 이는 현재의 선호도 학습 기법의 취약점을 드러내며 악의적인 모델 및 데이터 조작에 대한 더 강력한 방어의 필요성을 강조한다.
