본 논문은 대규모 언어 모델(LLM)의 가지치기(Pruning) 기법이 악의적으로 악용될 수 있음을 최초로 밝혀냈다. 모델 가지치기 전에는 정상 동작을 보이는 모델이 가지치기 후 악의적인 동작을 나타내도록 하는 공격을 제시한다. 공격자는 가지치기될 가능성이 낮은 매개변수에 악의적인 동작을 주입하고, 가지치기될 가능성이 높은 매개변수를 사용하여 모델을 복구함으로써 공격을 수행한다. vLLM에서 제공하는 Magnitude, Wanda, SparseGPT 등의 가지치기 기법에 대해 광범위한 실험을 진행한 결과, 최대 95.7%의 탈옥 성공률, 98.7%의 정상 명령 거부율, 99.5%의 타겟 콘텐츠 주입 성공률을 보였다.
