RECUR: Resource Exhaustion Attack via Recursive-Entropy Guided Counterfactual Utilization and Reflection
Created by
Haebom
Category
Empty
저자
Ziwei Wang, Yuanhe Zhang, Jing Chen, Zhenhong Zhou, Ruichao Liang, Ruiying Du, Ju Jia, Cong Wu, Yang Liu
💡 개요
본 논문은 대규모 추론 모델(LRM)이 복잡한 작업을 위해 확장된 컨텍스트 길이와 반복적인 추론 과정을 사용함으로써 발생하는 자원 고갈 취약점에 주목합니다. 특히 LRM의 '반성(reflection)' 과정에서 과도한 연산이 발생하여 자원 소모를 유발하는 문제를 규명하기 위해 '재귀 엔트로피(Recursive Entropy)'를 제안합니다. 이를 바탕으로 'RECUR'이라는 새로운 자원 고갈 공격 기법을 개발하여 LRM의 근본적인 결함과 위험성을 검증하고, 실험을 통해 공격 시 출력 길이를 최대 11배 증가시키고 처리량을 90% 감소시키는 효과를 입증했습니다.
🔑 시사점 및 한계
•
LRM의 추론 과정, 특히 '반성' 메커니즘에서 발생하는 자원 소모 취약점을 재귀 엔트로피라는 새로운 지표로 정량화했습니다.
•
제안된 RECUR 공격은 LRM의 안전성을 위협하는 새로운 차원의 공격 벡터를 제시하며, 이에 대한 방어 전략 연구의 필요성을 제기합니다.
•
본 연구는 LRM의 '안전한 추론'에 대한 새로운 연구 방향을 제시하지만, 제안된 공격 기법에 대한 효과적인 방어 메커니즘 개발은 향후 과제로 남아있습니다.
