본 논문은 대규모 언어 모델(LLM)의 안전한 배포에 방해가 되는 적대적 프롬프트를 효율적으로 탐지하는 새로운 방어 프레임워크인 CurvaLID를 소개합니다. CurvaLID는 텍스트 프롬프트의 기하학적 특성을 활용하여 적대적 프롬프트를 탐지하며, LLM의 종류에 구애받지 않고 다양한 적대적 프롬프트와 LLM 아키텍처에 적용 가능합니다. CurvaLID는 Whewell 방정식을 통해 곡률 개념을 n차원 단어 임베딩 공간으로 확장하여 의미 변화 및 곡률과 같은 국소 기하학적 특성을 정량화하고, Local Intrinsic Dimensionality (LID)를 활용하여 적대적 부분 공간 내 텍스트 프롬프트의 보완적인 기하학적 특징을 포착합니다. 실험 결과, CurvaLID는 적대적 프롬프트와 정상 프롬프트 간의 뚜렷한 기하학적 차이를 보이며, 기존 탐지기보다 우수한 성능을 나타냈습니다.
