본 논문은 대규모 언어 모델(LLM)의 구조화된 출력 API를 통한 도구 플랫폼으로서의 활용에서 발생하는 심각한 보안 취약점을 밝힙니다. 기존의 데이터 플레인(data-plane) 취약점과는 다른 제어 플레인(control-plane) 공격 표면을 이용한 새로운 공격 방식인 제약된 디코딩 공격(CDA)을 소개합니다. CDA는 악의적인 의도를 스키마 수준의 문법 규칙(제어 플레인)에 삽입하여 안전 메커니즘을 우회하는 반면, 표면적인 프롬프트(데이터 플레인)는 무해하게 유지합니다. 개념 증명으로 체인 열거 공격(Chain Enum Attack)을 제시하며, GPT-4o 및 Gemini-2.0-flash를 포함한 다섯 가지 안전 벤치마크에서 96.2%의 성공률을 달성했습니다. 이는 현재의 LLM 아키텍처의 심각한 보안 취약점을 드러내며, 데이터 플레인 위협에만 집중하는 현재의 안전 메커니즘이 중요 시스템을 노출시키고 있음을 강조합니다.
