Manuel Costa, Boris Kopf, Aashish Kolluri, Andrew Paverd, Mark Russinovich, Ahmed Salem, Shruti Tople, Lukas Wutschitz, Santiago Zanella-Beguelin
개요
본 논문은 점점 더 자율적이고 능력 있는 AI 에이전트의 보안을 위해 프롬프트 인젝션과 같은 취약성으로부터 보호하는 방법을 탐구한다. 특히 정보 흐름 제어(IFC)를 활용하여 AI 에이전트의 보안을 보장하는 방법을 제시한다. 에이전트 플래너의 보안 및 표현력을 추론하기 위한 공식 모델을 제시하고, 동적 탠트 추적(dynamic taint-tracking)으로 시행 가능한 속성의 클래스를 특징짓고, 플래너 설계의 보안 및 유틸리티 트레이드오프를 평가하기 위한 작업 분류 체계를 구성한다. 이러한 탐구를 바탕으로, 기밀성 및 무결성 레이블을 추적하고, 결정적으로 보안 정책을 시행하며, 정보를 선택적으로 숨기기 위한 새로운 기본 요소를 도입하는 Fides라는 플래너를 제시한다. AgentDojo에서의 평가를 통해 이 접근 방식이 안전하게 수행할 수 있는 작업의 범위를 넓힌다는 것을 보여준다. 본 논문에서 소개된 개념을 설명하는 튜토리얼은 https://github.com/microsoft/fides 에서 찾아볼 수 있다.
시사점, 한계점
•
시사점:
◦
정보 흐름 제어(IFC)를 활용하여 AI 에이전트의 프롬프트 인젝션과 같은 보안 취약성을 해결하는 새로운 방법 제시.
◦
에이전트 플래너의 보안 및 표현력을 분석하기 위한 공식 모델 및 작업 분류 체계 제공.
◦
기밀성 및 무결성 레이블을 추적하고, 보안 정책을 결정적으로 시행하는 Fides 플래너 개발.
