AAGATE: A NIST AI RMF-Aligned Governance Platform for Agentic AI
Created by
- Haebom
Category
Empty
저자
Ken Huang, Jerry Huang, Yasir Mehmood, Hammad Atta, Muhammad Zeeshan Baig, Muhammad Aziz Ul Haq
개요
본 논문은 프로덕션 환경에서 자율적이고 언어 모델 기반의 에이전트가 제기하는 고유한 보안 및 거버넌스 문제를 해결하기 위해 설계된 Kubernetes 네이티브 제어 평면인 AAGATE (Agentic AI Governance Assurance & Trust Engine)를 소개합니다. 즉흥적이고 기계 속도 시스템에 대한 기존의 애플리케이션 보안(AppSec) 도구의 한계를 인식하고, NIST AI 위험 관리 프레임워크(AI RMF)를 운영화합니다. AAGATE는 각 RMF 기능에 특화된 보안 프레임워크를 통합합니다. 즉, 맵핑을 위한 Agentic AI Threat Modeling MAESTRO 프레임워크, 측정을 위한 OWASP의 AIVSS와 SEI의 SSVC의 하이브리드, 관리를 위한 Cloud Security Alliance의 Agentic AI Red Teaming Guide를 통합합니다. 제로 트러스트 서비스 메시, 설명 가능한 정책 엔진, 행동 분석 및 분산된 책임 후크를 통합하여 에이전트 AI에 대한 지속적이고 검증 가능한 거버넌스 솔루션을 제공하여 안전하고 책임감 있으며 확장 가능한 배포를 가능하게 합니다. 또한 디지털 ID 권한을 위한 DIRF, 로직 레이어 주입 방어를 위한 LPCI 방어, 인지 저하를 위한 QSAF 모니터를 통해 프레임워크를 확장하여 시스템적, 적대적, 윤리적 위험을 포괄하는 거버넌스를 보장합니다.
시사점, 한계점
•
시사점:
◦
자율 에이전트 AI의 보안 및 거버넌스 문제를 해결하는 데 특화된 Kubernetes 기반 솔루션을 제공합니다.
◦
NIST AI RMF를 기반으로 하여 체계적인 위험 관리를 지원합니다.
◦
제로 트러스트, 설명 가능한 정책 엔진, 행동 분석 등 고급 보안 기능을 통합합니다.
◦
시스템적, 적대적, 윤리적 위험을 포괄하는 거버넌스를 위한 추가적인 방어 메커니즘을 제공합니다.
•
한계점:
◦
구체적인 구현 세부 사항 및 성능 데이터가 논문에 제시되지 않았을 수 있습니다.
◦
새로운 프레임워크의 도입에 따른 초기 설정 및 적응에 대한 어려움이 있을 수 있습니다.
◦
AAGATE의 효율성 및 효과에 대한 실제 프로덕션 환경에서의 검증 결과가 부족할 수 있습니다.
◦
특정 보안 프레임워크(MAESTRO, AIVSS/SSVC, Red Teaming Guide, DIRF, LPCI, QSAF)의 복잡성으로 인해 이해 및 구현에 어려움이 있을 수 있습니다.
