ASTRIDE: A Security Threat Modeling Platform for Agentic-AI Applications
Created by
- Haebom
Category
Empty
저자
Eranga Bandara, Amin Hass, Ross Gore, Sachin Shetty, Ravi Mukkamala, Safdar H. Bouk, Xueping Liang, Ng Wee Keong, Kasun De Zoysa, Aruna Withanage, Nilaan Loganathan
개요
AI 에이전트 기반 시스템은 자율 의사 결정, 동적 작업 실행 및 LLM을 통한 멀티 모달 상호 작용을 가능하게 하며, 현대 소프트웨어 아키텍처에 필수적인 요소가 되고 있습니다. 그러나 이러한 시스템은 프롬프트 주입 공격, 컨텍스트 포이즈닝, 모델 조작, 불투명한 에이전트 간 통신 등 기존 위협 모델링 프레임워크에서 효과적으로 포착되지 않는 새로운 보안 문제를 야기합니다. 본 논문에서는 AI 에이전트 기반 시스템을 위해 특별히 제작된 자동화된 위협 모델링 플랫폼인 ASTRIDE를 소개합니다. ASTRIDE는 고전적인 STRIDE 프레임워크를 확장하여 AI 에이전트 관련 공격(A)이라는 새로운 위협 범주를 도입하여, 에이전트 기반 애플리케이션에 고유한 프롬프트 주입, 안전하지 않은 도구 호출 및 추론 전복과 같은 새로운 취약점을 포함합니다. ASTRIDE는 미세 조정된 VLM(Vision-Language Model) 컨소시엄과 OpenAI-gpt-oss 추론 LLM을 결합하여 데이터 흐름 다이어그램(DFD)과 같은 시각적 에이전트 아키텍처 다이어그램에서 직접 엔드 투 엔드 분석을 수행하여 위협 모델링을 자동화합니다. LLM 에이전트는 VLM 컨소시엄과 추론 LLM 간의 상호 작용을 조정하여 엔드 투 엔드 위협 모델링 자동화 프로세스를 조율합니다. ASTRIDE는 차세대 지능형 시스템에 대한 정확하고 확장 가능하며 설명 가능한 위협 모델링을 제공합니다. ASTRIDE는 STRIDE를 AI 관련 위협으로 확장하고 미세 조정된 VLM을 추론 LLM과 통합하여 AI 에이전트 기반 애플리케이션에서 다이어그램 기반 위협 모델링을 완전히 자동화하는 최초의 프레임워크입니다.
시사점, 한계점
•
시사점:
◦
AI 에이전트 기반 시스템의 특정 위협을 다루는 새로운 위협 모델링 프레임워크 제시 (ASTRIDE).
◦
STRIDE 프레임워크 확장 (AI 에이전트 관련 공격, A).
◦
VLM과 LLM을 통합하여 다이어그램 기반 위협 모델링 자동화.
◦
정확하고 확장 가능하며 설명 가능한 위협 모델링 제공.
•
한계점:
◦
논문 내용만으로는 구체적인 한계점 파악 어려움. (논문 전체를 봐야 파악 가능)
