Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Policy-as-Prompt: Turning AI Governance Rules into Guardrails for AI Agents

Created by
  • Haebom
Category
Empty

저자

Gauri Kholkar, Ratinder Ahuja

개요

자율 AI 에이전트가 규제 및 안전 중요 환경에서 사용됨에 따라, 정책을 시행 가능한 제어로 변환하는 효과적인 방법이 필요하다. 본 논문은 비정형 설계 산출물(PRD, TDD, 코드 등)을 검증 가능한 런타임 가드레일로 변환하는 규제 기계 학습 프레임워크를 제시한다. 'Policy as Prompt' 방법은 이러한 문서를 읽고 위험 제어를 통해 소스 연결 정책 트리를 구축한다. 이 트리는 실시간 런타임 모니터링을 위해 가볍고 프롬프트 기반 분류기로 컴파일된다. 시스템은 최소 권한 및 데이터 최소화를 적용하도록 설계되었으며, 완전한 출처, 추적성, 감사 로깅을 제공하고, 사람 중심 검토 프로세스와 통합된다. 평가 결과, 프롬프트 주입 위험 감소, 범위 밖 요청 차단, 유해한 출력 제한 효과를 보였으며, AI 거버넌스 프레임워크에 맞춰 감사 가능한 근거를 생성한다. 정책을 실행 가능한 프롬프트로 처리함으로써, 안전한 설계 배포, 지속적인 규정 준수, 확장 가능한 AI 안전 및 보안 보장을 가능하게 한다.

시사점, 한계점

시사점:
비정형 설계 산출물을 활용하여 AI 에이전트의 안전성을 향상시킴.
프롬프트 기반 분류기를 통해 실시간 런타임 모니터링 구현.
완전한 출처, 추적성, 감사 로깅을 제공하여 규정 준수 지원.
프롬프트 주입 위험 감소, 범위 밖 요청 차단, 유해한 출력 제한 효과 입증.
AI 거버넌스 프레임워크에 부합하는 감사 가능한 근거 생성.
한계점:
구체적인 프레임워크 구현 방식 및 성능에 대한 상세 정보 부족.
다양한 유형의 비정형 설계 산출물에 대한 일반화 가능성 미제시.
실제 환경에서의 적용 사례 및 효과에 대한 추가적인 검증 필요.
👍