# Position: A Three-Layer Probabilistic Assume-Guarantee Architecture Is Structurally Required for Safe LLM Agent Deployment

### 저자

S. Bensalem, Y. Dong, M. Franzle, X. Huang, J. Kroger, D. Nickovic, A. Nouri, R. Roy, C. Wu

### 💡 개요

이 논문은 LLM 에이전트의 안전한 배포를 위해 단일 추상화 계층만으로는 불충분하며, 에이전트 실행 방식의 구조적 특성상 세 가지 독립적인 안전 차원을 각각 보장하는 계층적 아키텍처가 필수적임을 주장합니다. 의미론적 의도 및 정책 준수, 환경 유효성, 동적 실행 가능성을 각각 다른 실행 단계에서 서로 다른 정보를 기반으로 보장하는 3계층 확률론적 Assume-Guarantee 아키텍처를 제안합니다.

### 🔑 시사점 및 한계

- LLM 에이전트의 안전성은 단일 시스템이 아닌, 각기 다른 안전 차원을 독립적으로 보장하는 다층 구조를 통해 확보되어야 합니다.

- 제안된 3계층 아키텍처는 각 계층의 확률론적 보장이 다음 계층의 가정을 만족시키는 계약 기반 접근 방식을 통해 시스템 전체의 안전 경계를 도출할 수 있습니다.

- 아직 해결되지 않은 과제로는 비독립 동일 분포(non-i.i.d.) 흔적으로부터 경계 추정, 배포 드리프트 시 계약의 점진적 성능 저하, 그리고 멀티 에이전트 환경으로의 확장 등이 있습니다.

---

[PDF 보기](https://arxiv.org/pdf/2605.18672)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).