Conformal Policy Control

Fri, 17 Apr 2026 07:16:50 GMT

### 저자

Drew Prinster, Clara Fannjiang, Ji Won Park, Kyunghyun Cho, Anqi Liu, Suchi Saria, Samuel Stanton

### 💡 개요

본 논문은 고위험 환경에서 안전 제약 조건을 위반할 수 있는 새로운 행동을 탐색하는 에이전트의 문제를 다룹니다. 기존의 안전한 정책을 참조하여 검증되지 않은 최적화된 정책을 규제하는 'Conformal Policy Control'이라는 방법론을 제안합니다. 이를 통해 사용자의 위험 감수 수준을 보장하면서도 안전한 탐색을 가능하게 하고 성능을 향상시킬 수 있습니다.

### 🔑 시사점 및 한계

- 안전한 정책을 기반으로 미검증 정책의 위험도를 보정하여 고위험 환경에서의 안전한 탐색 및 성능 향상을 가능하게 합니다.

- 사용자가 모델 클래스나 하이퍼파라미터를 명확히 지정하지 않아도 적용 가능하며, 비단조 손실 함수에 대해서도 유한 표본 보증을 제공합니다.

- 모든 상황에서 최적의 탐색 범위를 보장하기 위한 추가적인 연구나 특정 제약 조건 하에서의 추가적인 이론적 분석이 필요할 수 있습니다.

---

[PDF 보기](https://arxiv.org/pdf/2603.02196)