Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Statistically Assuring Safety of Control Systems using Ensembles of Safety Filters and Conformal Prediction

Created by
  • Haebom
Category
Empty

저자

Ihab Tabbara, Yuxuan Yang, Hussein Sibai

개요

학습 기반 자율 시스템의 안전 보장을 위해, Hamilton-Jacobi (HJ) 가역성 분석을 이용한 안전성 검증 및 안전 제어기 생성에 대한 연구를 수행한다. 특히, 고차원 시스템에서 계산 비용이 높은 HJ 값 함수를 근사하기 위해 강화 학습을 활용하고, 학습된 값 함수와 안전 정책의 정확성이 보장되지 않는 문제를 해결하기 위해 Conformal Prediction (CP) 기반 프레임워크를 도입한다. 이 프레임워크는 학습된 HJ 값 함수 및 정책 사용 시 확률적 안전 보장을 제공하며, 위험 상태에 도달하는 것을 방지한다. 또한, CP를 활용하여 안전하지 않은 일반 제어기와 학습된 HJ 기반 안전 정책 간의 전환을 보정하고, 전환된 정책 하에서 안전 보장을 유도한다. 독립적으로 학습된 HJ 값 함수의 앙상블을 안전 필터로 사용하여 개별 값 함수만 사용하는 경우와 비교한다.

시사점, 한계점

시사점:
학습된 HJ 값 함수와 정책의 불확실성을 해결하기 위해 Conformal Prediction (CP) 기반 프레임워크를 도입하여 확률적 안전 보장 제공.
CP를 활용한 제어기 전환 보정을 통해 안전 정책의 효과를 높임.
HJ 값 함수의 앙상블을 안전 필터로 활용하여 안전성을 향상시키는 방법 제시.
한계점:
구체적인 실험 결과 및 성능 비교에 대한 내용 부재.
CP 프레임워크의 상세 구현 및 설정에 대한 설명 부족.
다양한 시스템 및 환경에서의 일반화 가능성에 대한 검증 필요.
👍