Can We Detect Failures Without Failure Data? Uncertainty-Aware Runtime Failure Detection for Imitation Learning Policies
Created by
Haebom
저자
Chen Xu, Tony Khuong Nguyen, Emma Dixon, Christopher Rodriguez, Patrick Miller, Robert Lee, Paarth Shah, Rares Ambrus, Haruki Nishimura, Masha Itkina
개요
본 논문은 모방 학습 기반 로봇 조작에서의 실패 탐지를 위한 모듈식 2단계 접근 방식인 FAIL-Detect를 제시합니다. 기존의 실패 탐지 방법들이 사전 지식이나 실패 데이터에 의존하는 한계를 극복하기 위해, 성공적인 훈련 데이터만으로 실패를 식별하는 문제를 순차적 이상치 탐지(OOD) 문제로 정의합니다. 정책 입력과 출력을 실패와 상관관계가 있는 스칼라 신호로 변환하고, 불확실성을 정량화하기 위해 conformal prediction(CP)을 사용합니다. 다양한 로봇 조작 작업에서 학습된 및 사후 스칼라 신호 후보를 실험적으로 조사하여, 특히 새로운 flow-based density estimator를 사용할 때 학습된 신호가 효과적임을 보였습니다. FAIL-Detect는 기존 최고 성능(SOTA) 실패 탐지 기준보다 더 정확하고 빠르게 실패를 탐지합니다. 이는 실제 배포를 향해 발전하는 모방 학습 기반 로봇 시스템의 안전성과 신뢰성을 향상시킬 가능성을 보여줍니다.
시사점, 한계점
•
시사점:
◦
모방 학습 기반 로봇 조작에서의 실패 탐지 문제에 대한 새로운 접근 방식 제시
◦
성공적인 훈련 데이터만을 사용하여 실패를 정확하게 식별하는 방법 제시
◦
conformal prediction을 이용한 불확실성 정량화를 통한 신뢰성 향상
◦
기존 방법보다 더 정확하고 빠른 실패 탐지 성능 달성
◦
flow-based density estimator를 활용한 학습된 신호의 효과 입증
◦
실제 로봇 시스템의 안전성 및 신뢰성 향상에 기여
•
한계점:
◦
제시된 방법의 일반화 성능에 대한 추가적인 연구 필요
◦
다양한 환경 및 작업에 대한 로버스트성 평가 필요
◦
실제 환경에서의 실험 결과 제시 부족 (논문에서 실험 결과는 언급되었지만, 실제 환경에서의 검증은 명시적으로 언급되지 않음)
