Diffusion-Based Failure Sampling for Evaluating Safety-Critical Autonomous Systems
Created by
Haebom
저자
Harrison Delecki, Marc R. Schlichting, Mansur Arief, Anthony Corso, Marcell Vazquez-Chanlatte, Mykel J. Kochenderfer
개요
고차원 영역(예: 로보틱스)에서 안전 중요 자율 시스템의 검증은 상당한 어려움을 제시합니다. 마르코프 체인 몬테카를로(MCMC) 기반의 기존 블랙박스 접근 방식은 엄청난 수의 샘플을 필요로 할 수 있으며, 중요도 샘플링 기반의 방법은 종종 고장 분포를 나타내는 데 어려움을 겪을 수 있는 간단한 파라메트릭 패밀리에 의존합니다. 본 논문에서는 로봇 작업 계획과 같은 복잡한 고차원 문제에서 성공을 거둔 조건부 탈잡음 확산 모델을 사용하여 고장 분포를 샘플링하는 방법을 제안합니다. 반복적으로 확산 모델을 훈련하여 고장에 더 가까운 상태 경로를 생성합니다. 고차원 로봇 검증 작업에서 본 접근 방식의 효과를 보여주며, 기존 블랙박스 기술에 비해 샘플 효율성과 모드 적용 범위를 향상시킵니다.
시사점, 한계점
•
시사점: 고차원 로봇 시스템 검증에서 고장 분포를 효율적으로 샘플링할 수 있는 새로운 방법 제시. 기존 방법 대비 향상된 샘플 효율성과 모드 적용 범위 달성. 복잡한 고차원 문제에 대한 확산 모델의 적용 가능성을 보여줌.
•
한계점: 제안된 방법의 일반화 성능에 대한 추가 연구 필요. 다양한 유형의 로봇 시스템 및 작업에 대한 적용 가능성 검증 필요. 실제 시스템에 적용 시 계산 비용 및 시간에 대한 고려 필요. 특정 유형의 고장에 대한 편향 가능성 존재.
