Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Learning from Risk: LLM-Guided Generation of Safety-Critical Scenarios with Prior Knowledge

Created by
  • Haebom
Category
Empty

저자

Yuhang Wang, Heye Huang, Zhenhua Xu, Kailai Sun, Baoshen Guo, Jinhua Zhao

개요

자율 주행 시스템의 안전성 검증을 위해 희귀한 롱테일 이벤트와 복잡한 다중 에이전트 상호 작용을 다루는 고충실도 시나리오 생성 프레임워크를 제시한다. 이 프레임워크는 조건부 변형 자동 인코더(CVAE)와 대규모 언어 모델(LLM)을 통합하여, CVAE는 실제 데이터에서 얻은 궤적과 지도 정보를 기반으로 잠재 교통 구조를 학습하여 물리적으로 일관된 기본 시나리오를 생성한다. LLM은 적대적 추론 엔진 역할을 수행하여 비정형 장면 설명을 도메인별 손실 함수로 파싱하고, 다양한 위험 수준에서 시나리오 생성을 동적으로 안내한다. 이를 통해 현실성과 제어 가능성을 균형 있게 유지하며, CARLA 및 SMARTS에서의 실험을 통해 기존 방식보다 고위험 및 롱테일 이벤트의 범위를 확대하고, 시뮬레이션된 교통 분포와 실제 교통 분포 간의 일관성을 향상시켰다.

시사점, 한계점

시사점:
CVAE와 LLM의 통합을 통해 자율 주행 시스템의 안전성 검증을 위한 새로운 시나리오 생성 프레임워크 제시
고위험 및 롱테일 이벤트의 범위를 확대하여 자율 주행 시스템의 스트레스 테스트를 위한 새로운 방법론 제시
시뮬레이션 환경에서 실제 교통 상황과 유사한 분포를 생성하여 현실적인 시뮬레이션 가능
기존 규칙 기반 또는 데이터 기반 방식보다 더 도전적인 상호 작용 생성
한계점:
구체적인 한계점은 논문 내용에서 명시적으로 언급되지 않음
👍