Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Is Your VLM for Autonomous Driving Safety-Ready? A Comprehensive Benchmark for Evaluating External and In-Cabin Risks

Created by
  • Haebom
Category
Empty

저자

Xianhui Meng, Yuchen Zhang, Zhijian Huang, Zheng Lu, Ziling Ji, Yaoyao Yin, Hongyuan Zhang, Guangfeng Jiang, Yandan Lin, Long Chen, Hangjun Ye, Li Zhang, Jun Liu, Xiaoshuai Hao

개요

자율 주행 분야에서 Vision-Language Models (VLMs)의 안전성 문제를 해결하기 위해, 외부 환경 위험과 실내 운전 행동 안전성을 동시에 평가하는 포괄적인 Driving Safety Benchmark인 DSBench를 제안합니다. DSBench는 10개의 주요 범주와 28개의 하위 범주로 구성되어 다양한 시나리오를 평가하며, 공개 및 비공개 VLM의 안전성 저하를 확인했습니다. 또한, 98K개의 데이터셋으로 VLM을 fine-tuning하여 안전 성능을 향상시키는 방법을 제시합니다. DSBench의 툴킷, 코드 및 모델 체크포인트는 공개될 예정입니다.

시사점, 한계점

시사점:
자율 주행 VLM의 안전성 평가를 위한 최초의 종합적인 벤치마크 제공.
외부 환경 위험과 실내 운전 행동 안전성을 통합적으로 평가.
다양한 VLM의 안전성 문제점 확인 및 fine-tuning을 통한 성능 향상 가능성 제시.
자율 주행 기술 발전에 기여할 수 있는 기반 마련.
한계점:
구체적인 VLM의 한계점 및 성능 저하 원인에 대한 깊이 있는 분석 부족.
제안된 fine-tuning 방법의 일반화 가능성에 대한 추가적인 검증 필요.
벤치마크의 실제 자율 주행 환경에서의 적용 및 효과에 대한 추가 연구 필요.
👍