Is Your VLM for Autonomous Driving Safety-Ready? A Comprehensive Benchmark for Evaluating External and In-Cabin Risks
Created by
Haebom
Category
Empty
저자
Xianhui Meng, Yuchen Zhang, Zhijian Huang, Zheng Lu, Ziling Ji, Yaoyao Yin, Hongyuan Zhang, Guangfeng Jiang, Yandan Lin, Long Chen, Hangjun Ye, Li Zhang, Jun Liu, Xiaoshuai Hao
개요
자율 주행 분야에서 Vision-Language Models (VLMs)의 안전성 문제를 해결하기 위해, 외부 환경 위험과 실내 운전 행동 안전을 동시에 평가하는 최초의 포괄적인 Driving Safety Benchmark인 DSBench를 소개합니다. DSBench는 10개의 주요 범주와 28개의 하위 범주로 구성되어 광범위한 시나리오를 포괄적으로 평가합니다. 다양한 VLMs에 대한 광범위한 평가를 통해 복잡한 안전 중요 상황에서 성능 저하가 나타났고, 이를 해결하기 위해 98K 인스턴스 규모의 데이터셋을 구축하여 파인 튜닝을 통해 기존 VLM의 안전 성능을 향상시켰습니다.
시사점, 한계점
•
시사점:
◦
자율 주행 VLM의 안전성 평가를 위한 포괄적인 벤치마크 (DSBench) 제시
◦
다양한 VLM의 안전성 문제점 확인
◦
안전 성능 향상을 위한 데이터셋 구축 및 파인 튜닝 방법 제시
◦
자율 주행 기술 발전에 기여
•
한계점:
◦
본 논문에서 구체적인 한계점 언급은 없음 (하지만, 벤치마크 및 데이터셋의 제한된 시나리오나 모델의 일반화 능력 부족 등이 있을 수 있음)
