AD$^2$: Analysis and Detection of Adversarial Threats in Visual Perception for End-to-End Autonomous Driving Systems

Created by

Haebom

저자

Ishan Sahu, Somnath Hazra, Somak Aditya, Soumyajit Dey

💡 개요

본 연구는 종단간 자율 주행 시스템의 시각 인지 영역에서 발생하는 적대적 공격에 대한 취약점을 분석하고 탐지하는 방법을 제안합니다. 음향파 기반 블러 공격, 전자기 간섭 공격, 디지털 고스트 객체 삽입 공격 등 세 가지 주요 공격 벡터에 대한 평가 결과, 기존의 최첨단 자율 주행 모델들이 심각한 성능 저하를 겪는다는 것을 발견했습니다. 이에 따라, 시공간적 일관성을 포착하는 어텐션 메커니즘 기반의 경량 공격 탐지 모델인 AD$^2$를 개발했으며, 이를 통해 기존 방법론 대비 우수한 탐지 성능과 효율성을 입증했습니다.

🔑 시사점 및 한계

•

종단간 자율 주행 시스템의 시각 인지 파이프라인이 다양한 물리적, 디지털 적대적 공격에 매우 취약하며, 이는 실제 주행 성능에 치명적인 영향을 미칠 수 있음을 보여줍니다.

•

제안된 AD$^2$ 모델은 실제 환경에서 발생 가능한 여러 유형의 적대적 위협을 효과적으로 탐지할 수 있는 경량 솔루션을 제공하여 자율 주행 시스템의 안전성 강화에 기여할 수 있습니다.

•

본 연구는 CARLA 시뮬레이션 환경을 기반으로 실험이 진행되었으며, 실제 도로 환경에서의 다양한 변수 및 복잡한 상황에 대한 적대적 공격의 영향과 AD$^2$ 모델의 성능을 추가적으로 검증할 필요가 있습니다.

PDF 보기

Made with Slashpage