Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Robustness of LLM-enabled vehicle trajectory prediction under data security threats

Created by
  • Haebom
Category
Empty

저자

Feilong Wang, Fuqiang Liu

개요

LLM을 자율주행 시스템에 통합하여 복잡한 주행 상황을 언어 이해 가능한 표현으로 변환함으로써 추론 및 의사 결정에 새로운 가능성을 열었습니다. 본 연구는 LLM 기반 차량 궤적 예측에 대한 체계적인 취약성 분석을 수행했습니다. 특히, 블랙박스 설정에서 주변 차량의 단일 운동학적 특징을 교란하는 공격을 제안하고, 고품질 데이터셋을 사용한 실험을 통해 모델의 취약성을 입증했습니다. 또한, 정확도와 견고성 간의 상충 관계를 분석하고, 실패 메커니즘을 조사하며, 잠재적인 완화 솔루션을 탐색했습니다.

시사점, 한계점

LLM 기반 차량 궤적 예측 모델이 적대적 공격에 취약함을 최초로 입증했습니다.
소량의 물리적으로 타당한 교란만으로도 모델의 출력을 심각하게 방해할 수 있음을 확인했습니다.
정확도와 견고성 간의 상충 관계를 확인했습니다.
향후 LLM 기반 지능형 교통 시스템 설계 시 견고성 지향 설계의 필요성을 강조했습니다.
연구는 고품질 데이터셋에 기반했지만, 실제 자율주행 환경에서의 일반화 가능성에 대한 추가 연구가 필요합니다.
제안된 공격 방법 외 다른 공격 기법에 대한 연구가 필요합니다.
제안된 완화 솔루션의 효과에 대한 추가 검증이 필요합니다.
👍