Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Runtime Safety Monitoring of Deep Neural Networks for Perception: A Survey

Created by
  • Haebom
Category
Empty

저자

Albert Schotschneider, Svetlana Pavlitska, J. Marius Zollner

개요

자율 주행 및 로봇 공학과 같은 안전 필수 응용 분야에서 딥 뉴럴 네트워크(DNN)의 안전 문제에 대한 연구를 다룬 논문입니다. DNN은 일반화 오류, Out-of-Distribution(OOD) 입력, 적대적 공격과 같은 다양한 안전 문제에 취약하며, 이러한 문제를 탐지하기 위한 런타임 안전 모니터링 접근 방식을 포괄적으로 조사합니다. 이 논문은 DNN 자체를 수정하지 않고 추론 중에 DNN과 병렬로 작동하는 런타임 안전 모니터링 접근 방식을 검토합니다. 입력, 내부 표현, 출력의 세 가지 주요 범주로 기존 방식을 분류하고, 각 범주별 최신 기술을 분석하며 강점과 약점을 파악합니다. 또한 해결해야 할 안전 문제에 방법을 매핑하고, 열린 과제와 향후 연구 방향을 제시합니다.

시사점, 한계점

시사점:
DNN의 안전성 문제를 해결하기 위한 런타임 안전 모니터링 접근 방식에 대한 포괄적인 개요 제공
기존 방식을 입력, 내부 표현, 출력의 세 가지 범주로 분류하여 체계적인 분석 제시
각 접근 방식의 장단점 및 해결 가능한 안전 문제 식별
향후 연구 방향과 열린 과제 제시
한계점:
논문에 제시된 특정 방법론의 세부 구현이나 성능 비교에 대한 정보 부족
안전 모니터링 시스템 자체의 오작동 가능성에 대한 논의 부족
다양한 안전 관련 문제(일반화 오류, OOD 입력, 적대적 공격 등)에 대한 해결책 제시에 초점, 실제 환경에서의 적용 및 효과에 대한 구체적인 분석 부족
👍