A Survey of Adversarial Defenses in Vision-based Systems: Categorization, Methods and Challenges

Created by

Haebom

Category

Empty

저자

Nandish Chattopadhyay, Abdul Basit, Bassem Ouni, Muhammad Shafique

개요

본 논문은 컴퓨터 비전(이미지 분류 및 객체 탐지)에서 적대적 공격에 대한 방어 기법들을 종합적으로 조망하는 연구이다. 다양한 적대적 공격 방식과 백박스/흑박스 접근 방식을 고려하여, 기존의 방어 기법들을 체계적으로 분류하고, 머신러닝 파이프라인 내에서의 위치를 시각적으로 제시한다. 각 방어 기법의 장단점과 효과적인 적대적 공격 유형 및 데이터셋을 매핑하여 연구자와 실무자에게 실용적인 통찰을 제공한다. 이는 신뢰할 수 있는 AI 시스템 구축을 위한 연구 방향 설정에 기여할 목적으로 진행되었다.

시사점, 한계점

•

시사점:

◦

적대적 공격 방어 기법들을 체계적으로 분류하고 비교 분석하여 연구자와 실무자의 이해도를 높였다.

◦

머신러닝 파이프라인 내에서의 방어 기법 위치를 시각화하여 방어 전략 수립에 도움을 준다.

◦

각 방어 기법의 효과적인 적대적 공격 유형 및 데이터셋 매핑을 통해 실용적인 지침을 제공한다.

◦

신뢰할 수 있는 AI 시스템 개발을 위한 연구 방향 제시에 기여한다.

•

한계점:

◦

논문에서 다루는 적대적 공격 및 방어 기법의 종류가 제한적일 수 있다. (특정 유형의 공격/방어에 치우쳐 전반적인 그림을 완벽히 포괄하지 못할 수 있음)

◦

새로운 적대적 공격 기법들이 지속적으로 등장하는 만큼, 논문의 내용이 빠르게 구식이 될 수 있다.

◦

다양한 방어 기법들의 실제 성능 비교에 대한 상세한 분석이 부족할 수 있다. (단순 분류 및 매핑에 그칠 가능성)

Made with Slashpage