Adversarial Agents: Black-Box Evasion Attacks with Reinforcement Learning
Created by
- Haebom
Category
Empty
저자
Kyle Domico, Jean-Charles Noirot Ferrand, Ryan Sheatsley, Eric Pauley, Josiah Hanna, Patrick McDaniel
개요
강화 학습(RL)을 적대적 기계 학습(AML)에 적용하여 적대적 예제(기계 학습 모델을 속이도록 설계된 입력)를 생성하는 새로운 유형의 공격을 개발하는 방법을 보여줍니다. 기존의 AML 방법과 달리, RL 기반 접근 방식은 과거 공격 경험을 유지하고 활용하여 향후 공격을 개선합니다. 적대적 예제 생성을 마르코프 의사 결정 과정으로 공식화하고, RL의 (a) 효과적이고 효율적인 공격 전략 학습 능력과 (b) 최첨단 AML과의 경쟁력을 평가합니다. CIFAR-10에서, 본 에이전트는 적대적 예제의 성공률을 19.4% 증가시키고, 훈련 시작부터 끝까지 적대적 예제당 피해 모델 쿼리의 중간값을 53.2% 감소시킵니다. 최첨단 이미지 공격인 SquareAttack과의 직접 비교에서, 본 접근 방식은 5000 에피소드의 훈련 후 13.1% 더 높은 성공률로 적대적 예제를 생성할 수 있게 합니다. 보안 관점에서, 이 연구는 RL을 사용하여 효율적이고 대규모로 ML 모델을 공격하는 강력한 새로운 공격 벡터를 보여줍니다.
시사점, 한계점
•
시사점:
◦
강화 학습을 이용한 적대적 예제 생성 방법이 기존 방법보다 효율적이고 성공률이 높음을 보여줌.
◦
적대적 공격의 효율성을 높이는 새로운 공격 벡터를 제시함.
◦
기존 최첨단 공격 방법보다 향상된 성능을 보임.
•
한계점:
◦
본 연구에서 제시된 RL 기반 공격 방법의 일반화 성능 및 다양한 모델에 대한 적용 가능성에 대한 추가 연구 필요.
◦
특정 데이터셋(CIFAR-10)에 대한 평가 결과만 제시되어 다른 데이터셋에 대한 일반화 성능 검증 필요.
◦
실제 시스템에 대한 적용 및 방어 기법에 대한 연구가 추가적으로 필요.
