Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Boundary on the Table: Efficient Black-Box Decision-Based Attacks for Structured Data

Created by
  • Haebom

저자

Roie Kazoom, Yuval Ratzabi, Etamar Rothstein, Ofer Hadar

개요

본 논문은 시각 및 언어 도메인에 비해 탐구가 부족한, 구조화된 데이터에서의 적대적 견고성을 다룬다. 이를 위해, 탭형 데이터를 위한 새로운 블랙 박스, 결정 기반의 적대적 공격을 제안한다. 이 공격은 기울기 없는 방향 추정과 반복적인 경계 검색을 결합하여 최소한의 오라클 접근만으로 이산 및 연속 특징 공간을 효율적으로 탐색한다. 광범위한 실험을 통해 제안된 방법이 고전적 머신러닝 분류기부터 대규모 언어 모델(LLM) 기반 파이프라인까지 다양한 모델에서 거의 전체 테스트 세트를 성공적으로 손상시키는 것을 입증했다. 특히, 공격은 인스턴스 당 적은 수의 쿼리만으로도 일관되게 90% 이상의 성공률을 달성했다. 이 결과는 적대적 교란에 대한 탭형 모델의 심각한 취약성을 강조하며, 실제 의사 결정 시스템에서 더욱 강력한 방어의 시급성을 강조한다.

시사점, 한계점

시사점:
탭형 데이터 모델이 적대적 공격에 취약함을 보여준다.
제안된 블랙 박스 공격 방법은 다양한 모델에서 높은 성공률을 달성한다.
실제 의사 결정 시스템의 견고성 확보를 위한 추가적인 방어의 필요성을 제기한다.
한계점:
본 논문에서 제시된 구체적인 공격의 한계점은 명시적으로 언급되지 않음.
방어 방법에 대한 논의는 포함되지 않음.
👍