Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Boundary on the Table: Efficient Black-Box Decision-Based Attacks for Structured Data

Created by
  • Haebom
Category
Empty

저자

Roie Kazoom, Yuval Ratzabi, Etamar Rothstein, Ofer Hadar

개요

본 논문은 구조화된 데이터의 적대적 견고성이 시각 및 언어 도메인에 비해 연구가 미흡하다는 점을 지적하며, 테이블 데이터를 위한 새로운 블랙박스, 의사 결정 기반 적대적 공격을 소개합니다. 이 공격은 기울기 없는 방향 추정과 반복적 경계 검색을 결합하여 최소한의 오라클 액세스로 이산 및 연속 특징 공간을 효율적으로 탐색합니다. 광범위한 실험을 통해 제안된 방법이 고전적 기계 학습 분류기에서 대규모 언어 모델(LLM) 기반 파이프라인에 이르기까지 다양한 모델에서 거의 전체 테스트 세트를 성공적으로 손상시키는 것을 보여줍니다. 특히, 공격은 인스턴스 당 소수의 쿼리만 필요하면서도 90% 이상 일관된 성공률을 달성합니다.

시사점, 한계점

•
시사점:
◦
테이블 데이터 모델이 적대적 교란에 매우 취약함을 강조합니다.
◦
실제 의사 결정 시스템에서 더욱 강력한 방어의 필요성을 강조합니다.
◦
블랙박스 환경에서 효율적인 적대적 공격을 위한 새로운 접근 방식을 제시합니다.
◦
다양한 모델 아키텍처에서 높은 공격 성공률을 달성합니다.
•
한계점:
◦
논문에서 구체적인 한계점은 제시되지 않았습니다.
👍
Made with Slashpage