Runtime Detection of Adversarial Attacks in AI Accelerators Using Performance Counters
Created by
- Haebom
Category
Empty
저자
Habibur Rahaman, Atri Chatterjee, Swarup Bhunia
개요
SAMURAI는 AI 하드웨어의 악의적인 사용 및 공격에 대한 복원력을 보장하기 위한 새로운 프레임워크입니다. AI 성능 카운터(APC)와 온칩 기계 학습 분석 엔진 TANTO(Trained Anomaly Inspection Through Trace Observation)를 도입하여 AI 모델의 동적 동작을 추적합니다. APC는 다양한 AI 연산의 저수준 하드웨어 이벤트의 런타임 프로파일을 기록하고, 이 정보는 TANTO에 의해 처리되어 잠재적인 보안 위반을 효율적으로 식별합니다. SAMURAI는 모델 통합이 필요한 기존의 소프트웨어 기반 솔루션에 의존하지 않고 실시간으로 보안 위협과 악용을 감지합니다. 실험 결과, SAMURAI는 다양한 AI 모델에서 중간 수준의 오버헤드로 최대 97%의 정확도로 적대적 공격을 감지하여 기존 소프트웨어 기반 접근 방식을 크게 능가합니다. 이는 보안 및 규정 준수를 향상시키고 새로운 위협으로부터 AI를 보호하기 위한 포괄적인 솔루션을 제공합니다.
시사점, 한계점
•
시사점:
◦
AI 하드웨어의 보안 강화를 위한 효율적이고 정확한 실시간 위협 탐지 시스템 제공.
◦
기존 소프트웨어 기반 접근 방식보다 우수한 성능(최대 97% 정확도)을 통해 보안 및 규정 준수 향상.
◦
모델 통합 없이 하드웨어 수준에서 직접 보안을 제공하여 적용의 용이성 증대.
•
한계점:
◦
TANTO 모델의 학습 데이터 및 구조에 대한 자세한 설명 부족.
◦
다양한 공격 유형에 대한 일반화 성능에 대한 추가 연구 필요.
◦
실제 환경에서의 성능 및 확장성에 대한 추가적인 평가 필요.
◦
APC의 오버헤드가 중간 수준이라고 언급되었으나, 구체적인 수치 및 비교 대상이 명시되지 않아 한계로 작용할 수 있음.
