AIoT 환경에서 XAI 모델의 사용이 증가함에 따라 개인 정보 보호 위험이 대두됨. 본 논문은 SHAP 엔트로피 정규화를 기반으로 하는 새로운 개인 정보 보호 접근 방식을 제안하여 설명 가능한 AIoT 애플리케이션에서 개인 정보 유출을 완화하는 것을 목표로 함. 제안된 방법은 SHAP 귀속 분포의 엔트로피를 기반으로 하는 정규화 목표를 통합하여 특징 기여의 균일한 확산을 촉진함. 제안된 방법의 효과를 평가하기 위해 SHAP 기반 개인 정보 공격을 개발하고, 에너지 소비 데이터셋에 대한 실험을 통해 개인 정보 유출 감소 및 예측 정확도 유지를 확인함.
시사점, 한계점
•
시사점:
◦
SHAP 엔트로피 정규화를 통해 개인 정보 보호를 강화하면서 설명 가능성 및 예측 정확도를 유지하는 새로운 XAI 기술 제시.
◦
SHAP 기반 개인 정보 공격을 개발하여 제안된 방법의 효과를 평가하고, AIoT 환경에서의 개인 정보 보호 문제를 실증적으로 분석.
