Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Differential Privacy in Federated Learning: Mitigating Inference Attacks with Randomized Response

Created by
  • Haebom

저자

Ozer Ozturk, Busra Buyuktanir, Gozde Karatas Baydogmus, Kazim Yildiz

개요

본 논문은 분산 환경에서의 머신러닝 모델 학습 시 발생하는 데이터 보안 및 개인정보보호 문제를 해결하기 위해 federated learning과 differential privacy를 결합한 방법을 제안하고 성능 분석을 수행했습니다. 특히, federated aggregation 방법으로 duCBA 알고리즘을 사용하고, differential privacy를 위해 Randomized Response 기법을 적용하여, epsilon 값에 따른 보안과 성능 간의 trade-off를 분석했습니다. 실험 결과, epsilon 값이 감소(개인정보보호 강화)함에 따라 모델 정확도가 저하되고 클래스 예측 불균형이 발생하는 것을 확인하여 보안과 성능 간의 균형있는 설계의 중요성을 강조했습니다.

시사점, 한계점

•
시사점:
◦
Federated learning 환경에서 differential privacy 적용을 통한 데이터 유출 위험 완화 가능성을 제시했습니다.
◦
Randomized Response 기법을 이용한 differential privacy 구현 및 epsilon 값에 따른 성능 저하 분석을 통해 보안과 성능 간의 최적 조합을 찾는 데 도움을 줄 수 있습니다.
◦
duCBA 알고리즘을 federated aggregation에 적용하여 성능 평가를 수행함으로써 해당 알고리즘의 적합성을 검증했습니다.
•
한계점:
◦
특정 federated aggregation 알고리즘(duCBA)과 differential privacy 기법(Randomized Response)에 국한된 분석으로, 다른 알고리즘 및 기법에 대한 일반화 가능성이 제한적입니다.
◦
epsilon 값의 변화에 따른 성능 저하와 클래스 불균형 현상을 분석했지만, 다른 보안 위협(예: 모델 추론 공격의 다양한 형태)에 대한 고려는 부족합니다.
◦
실제 데이터셋을 사용한 실험 결과가 아닌 시뮬레이션 결과를 기반으로 하여 실제 환경에서의 적용 가능성에 대한 추가적인 검증이 필요합니다.
👍
Made with Slashpage