Gaussian DP for Reporting Differential Privacy Guarantees in Machine Learning
Created by
Haebom
저자
Juan Felipe Gomez, Bogdan Kulynych, Georgios Kaissis, Flavio P. Calmon, Jamie Hayes, Borja Balle, Antti Honkela
개요
본 논문은 차분 프라이버시(DP) 머신 러닝 알고리즘의 DP 보호 수준 보고 방식의 문제점을 지적하고, 비점근적 Gaussian Differential Privacy (GDP)를 사용하여 이러한 문제점을 해결하는 방안을 제시합니다. 수치 회계 도구와 의사 결정 이론적 메트릭을 활용하여 DP-SGD와 같은 알고리즘의 전체 프라이버시 프로파일을 GDP로 정확하게 표현할 수 있음을 보입니다. 최첨단 DP 이미지 분류 및 미국 인구 조사 TopDown 알고리즘의 프라이버시 프로파일을 분석하여 GDP의 적합성을 검증하고, GDP 접근 방식의 강점과 약점을 논의합니다.
시사점, 한계점
•
시사점:
◦
GDP를 사용하여 DP 보증을 보다 정확하고 완전하게 전달할 수 있습니다.
◦
DP-SGD 및 관련 알고리즘의 전체 프라이버시 프로파일을 거의 오차 없이 캡처할 수 있습니다.
◦
최첨단 DP ML 알고리즘의 프라이버시 프로파일을 효과적으로 분석하고 이해할 수 있습니다.