본 논문은 기존의 차등적 개인정보보호(DP) 기반 분산 학습 방법들이 고정된 그래디언트 클리핑 경계와 고정된 수준의 DP 가우시안 노이즈를 사용하여 정확도 저하 문제를 야기하는 점을 지적합니다. 이를 해결하기 위해, 일반적인 시변 방향 네트워크에 적합한 새로운 동적 차등적 개인정보보호 분산 학습 방법(Dyn-D$^2$P)을 제안합니다. Dyn-D$^2$P는 가우시안 DP(GDP) 프레임워크를 활용하여 그래디언트 수렴에 따라 그래디언트 클리핑 경계와 노이즈 레벨을 동적으로 조정합니다. 이를 통해 개인정보 보호 예산을 유지하면서 모델 정확도를 향상시킵니다. 벤치마크 데이터셋에 대한 실험 결과, Dyn-D$^2$P가 고정된 노이즈 레벨을 사용하는 방법들보다 우수함을 보여주며, 특히 강력한 개인정보 보호 보장 하에서 그 효과가 더욱 두드러집니다. 또한, 네트워크 관련 매개변수에 대한 명시적인 의존성을 갖는 Dyn-D$^2$P의 검증 가능한 유틸리티 경계를 제공하며, 노드 수($n$)에 대해 $1/\sqrt{n}$의 스케일링 계수를 갖는다는 것을 보입니다(그래디언트 클리핑으로 인한 바이어스 오류 항은 제외). 본 논문은 동적 그래디언트 클리핑 경계와 노이즈 레벨을 갖는 차등적 개인정보보호 분산 비볼록 최적화에 대한 최초의 모델 유틸리티 분석을 제공합니다.
