Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Entropic bounds for conditionally Gaussian vectors and applications to neural networks

Created by
  • Haebom

저자

Lucia Celli, Giovanni Peccati

개요

정보 이론의 엔트로피 부등식을 사용하여 조건부 가우시안 분포와 가역 공분산 행렬을 갖는 가우시안 분포 간의 총 변동 거리와 2-Wasserstein 거리에 대한 새로운 경계를 제시합니다. 이 결과를 적용하여 초기화가 가우시안이고 내부 레이어의 크기가 무한대로 발산할 때, 무작위로 초기화된 완전 연결 신경망과 유한 개의 입력에서 평가된 그 미분의 가우시안으로의 수렴 속도를 정량화합니다. 활성화 함수에 대한 약한 가정만 필요하며, 다양한 거리에서 최적의 수렴 속도를 복구할 수 있으므로 Basteri와 Trevisan (2023), Favaro 등 (2023), Trevisan (2024) 및 Apollonio 등 (2024)의 결과를 개선하고 확장합니다. 주요 도구 중 하나는 Hanin (2024)에서 확립된 정량적 누적량 추정치입니다. 예시로, 이 결과를 신경망과 그 미분의 베이지안 사후 분포와 해당 가우시안 극한의 사후 분포 간의 총 변동 거리를 경계하는 데 적용합니다. 이는 Hron 등 (2022)의 사후 CLT의 정량적 버전을 제공하며, Trevisan (2024)의 여러 추정치를 총 변동 메트릭으로 확장합니다.

시사점, 한계점

시사점: 조건부 가우시안 분포와 가우시안 분포 간의 거리에 대한 새로운 경계를 제시하여 신경망의 가우시안 근사의 수렴 속도를 정량적으로 분석할 수 있게 함. 기존 연구 결과 개선 및 확장. 사후 CLT에 대한 정량적 버전 제공. 다양한 거리에서 최적의 수렴 속도 복구.
한계점: 활성화 함수에 대한 약한 가정이 필요함. 구체적인 활성화 함수의 종류에 따른 성능 차이에 대한 분석이 부족할 수 있음. 고차원 데이터에 대한 적용 가능성 및 계산 비용에 대한 추가적인 연구 필요.
👍