본 논문은 구면 코시(spCauchy) 잠재 분포를 사용하는 새로운 변분 오토인코더(VAE) 아키텍처를 제안합니다. 기존의 가우시안 잠재 공간이나 널리 사용되는 von Mises-Fisher(vMF) 분포와 달리, spCauchy는 잠재 변수의 보다 자연스러운 초구면 표현을 제공하여 방향 데이터를 더 잘 포착하면서 유연성을 유지합니다. heavy-tailed 특성으로 과다 정규화를 방지하여 효율적인 잠재 공간 활용을 보장하는 동시에 더욱 표현력 있는 표현을 제공합니다. 또한, 베셀 함수를 포함하는 정규화 상수 계산으로 인해 발생하는 vMF의 수치적 불안정성을 해결합니다. 대신, Möbius 변환을 통한 완전히 미분 가능하고 효율적인 재매개변수화 트릭을 가능하게 하여 안정적이고 확장 가능한 학습을 허용합니다. KL 발산은 빠르게 수렴하는 멱급수를 통해 계산할 수 있으므로 초기하 함수의 비율 평가와 관련된 언더플로우 또는 오버플로우에 대한 우려를 없애줍니다. 이러한 특성으로 인해 spCauchy는 고차원 생성 모델링에서 이론적 장점과 실용적 효율성을 모두 제공하는 VAE에 대한 매력적인 대안이 됩니다.
