본 논문은 데이터의 통계적으로 독립적인 요인을 식별하는 disentanglement이라는 개념에 대해 다룹니다. disentanglement은 제어된 데이터 생성, 강력한 분류, 효율적인 인코딩, 데이터 자체에 대한 이해 향상 등 기계 학습의 많은 분야와 관련이 있습니다. Variational Autoencoders (VAEs), Generative Adversarial Networks, diffusion models 등 여러 생성 패러다임에서 나타납니다. 기존 연구는 VAE에서 대각선 사후 공분산 행렬이 디코더의 Jacobian의 열 간 직교성을 촉진한다는 것을 보임으로써 VAE에서 disentanglement을 이해하는 데 한 걸음 다가갔습니다. 본 논문은 이를 바탕으로, 이러한 직교성으로부터 데이터 분포를 통계적으로 독립적인 구성 요소로 인수분해하는 것이 어떻게 따르는지 보임으로써 disentanglement에 대한 이해의 격차를 메웁니다.
