본 논문은 베이지안 가우시안 관점에서 신경망 특징의 해석 가능성을 연구한다. 비용 최적화는 확률적 경계에 도달하는 것이며, 모델 학습은 경계를 조이고 비용을 최적화하는 밀도를 근사한다. 특히, MDN(Mixture Density Networks)은 주변 경계를, 오토인코더는 조건부 경계를 사용한다. 입력과 출력 간의 오류를 최소화하는 것은 입력과 중간 계층 간의 의존성을 최대화하는 것과 같다. 힐베르트 공간 및 분해를 사용하여 여러 출력을 생성하는 네트워크를 처리한다. 오토인코더의 목적 함수는 가우시안 연산자의 대각합(trace)을 최대화하는 것과 동일하며, MDN 훈련에는 핵 노름을 발산으로 사용할 수 있다. 힐베르트 공간 내적 및 노름을 사용하여 경계 및 비용을 정의한다. 제안된 인코더-혼합-디코더 아키텍처는 표본당 여러 중심을 생성하는 다중 출력을 가진 디코더를 포함하며, 데이터가 소분산 가우시안 혼합인 경우 이 상한을 정량적으로 추적하고 분석할 수 있다.
