본 논문은 신경망의 대칭성 감소가 선형 보간 신경망의 성능 향상에 기여한다는 기존 연구에 착안하여, 실제 응용에서 더 흔히 사용되는 심층 앙상블 및 전문가 혼합(MoE) 모델에서의 대칭성 감소 효과를 실험적으로 분석합니다. 다섯 개의 데이터셋을 사용하여 심층 앙상블과 MoE, 그리고 새롭게 제안된 보간 전문가 혼합(MoIE) 모델에 대한 대칭성 감소의 영향을 평가합니다. 실험 결과, 비대칭 신경망 기반 심층 앙상블은 앙상블 크기가 증가함에 따라 대칭적 대응모델보다 훨씬 향상된 성능을 보이는 반면, MoE와 MoIE 아키텍처에 대한 대칭성 감소의 영향은 결론적으로 확인되지 않았습니다.
