본 논문은 실세계 다중 모달 학습에서 데이터 불완전성 문제를 해결하기 위해, Sparse Mixture-of-Experts (SMoE) 구조에 두 단계 임퓨테이션 모듈을 도입한 Conf-SMoE를 제안합니다. 기존 SMoE의 전문가 붕괴(expert collapse) 문제를 이론적 분석과 실험적 증거를 통해 밝히고, 이를 해결하기 위해 기존 소프트맥스 라우팅 점수를 기반 진실에 대한 작업 신뢰도 점수로 분리하는 새로운 전문가 게이팅 메커니즘을 제시합니다. 추가적인 부하 균형 손실 함수 없이 전문가 붕괴 문제를 완화하며, 가우시안 및 라플라시안 게이트와 같은 다른 게이팅 메커니즘과의 연관성을 보여줍니다. 네 가지 실제 데이터셋과 세 가지 실험 설정을 통해 다중 모달 융합 및 누락 모달에 대한 내성에 대한 Conf-SMoE의 성능을 종합적으로 분석합니다.
