본 논문은 Mamba와 xLSTM과 같은 새로운 시퀀스 모델이 단일 채널 음성 향상, 자동 음성 인식, 자기 지도 학습 기반 오디오 표현 학습에서 최첨단 모델과 비슷하거나 더 나은 성능을 보인다는 기존 연구를 바탕으로 합니다. 하지만 LSTM 및 Mamba와 같은 시퀀스 모델은 과적합 경향이 있다는 점을 지적하며, 이 문제를 해결하기 위해 Mamba와 시간-주파수 멀티 헤드 어텐션 모듈을 결합한 새로운 하이브리드 아키텍처인 MambAttention을 제안합니다. 더욱 도전적인 노이즈 유형과 낮은 신호 대 잡음비를 갖는 VoiceBank+Demand Extended (VB-DemandEx) 데이터셋을 사용하여 모델을 학습시켰으며, DNS 2020 및 EARS-WHAM_v2와 같은 도메인 외 데이터셋에서 기존 최첨단 LSTM, xLSTM, Mamba 및 Conformer 기반 시스템보다 성능이 월등히 뛰어나다는 것을 실험적으로 보여줍니다. 또한, 시간-주파수 멀티 헤드 어텐션 모듈의 가중치 공유가 일반화 성능에 중요한 역할을 한다는 점을 에이블레이션 스터디를 통해 밝힙니다. 마지막으로, LSTM 및 xLSTM에 공유 시간-주파수 멀티 헤드 어텐션 모듈을 통합하는 실험을 수행하여 도메인 외 데이터셋에서 성능 향상을 확인했지만, MambAttention 모델이 모든 평가 지표에서 더 우수한 성능을 유지함을 확인합니다.
