Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Quality-Controlled Multimodal Emotion Recognition in Conversations with Identity-Based Transfer Learning and MAMBA Fusion

Created by
  • Haebom
Category
Empty

저자

Zanxu Wang, Homayoon Beigi

개요

본 논문은 대화형 멀티모달 감정 인식(MERC)에서 데이터 품질 문제를 해결하기 위해 체계적인 품질 관리와 다단계 전이 학습을 활용한다. MELD 및 IEMOCAP 데이터셋에 대한 품질 관리 파이프라인을 구현하여 화자 신원, 오디오-텍스트 정렬, 얼굴 감지를 검증한다. 화자 및 얼굴 인식으로부터의 전이 학습을 활용하며, RecoMadeEasy(R) 엔진을 사용하여 512차원 화자 및 얼굴 임베딩을 추출하고, MPNet-v2를 감정 인식 텍스트 표현에 대해 미세 조정하며, 단일 모달 데이터셋에서 훈련된 감정별 MLP를 통해 이러한 특징을 적용한다. MAMBA 기반의 삼중 모달 융합을 통해 MELD에서 64.8%, IEMOCAP에서 74.3%의 정확도를 달성한다.

시사점, 한계점

•
시사점:
◦
데이터 품질 관리를 통해 MERC 성능 향상.
◦
화자 및 얼굴 인식 기반 전이 학습의 효과 입증.
◦
감정별 MLP를 통한 특징 적응의 유효성 확인.
◦
MAMBA 기반 삼중 모달 융합을 통한 경쟁력 있는 성능 달성.
◦
어려운, 저빈도 감정 클래스에 대한 추가 개선의 기반 마련.
•
한계점:
◦
특정 데이터셋(MELD, IEMOCAP)에 대한 성능 평가.
◦
RecoMadeEasy(R) 엔진의 의존성.
◦
MPNet-v2 및 MAMBA 모델의 복잡성.
◦
일반화 가능성에 대한 추가 연구 필요.
👍
Made with Slashpage