[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Shallow Flow Matching for Coarse-to-Fine Text-to-Speech Synthesis

Created by
  • Haebom

저자

Dong Yang, Yiyi Cai, Yuki Saito, Lixu Wang, Hiroshi Saruwatari

개요

본 논문은 흐름 매칭(FM) 기반 텍스트 음성 변환(TTS) 모델의 성능 향상을 위한 새로운 기법인 얕은 흐름 매칭(SFM) 메커니즘을 제안합니다. SFM은 조잡한 출력 표현을 사용하여 FM 경로를 따라 중간 상태를 구성하고, 훈련 중 직교 투영 방법을 도입하여 이러한 상태의 시간적 위치를 적응적으로 결정하며, 단일 세그먼트 조각 흐름을 기반으로 원칙적인 구성 전략을 적용합니다. SFM 추론은 순수한 잡음이 아닌 중간 상태에서 시작하여 FM 경로의 후반 단계에 대한 계산에 집중합니다. 경량의 SFM 헤드를 사용하여 여러 TTS 모델에 SFM을 통합합니다. 실험 결과, SFM은 객관적 및 주관적 평가 모두에서 합성 음성의 자연스러움을 향상시키는 동시에 적응적 단계 ODE 솔버를 사용할 때 추론 시간을 크게 단축시키는 것으로 나타났습니다. 데모와 코드는 https://ydqmkkx.github.io/SFMDemo/ 에서 확인할 수 있습니다.

시사점, 한계점

시사점:
FM 기반 TTS 모델의 자연스러움 향상: SFM은 객관적 및 주관적 평가에서 합성 음성의 자연스러움을 향상시켰습니다.
추론 시간 단축: 적응적 단계 ODE 솔버 사용 시 추론 시간을 상당히 단축시켰습니다.
경량 구조: 경량의 SFM 헤드를 사용하여 다양한 TTS 모델에 쉽게 통합 가능합니다.
한계점:
논문에서 제시된 한계점에 대한 명시적인 언급이 없습니다. 추가적인 연구를 통해 SFM의 성능을 다양한 조건과 데이터셋에서 평가하고 한계점을 분석할 필요가 있습니다.
특정 TTS 모델에 대한 의존성 및 일반화 성능에 대한 추가적인 검증이 필요합니다.
👍