Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Improving Direct Persian-English Speech-to-Speech Translation with Discrete Units and Synthetic Parallel Data

Created by
  • Haebom
Category
Empty

저자

Sina Rashidi, Hossein Sameti

개요

페르시아어 음성을 영어 음성으로 직접 번역하는 S2ST 시스템을 제안합니다. 이 시스템은 페르시아어-영어 병렬 음성 데이터 부족 문제를 해결하기 위해 대규모 언어 모델을 사용하여 페르시아어 텍스트를 영어 텍스트로 번역하고, 최첨단 zero-shot 텍스트-음성 변환 시스템을 사용하여 해당 영어 음성을 합성하여 새로운 페르시아어-영어 병렬 음성 코퍼스를 구축합니다. 이 모델은 셀프 슈퍼바이즈드 사전 학습된 conformer 기반 인코더, 상대적 위치 다중 헤드 어텐션을 사용한 인과적 변환기 디코더, 단위 기반 신경 보코더로 구성됩니다. 제안된 방법은 합성 데이터를 통해 CVSS 코퍼스의 페르시아어-영어 부분에서 직접적인 기준선보다 4.6 ASR BLEU 향상을 달성했습니다.

시사점, 한계점

페르시아어-영어와 같은 저자원 언어 쌍의 직접 S2ST 성능 향상을 위해 셀프 슈퍼바이즈드 사전 학습, 이산 음성 단위, 합성 병렬 데이터 결합의 효과를 입증했습니다.
데이터 희소성 문제를 해결하기 위해 대규모 언어 모델과 zero-shot TTS 시스템을 활용하여 합성 병렬 음성 데이터를 생성하는 파이프라인을 제시했습니다.
제안된 시스템은 CVSS 코퍼스에서 4.6 ASR BLEU 향상을 달성했지만, 다른 평가 지표에 대한 구체적인 결과는 제시되지 않았습니다.
합성 데이터의 품질이 최종 번역 품질에 영향을 미칠 수 있으며, 이에 대한 추가적인 분석이 필요합니다.
다른 저자원 언어 쌍에 대한 일반화 가능성에 대한 추가 연구가 필요합니다.
👍