Chao Yan (Tony), Boyong Wu (Tony), Peng Yang (Tony), Pengfei Tan (Tony), Guoqiang Hu (Tony), Li Xie (Tony), Yuxin Zhang (Tony), Xiangyu (Tony), Zhang, Fei Tian, Xuerui Yang, Xiangyu Zhang, Daxin Jiang, Shuchang Zhou, Gang Yu
Step-Audio-EditX: LLM 기반 오디오 편집 모델
개요
Step-Audio-EditX는 감정, 말하는 스타일, 부가 언어적 요소와 함께 강력한 제로샷 텍스트-음성 변환(TTS) 기능을 갖춘, 표현력 있고 반복적인 오디오 편집에 탁월한 최초의 오픈 소스 LLM 기반 오디오 모델입니다. 핵심 혁신은 임베딩 기반 사전 지식이나 보조 모듈 없이 대규모 마진 합성 데이터만을 활용하는 데 있습니다. 이러한 대규모 마진 학습 접근 방식은 목소리 전반에 걸쳐 반복적인 제어와 높은 표현력을 모두 가능하게 하며, 표현 수준 분리라는 기존의 초점에서 근본적인 전환을 나타냅니다. 평가 결과에 따르면 Step-Audio-EditX는 감정 편집 및 기타 세분화된 제어 작업에서 MiniMax-2.6-hd와 Doubao-Seed-TTS-2.0을 능가합니다.
시사점, 한계점
•
표현력 있고 반복적인 오디오 편집을 위한 LLM 기반 모델 개발.
•
임베딩 기반 사전 지식 또는 보조 모듈 없이 대규모 마진 합성 데이터를 활용하는 혁신적인 접근 방식.