본 논문은 대규모 언어 모델(LLM)과 오디오 언어 모델의 발전에도 불구하고, 기존의 가사-노래 생성 방법들이 음질, 음악성, 지시사항 준수, 보컬-악기 조화 면에서 한계를 보인다는 점을 지적합니다. 이를 해결하기 위해, 보컬과 반주를 결합한 혼합 토큰과 보컬과 반주를 개별적으로 인코딩하는 이중 트랙 토큰을 병렬로 모델링하는 LeVo 프레임워크를 제안합니다. LeVo는 두 개의 디코더 전용 트랜스포머와 모듈식 확장 훈련 전략을 사용하여 서로 다른 토큰 유형 간의 간섭을 방지하고, 다양한 사용자 선호도를 처리하기 위해 직접 선호도 최적화(DPO) 기반의 다중 선호도 정렬 방법을 도입합니다. 실험 결과, LeVo는 기존 방법보다 객관적 및 주관적 지표 모두에서 우수한 성능을 보였으며, ablation study를 통해 설계의 효과를 검증했습니다. 소스 코드와 데모는 공개적으로 제공됩니다.
