본 논문은 표현력 있는 음악 연주 렌더링을 위해 대량의 레이블되지 않은 음악 데이터를 활용하는 Pianist Transformer를 소개합니다. 이는 기존의 소규모 레이블 데이터셋에 의존하는 지도 학습 방식의 한계를 극복하기 위함입니다. Pianist Transformer는 MIDI 데이터를 통일적으로 표현하고, 효율적인 비대칭 구조를 사용하며, 100억 개의 토큰과 1억 3500만 개의 파라미터를 가진 자가 지도 학습 사전 훈련 파이프라인을 구축했습니다. 이를 통해 인간 수준의 성능을 달성하여 음악 분야에서 인간과 유사한 연주 합성을 위한 확장 가능한 경로를 제시합니다.
시사점, 한계점
•
시사점:
◦
대규모의 레이블되지 않은 음악 데이터를 활용하여 데이터 및 모델 규모 확장의 이점을 얻음.
