Musical Score Understanding Benchmark: Evaluating Large Language Models' Comprehension of Complete Musical Scores
Created by
Haebom
Category
Empty
저자
Congren Dai, Yue Yang, Krinos Li, Huichi Zhou, Shijie Liang, Zhang Bo, Enyang Liu, Ge Jin, Hongran An, Haosen Zhang, Peiyuan Jing, KinHei Lee, Zhenxuan Zhang, Xiaobing Li, Maosong Sun
개요
본 논문은 악보 이해를 위한 대규모 벤치마크인 MSU-Bench를 소개합니다. 이 벤치마크는 텍스트(ABC 표기법) 및 시각적(PDF) 형식을 모두 포함하며, 음악적 이해 능력을 평가하기 위해 1,800개의 생성형 질의응답(QA) 쌍으로 구성되어 있습니다. MSU-Bench는 Bach, Beethoven, Chopin, Debussy 등의 작품을 기반으로 하며, Onset Information, Notation & Note, Chord & Harmony, Texture & Form의 네 가지 단계로 구분됩니다. 15개 이상의 최첨단 모델을 대상으로 제로샷 및 미세 조정 평가를 수행하여 modality 격차, 단계별 성공률의 불안정성, 다단계 정확성 유지의 어려움을 확인했습니다. 미세 조정은 두 가지 형식 모두에서 성능을 크게 향상시켰습니다.