본 논문은 대규모 언어 모델(LLM)의 수학적 추론 능력 향상을 위해 기존의 단순한 데이터 증강 방식(문장 재구성, 구문 변형 등)을 넘어, 수학적 지식의 내재적 관계 구조를 활용하는 새로운 프레임워크인 MathFusion을 제안합니다. MathFusion은 순차적, 병렬적, 조건부 세 가지 융합 전략을 통해 관련 문제들을 종합적으로 활용하여 학습 효율을 높입니다. 이를 통해 새로운 데이터셋 MathFusionQA를 생성하고, DeepSeekMath-7B, Mistral-7B, Llama3-8B 모델을 fine-tuning하여 다양한 벤치마크에서 정확도를 18.0% 향상시켰습니다. 이는 기존의 단일 지시 방식에 비해 훨씬 효율적인 결과이며, 데이터셋, 모델, 코드는 공개적으로 제공됩니다.
