본 논문은 대규모 언어 모델(LLM)의 수학적 추론 능력 향상에 초점을 맞추고 있습니다. 기존 강화학습(RL) 기반 방법들이 기저 모델에 새로운 능력을 부여하는 데 어려움을 겪는다는 점을 지적하며, 형식 언어(FL) 지식을 자연어(NL) 수학 추론에 효과적으로 통합할 필요성을 강조합니다. 이를 위해 NL과 FL 간의 문제 구조 및 추론 형식 차이를 해결하는 NL-FL HybridReasoning 프레임워크를 제시합니다. 이는 NL 문제를 FL의 존재 정리로 재구성하는 NL-FL Problem Alignment 방법, QA와 존재 문제를 동시에 처리하는 Mixed Problem Input 기법, 그리고 LLM 기반의 Answer Extraction 메커니즘으로 구성됩니다. MATH-500 및 AMC 벤치마크에서 각각 89.80%와 84.34%의 정확도를 달성하여 NL 기저 모델보다 성능이 향상되었으며, 기저 모델이 해결하지 못한 문제들도 해결하는 것을 보여줍니다.
