본 논문은 대규모 언어 모델(LLM)의 추론 능력, 특히 수학적 추론을 넘어 사실적 정확성 향상에 대한 연구를 다룬다. 복잡한 개방형 질의응답(QA) 시나리오에서 LLM의 추론 과정을 심층적으로 분석하기 위해, QwQ-32B 및 DeepSeek-R1-671B와 같은 대규모 추론 모델에서 추론 과정을 추출하고, 크기가 다른 여러 모델들을 미세 조정하였다. 지식 그래프로부터 사실 정보를 추론 과정에 추가하여 추론 과정을 풍부하게 만들었으며, 6개의 데이터셋(총 22,600개 이상의 질문)을 사용하여 168번의 실험을 진행, 약 170만 개의 추론 과정을 분석하였다. 결과적으로, 작은 추론 모델에서도 사실적 정확도가 눈에 띄게 향상되었으며, 테스트 시간 계산 및 토큰 예산을 추가함으로써 사실적 정확도가 2~8% 향상되는 것을 확인하여 테스트 시간 스케일링의 효과를 증명하였다. 모든 실험 결과는 공개하였다.
