본 논문은 소형 언어 모델(sLM)의 테스트 시점 연산 확장을 통해 성능을 향상시키는 연구에 초점을 맞추고 있습니다. 기존 연구는 주로 대형 모델을 검증자로 사용하는 테스트 시점 연산 확장에 집중했지만, sLM의 자체 검증은 미개척 분야였습니다. 본 연구는 sLM이 테스트 시점 확장 하에서 자신의 출력을 신뢰할 수 있게 자체 검증할 수 있는지 조사합니다. 연구 결과, 대형 검증자로부터의 지식 증류에도 불구하고 sLM은 수치 계산 및 사실 확인과 같은 암기가 필요한 검증 작업에서 어려움을 겪는다는 것을 발견했습니다. 이러한 한계를 해결하기 위해, 암기가 많은 검증 단계를 코드 인터프리터와 같은 외부 도구에 위임하는 도구 통합 자체 검증(T1)을 제안합니다. 이론적 분석을 통해 도구 통합이 암기 요구 사항을 줄이고 테스트 시점 확장 성능을 향상시킨다는 것을 보여줍니다. MATH 벤치마크에 대한 실험 결과, T1을 사용한 Llama-3.2 1B 모델은 테스트 시점 확장 하에서 훨씬 더 큰 Llama-3.1 8B 모델보다 성능이 우수함을 보여줍니다. 또한 T1은 수학(MATH500) 및 다중 도메인 지식 집약적 작업(MMLU-Pro) 모두에 효과적으로 일반화됩니다. 본 연구 결과는 도구 통합이 sLM의 자체 검증 능력을 크게 향상시킬 수 있는 잠재력을 강조합니다.
