본 논문은 추론 모델의 테스트 시간 확장(test-time scaling)에서 "Wait" 또는 "Let me rethink"과 같은 프롬프트를 사용하여 사고 과정을 연장하는 것이 성능 향상으로 이어진다는 일반적인 믿음에 대해 검증합니다. 다양한 모델과 벤치마크에 대한 실험 결과, 추가적인 사고는 초기에는 성능 향상을 가져오지만, "과도한 사고(overthinking)"로 인해 성능이 저하되는 비단조적 경향을 보임을 밝힙니다. 이러한 현상을 단순 확률 모델로 설명하고, 추가적인 사고는 출력 분산을 증가시켜, 실제 추론 능력 향상이 아닌 평가 지표와 모델 불확실성 간의 관계로 인한 인공적인 성능 향상임을 주장합니다. 따라서, 확장된 사고를 통한 테스트 시간 확장은 효과적인 방법이 아니라고 결론짓습니다. 대안으로, Best-of-N 샘플링에서 영감을 받은 병렬 사고(parallel thinking) 기법을 제시하며, 이는 동일한 추론 예산 내에서 여러 독립적인 추론 경로를 생성하고 다수결 투표를 통해 가장 일관된 응답을 선택하여, 확장된 사고보다 최대 20% 높은 정확도를 달성합니다.
