본 논문은 사고 과정(Chain-of-Thought, CoT) 추론을 사용하여 대규모 언어 모델(LLM)의 성능을 향상시키는 연구에 대해 다룹니다. CoT는 중간 단계를 제시하여 산술, 논리, 상식적 과제에서 정확성과 견고성을 향상시키지만, 높은 계산 비용이라는 단점이 있습니다. 특히 간결하고 결정적인 출력이 필요한 소프트웨어 엔지니어링 작업에서는 이 문제가 더욱 심각합니다. 본 연구는 코드 생성 벤치마크를 기반으로 실험적 연구를 수행하여 과도한 CoT 추론이 정확도 저하, 지연 시간 증가, 출력 잘림 등의 문제를 야기함을 밝혔습니다. 이를 해결하기 위해, 본 논문은 정확도를 유지하면서 CoT를 압축하는 적응형 프레임워크인 SEER(Self-Enhancing Efficient Reasoning)을 제안합니다. SEER은 Best-of-N 샘플링과 작업별 적응형 필터링을 결합하여 사전 추론 출력에 따라 역치를 동적으로 조정하여 장황함과 계산 오버헤드를 줄입니다. 소프트웨어 엔지니어링 작업 세 가지와 수학 작업 한 가지에 대한 평가 결과, SEER은 CoT를 평균 42.1% 단축하고, 정확도를 향상시키며, 무한 루프를 대부분 제거하는 것으로 나타났습니다.
