본 논문은 대규모 언어 모델(LLM)의 추론 능력 향상에 대한 종합적인 검토를 제공합니다. 데이터 및 모델 크기 확장을 통한 성능 향상과 달리, LLM의 추론 확장은 더욱 복잡하며, 모델 정렬 및 강건성에 새로운 과제를 제기할 수 있습니다. 본 논문에서는 입력 크기, 추론 단계, 추론 라운드, 훈련 기반 추론 등 다양한 차원에서 LLM 추론 확장을 분석하고, 각 전략이 추론 능력 향상에 어떻게 그리고 어느 정도 기여하는지 살펴봅니다. 다양한 관점을 종합하여 LLM의 추론 능력을 근본적으로 향상시키는 확장 전략에 대한 통찰력을 제공하고 차세대 AI 시스템 개발을 위한 지침을 제시하는 것을 목표로 합니다.
