본 논문은 대규모 언어 모델의 추론 확장 방법을 개선하기 위해 동적 분해(dynamic decomposition) 기법을 제안합니다. 기존의 추론 확장 방법들은 문제를 고정된 크기의 단계 또는 토큰 그룹으로 나누어 처리하는 반면, 동적 분해는 추론 과정 중에 문제를 자동적으로 적응적으로 분해하여 관리 가능한 단계들로 나눕니다. 특히 어려운 단계를 세분화하고 샘플링 우선순위를 부여함으로써 계산 자원을 효율적으로 할당합니다. APPS, MATH, LiveCodeBench와 같은 벤치마크 실험 결과, 동적 분해는 토큰 단위, 문장 단위, 단일 단계 분해와 같은 고정된 전략보다 성능이 우수하며, pass@10 오류율을 각각 5.0%, 6.7%, 10.5% 감소시키는 것으로 나타났습니다.
