본 논문은 대규모 언어 모델(LLM)의 추론 비용이 점점 증가하고 있음을 지적하며, 추론 과정을 학습된 기술 그래프 상의 확률적 탐색으로 표현하는 새로운 프레임워크인 DS3(directed stochastic skill search)를 제안합니다. DS3는 사고연쇄(CoT) 및 사고트리(ToT)와 같은 다양한 추론 전략에 대한 작업 성공률과 계산 비용을 분석적으로 계산하는 식을 제공하여, 작업 난이도와 모델 성능에 따른 비교 분석을 가능하게 합니다. LLM 훈련의 삼분 그래프 프레임워크를 확장하여 추론을 통합하고, DS3를 LLM 확장 동작을 특징짓는 실험적 방법과 연결하여 로그 계산 비용에 대한 선형 정확도 확장, 작업 난이도와 모델 성능에 따른 최적 추론 전략의 변화, 매개변수 확장에서 성능이 정체될 때도 추론에 의해 나타나는 부상적 동작, 그리고 통합 분석 프레임워크 내에서 포착된 최고 N개(BoN) 및 다수결 투표 동작 등 실험적으로 관찰된 패턴을 이론적으로 재현합니다. 훈련-추론 상호 의존성을 명시적으로 특징짓는 이 프레임워크는 이론적 이해를 심화시키고 원칙에 기반한 알고리즘 설계 및 자원 할당을 지원합니다.
