본 논문은 대규모 언어 모델(LLM)의 추론 능력 향상을 위한 새로운 프롬프팅 기법인 Sketch-of-Thought(SoT)를 제안합니다. 기존의 Chain-of-Thought(CoT) 프롬프팅은 중간 출력의 과도한 상세 설명으로 인해 계산 비용이 증가하는 단점이 있습니다. SoT는 인지적으로 영감을 받은 추론 패러다임과 언어적 제약 조건을 통합하여 토큰 사용량을 줄이면서 추론 정확도를 유지하는 것을 목표로 합니다. 세 가지 패러다임(개념적 연결, 청크 기호주의, 전문가 어휘)을 모듈화하여 유연하게 적용하고, 경량 라우팅 모델을 통해 테스트 시점에 적절한 패러다임을 동적으로 선택합니다. 다양한 도메인, 언어, 모달리티를 포함한 18개의 추론 데이터셋에 대한 실험 결과, SoT는 최대 84%의 토큰 감소를 달성하면서 정확도 손실은 최소화했습니다. 수학적 추론 및 다단계 추론과 같은 작업에서는 출력을 단축하면서 정확도를 향상시키기도 했습니다.
