본 논문은 대규모 언어 모델의 사고 연쇄(CoT) 프롬프팅에서 발생하는 과도한 계산 비용과 지연 시간 문제를 해결하기 위해, 적응형 GoGI-Skip 프레임워크를 제안합니다. 기존의 CoT 압축 기법들이 일반적인 중요도 척도와 고정된 압축률에 의존하는 것과 달리, 본 연구는 목표-기울기 중요도(GoGI)라는 새로운 척도와 적응적 동적 건너뛰기(ADS) 메커니즘을 제시합니다. GoGI는 중간 표현의 기울기 영향을 측정하여 기능적으로 관련된 토큰을 정확하게 식별하고, ADS는 실행 시간 모델의 불확실성에 따라 압축률을 동적으로 조절하면서 국소적 일관성을 유지합니다. MATH 데이터셋으로 학습된 Adaptive GoGI-Skip은 AIME, GPQA, GSM8K와 같은 다양한 추론 벤치마크에서 강력한 도메인 간 일반화 성능을 보이며, 평균 45% 이상의 CoT 토큰 수 감소와 1.6~2.0배의 추론 속도 향상을 달성합니다. 높은 압축률에서도 정확도를 유지하면서 기존 기준 모델들을 상당히 능가하여 CoT 추론의 효율성-정확도 절충점을 개선합니다.
