ConCISE: Confidence-guided Compression in Step-by-step Efficient Reasoning
Created by
Haebom
저자
Ziqing Qiao, Yongheng Deng, Jiali Zeng, Dong Wang, Lai Wei, Fandong Meng, Jie Zhou, Ju Ren, Yaoxue Zhang
개요
본 논문은 대규모 추론 모델(LRM)에서 사고연쇄(CoT) 프롬프팅을 사용하여 복잡한 추론 작업을 수행할 때 발생하는 과도한 출력 문제를 해결하는 새로운 프레임워크 ConCISE를 제안합니다. ConCISE는 모델의 내부 신뢰도를 분석하여 과도한 반복적인 추론 단계를 생성하는 두 가지 주요 패턴(신뢰도 부족 및 종료 지연)을 식별하고, 신뢰도 주입 및 조기 종료 기법을 통해 이러한 문제를 해결합니다. 실험 결과, ConCISE를 사용하여 미세 조정된 LRM은 출력 길이를 최대 50%까지 줄이면서 높은 정확도를 유지하는 것으로 나타났습니다.
시사점, 한계점
•
시사점:
◦
LRM의 과도한 출력 문제를 해결하는 효과적인 방법 제시
◦
신뢰도 기반의 새로운 추론 단계 압축 프레임워크 ConCISE 제안
◦
ConCISE를 통해 출력 길이를 크게 줄이면서 정확도를 유지 가능
◦
기존 방법들보다 우수한 성능을 여러 추론 벤치마크에서 입증
•
한계점:
◦
ConCISE의 효과는 특정 LRM과 데이터셋에 대한 실험 결과에 기반하며, 다른 모델이나 작업에 대한 일반화 가능성은 추가 연구가 필요함.
◦
신뢰도 측정의 정확성이 ConCISE 성능에 영향을 미칠 수 있음. 신뢰도 측정 방식 개선에 대한 연구 필요.
◦
현재 제시된 Confidence Injection 및 Early Stopping 방식의 최적 파라미터 설정에 대한 추가 연구가 필요함.
