본 논문은 대규모 언어 모델(LLM)의 수학적 추론 능력의 일관성 부족 문제를 해결하기 위해 토큰 단위 불확실성 추정 프레임워크인 TokUR을 제안한다. TokUR은 저차원 랜덤 가중치 섭동을 LLM 디코딩에 적용하여 예측 분포를 생성하고, 이를 통해 토큰 단위 불확실성을 추정한다. 추정된 토큰 단위 불확실성을 집계하여 생성된 시퀀스의 의미적 불확실성을 반영하고, 이를 통해 답변의 정확성과 모델의 강건성을 평가한다. 다양한 난이도의 수학적 추론 데이터셋을 사용한 실험 결과, 제안된 방법이 기존의 불확실성 추정 방법보다 우수하며, 불확실성을 이용하여 다중 생성 및 입자 필터링 알고리즘을 통해 모델의 추론 성능을 향상시킬 수 있음을 보여준다.
시사점, 한계점
•
시사점:
◦
LLM의 추론 과정에서 토큰 단위 불확실성을 정확하게 추정하는 새로운 방법 제시.
◦
불확실성 추정을 통해 LLM의 답변 정확성과 강건성을 향상시킬 수 있음을 증명.
◦
불확실성 기반의 다중 생성 및 입자 필터링 알고리즘을 활용하여 LLM의 추론 성능 향상 가능성 제시.
