Markov Chain of Thought for Efficient Mathematical Reasoning
Created by
- Haebom
Category
Empty
저자
Wen Yang, Minpeng Liao, Kai Fan
개요
본 논문은 Chain of Thought (CoT)의 토큰 제한 문제를 해결하기 위해 Markov Chain of Thought (MCoT)를 제안합니다. 기존의 CoT는 추론 단계가 길어짐에 따라 토큰 제한을 초과하고 계산 비용이 증가하는 문제점이 있습니다. MCoT는 인간의 인지 과정인 "derive, then reduce"를 모방하여 이전 추론 단계들을 간략화된 질문으로 압축하여 효율적인 다음 단계 추론을 가능하게 합니다. 수학적 추론 문제에 Python 코드 스니펫을 함께 사용하며, 코드 인터프리터와의 상호작용을 통해 자가 수정 기능을 제공합니다. 실험 결과, MCoT는 효율성을 크게 향상시키면서 동시에 기존 CoT와 비교 가능한 정확도를 유지하는 것으로 나타났습니다.
시사점, 한계점
•
시사점:
◦
기존 CoT의 토큰 제한 및 계산 비용 문제를 효과적으로 해결하는 새로운 방법 제시.
◦
인간의 인지 과정을 모방한 MCoT 접근 방식의 효용성 증명.
◦
Python 코드 스니펫과 코드 인터프리터 활용을 통한 자가 수정 기능으로 정확도 유지.
◦
효율적인 장문 CoT 추론을 위한 새로운 가능성 제시.
•
한계점:
◦
아직 탐구해야 할 부분이 많이 남아있음.
◦
MCoT의 성능이 다양한 문제 유형 및 LLM에 대해 얼마나 일반화될 수 있는지 추가 연구 필요.
◦
MCoTInstruct 데이터셋의 규모 및 다양성에 대한 제한.
