본 논문은 대규모 언어 모델(LLM)의 복잡한 추론 능력, 특히 수학 문제 해결 능력 향상을 위한 연구이다. Transformer 모델의 정보 전파 메커니즘을 이해하기 위해 다단계 추론 과제를 설계하고, 직접 답변과 사고 과정(Chain-of-Thought, CoT) 추론을 비교 분석하였다. 모델이 다양한 정보를 별도의 버퍼에 저장하고 필요에 따라 선택적으로 추출하는 '버퍼 메커니즘' 개념을 제시하고, 이를 향상시키는 132개의 학습 가능한 매개변수만을 가진 랜덤 행렬 기반 알고리즘을 제안하였다. 제안된 알고리즘은 PrOntoQA, LogicAsker, LogicInference 등 7개의 다단계 추론 데이터셋에서 성능 향상을 보였다. 이 연구는 LLM의 내부 작동 원리를 이해하는 데 새로운 통찰력을 제공한다.
시사점, 한계점
•
시사점:
◦
LLM의 추론 과정에서 정보 저장 및 활용 메커니즘에 대한 새로운 이해를 제공한다.
◦
제안된 랜덤 행렬 기반 알고리즘은 적은 매개변수로 LLM의 추론 능력을 효과적으로 향상시킬 수 있음을 보여준다.
◦
다양한 다단계 추론 데이터셋에서의 성능 향상을 통해 알고리즘의 일반성을 확인하였다.
◦
LLM의 설계 및 학습 전략 개선에 대한 새로운 방향을 제시한다.
•
한계점:
◦
제안된 알고리즘의 효과가 특정 유형의 다단계 추론 문제에 국한될 가능성이 있다.
◦
버퍼 메커니즘의 구체적인 작동 원리에 대한 추가적인 분석이 필요하다.
◦
더욱 복잡하고 다양한 추론 과제에 대한 성능 평가가 필요하다.
◦
알고리즘의 확장성 및 다른 모델 아키텍처에 대한 적용 가능성에 대한 추가 연구가 필요하다.
