전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다. 본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다. 논문에 대한 저작권은 저자 및 해당 기관에 있으며, 요약본 공유 시 출처만 명기하면 됩니다. This service is supported by Google Gemini.
Towards Reasoning Era: A Survey of Long Chain-of-Thought for Reasoning Large Language Models
Created by
Haebom
Category
Empty
저자
Qiguang Chen, Libo Qin, Jinhao Liu, Dengyun Peng, Jiannan Guan, Peng Wang, Mengkang Hu, Yuhang Zhou, Te Gao, Wanxiang Che
개요
본 논문은 최근 대규모 언어 모델(LLM)의 추론 능력 향상에 중요한 역할을 하는 장쇄 사고 과정(Long CoT)에 대한 종합적인 조사를 제공합니다. 기존의 단쇄 사고 과정(Short CoT)과의 차이점을 명확히 하고, 장쇄 사고 과정의 핵심 특징(심층 추론, 광범위한 탐색, 실행 가능한 반성)을 분석합니다. 또한, 과도한 사고(overthinking) 및 추론 시간 확장과 같은 현상을 조사하고, 다모달 추론 통합, 효율성 개선, 향상된 지식 프레임워크 등 미래 연구 방향을 제시합니다.
시사점, 한계점
•
시사점:
◦
장쇄 사고 과정(Long CoT)과 단쇄 사고 과정(Short CoT)의 차이점을 명확히 함으로써 LLM 추론 연구의 기반을 마련합니다.
◦
장쇄 사고 과정의 핵심 특징과 이를 통해 복잡한 문제 해결이 가능함을 보여줍니다.
◦
과도한 사고(overthinking) 및 추론 시간 확장과 같은 현상에 대한 통찰력을 제공합니다.