Bidirectional Curriculum Generation: A Multi-Agent Framework for Data-Efficient Mathematical Reasoning

Created by

Haebom

저자

Boren Hu, Xiao Liu, Boci Peng, Xinping Zhao, Xiaoran Shang, Yun Zhu, Lijun Wu

💡 개요

본 논문은 대규모 언어 모델(LLM)의 수학적 추론 능력 향상에 필요한 데이터 효율성 문제를 해결하기 위해 새로운 양방향 커리큘럼 생성 프레임워크를 제안합니다. 기존의 단방향 커리큘럼 학습은 기초적인 이해 부족에도 불구하고 복잡도를 일방적으로 높여 비효율적인 학습을 초래하는 반면, 제안하는 방법은 다중 에이전트 시스템을 통해 문제의 복잡성을 동적으로 조절합니다. 이를 통해 학습 모델이 각 단계에서 가장 효과적인 데이터를 소비하도록 하여, 적은 수의 데이터로도 뛰어난 추론 성능을 달성합니다.

🔑 시사점 및 한계

•

LLM 학습에서 데이터 효율성을 극대화하고, 문제 해결 능력을 효과적으로 향상시키는 새로운 학습 패러다임을 제시합니다.

•

학습 과정에서 발생하는 특정 추론 실패를 진단하고 이를 보완하기 위해 문제 난이도를 동적으로 조절하는 유연한 접근 방식을 제공합니다.

•

복잡한 수학적 추론 문제에 대한 LLM의 학습 효율성을 높이는 데 기여할 수 있습니다.

•

제안된 프레임워크의 실제 적용 가능성 및 다양한 수학적 영역으로의 일반화 가능성에 대한 추가적인 연구가 필요할 수 있습니다.

PDF 보기

Made with Slashpage