GraphDancer: Training LLMs to Explore and Reason over Graphs via Two-Stage Curriculum Post-Training
Author
- Haebom
Category
Empty
저자
Yuyang Bai, Zhuofeng Li, Ping Nie, Jianwen Xie, Yu Zhang
💡 개요
본 논문은 복잡한 관계형 데이터를 다루는 데 어려움을 겪는 대규모 언어 모델(LLM)을 위해 그래프 탐색 및 추론 능력을 향상시키는 GraphDancer라는 두 단계의 후속 학습 프레임워크를 제안합니다. GraphDancer는 자연어 추론과 그래프 함수 실행을 번갈아 가며 수행하고, 학습 과정을 그래프 정보 탐색 궤적의 구조적 복잡성에 따라 점진적으로 난이도를 높이는 커리큘럼을 도입하여 LLM이 그래프를 효과적으로 활용하도록 훈련합니다. 이를 통해 3B 크기의 모델로도 더 큰 모델 기반의 기존 방법론보다 우수한 성능을 보이며, 훈련되지 않은 도메인에 대한 뛰어난 일반화 능력을 입증했습니다.
🔑 시사점 및 한계
•
LLM이 텍스트 기반 지식뿐만 아니라 복잡한 그래프 구조의 외부 지식을 활용하여 추론 능력을 확장할 수 있는 효과적인 훈련 방법론을 제시합니다.
•
그래프의 구조적 복잡성을 고려한 커리큘럼 기반 학습은 LLM의 점진적인 학습 능력과 일반화 성능 향상에 기여합니다.
•
제안된 방법론은 특정 도메인에서 훈련한 후에도 보지 못한 도메인 및 분포 외 질문 유형에 대해 강력한 성능을 보여, 실제 세계의 다양한 그래프 데이터에 적용될 가능성이 높습니다.
•
현재 연구는 3B 크기의 백본 모델에 초점을 맞추고 있으며, 향후 더 큰 규모의 LLM에 대한 적용 가능성 및 다양한 종류의 그래프 데이터셋에서의 성능 검증이 필요합니다.
