본 논문은 그래프 구조 데이터를 처리하는 연속 학습(Continual Learning, CL) 문제에서 대규모 언어 모델(LLM)의 활용 가능성을 탐구한다. 특히, 기존의 그래프 연속 학습(GCL) 연구의 실험 설정에서 발생하는 문제점을 지적하고, 보다 현실적인 시나리오에서 LLM의 성능을 평가한다. 연구 결과, 경미한 수정만으로도 LLM이 뛰어난 성능을 보일 수 있음을 확인했으며, 이를 바탕으로 리허설(rehearsal) 없이도 기존 GNN 기반의 최첨단 기술보다 약 20% 향상된 성능을 보이는 Simple Graph Continual Learning (SimGCL) 방법을 제안한다. 또한, GCL 방법의 재현성을 높이기 위해 LLM4GCL 벤치마크를 개발했다.
시사점, 한계점
•
시사점:
◦
LLM을 활용하여 그래프 연속 학습에서 catastrophic forgetting 문제를 완화할 수 있는 가능성을 제시함.
◦
GCL 연구의 실험 설정에서 발생하는 문제점을 지적하고, 보다 현실적인 평가 방식을 제시함.
◦
SimGCL이라는 간단하면서 효과적인 방법을 제안하여, 기존 SOTA를 능가하는 성능을 달성함.
◦
GCL 연구의 재현성을 높이기 위한 LLM4GCL 벤치마크를 개발하여 연구 발전에 기여함.
•
한계점:
◦
논문에서 구체적인 LLM 활용 방법, 즉 SimGCL의 세부적인 구현 방식에 대한 설명이 부족할 수 있음.
◦
LLM의 성능에 의존적인 부분이 존재하여, LLM의 발전 속도에 따라 SimGCL의 성능이 영향을 받을 수 있음.
◦
제안된 방법의 일반화 능력에 대한 추가적인 연구가 필요할 수 있음.
◦
특정 GCL task에만 효과적일 가능성이 있으며, 다른 GCL task에 대한 성능 검증이 필요함.
