Sign In

Exploring the Potential of Large Language Models as Predictors in Dynamic Text-Attributed Graphs

Created by
  • Haebom
Category
Empty

저자

Runlin Lei, Jiarui Ji, Haipeng Ding, Lu Yi, Zhewei Wei, Yongchao Liu, Chuntao Hong

개요

본 논문은 대규모 언어 모델(LLM)을 이용한 동적 그래프 예측을 위한 새로운 프레임워크인 GraphAgent-Dynamic (GAD)을 제시합니다. 기존 연구들이 정적 그래프에 초점을 맞춘 것과 달리, GAD는 동적 그래프의 특성, 특히 대규모 과거 데이터 처리의 제약과 도메인 특성의 변동성이라는 두 가지 주요 과제를 해결하는 데 중점을 둡니다. 이를 위해 GAD는 협업적인 LLM을 활용하는 다중 에이전트 시스템으로, 전역 및 지역 요약 에이전트를 통해 도메인 특정 지식을 생성하고, 지식 반영 에이전트를 통해 지식을 적응적으로 업데이트하여 통합적이고 자기 일관적인 아키텍처를 유지합니다. 실험 결과, GAD는 데이터셋 특정 훈련 없이도 완전 지도 학습 그래프 신경망과 비슷하거나 더 나은 성능을 보여줍니다. 또한, LLM 기반 예측기의 작업 특정 성능 향상을 위해 데이터셋 특정 미세 조정과 같은 잠재적 개선 사항을 논의합니다.

시사점, 한계점

시사점:
동적 그래프 예측을 위한 LLM 기반 다중 에이전트 프레임워크인 GAD 제시.
대규모 과거 데이터 처리 및 도메인 특성 변동성 문제 해결.
데이터셋 특정 훈련 없이도 우수한 성능 달성.
LLM 기반 예측기의 향후 설계에 대한 새로운 통찰력 제공.
한계점:
GAD의 성능은 다양한 종류의 동적 그래프와 작업에 대해 더욱 포괄적으로 평가될 필요가 있음.
데이터셋 특정 미세 조정 등의 추가적인 개선이 필요할 수 있음.
다중 에이전트 시스템의 복잡성으로 인한 성능 저하 가능성.
👍