본 논문은 그래프 신경망(GNNs)의 노드 표현을 최적화하기 위해 대규모 언어 모델(LLMs)을 특징 향상기로 사용하는 방식에 대한 심층 분석을 제시합니다. 기존 연구에서 이 방식의 잠재력이 확인되었으나, 근본적인 특성은 충분히 탐구되지 않았습니다. 이를 해결하기 위해, 연구진은 통제 가능한 인과 관계를 가진 합성 그래프 데이터셋을 생성하고, 교환 개입 방법(interchange intervention method)을 사용하여 LLM 향상기와 GNNs의 내부 메커니즘 및 상호 작용을 분석합니다. 분석 결과를 바탕으로, LLM 향상기와 GNNs 간의 정보 전달을 개선하는 플러그 앤 플레이 최적화 모듈을 설계하고, 다양한 데이터셋과 모델에서 실험을 통해 모듈의 효과를 검증합니다.
