본 논문은 관계형 데이터를 이종 시간적 그래프로 표현하여 최첨단 예측 모델을 구축하는 유망한 접근 방식인 관계형 심층 학습(RDL)에 대해 다룹니다. 기존 그래프 신경망(GNN) 모델은 관계형 데이터의 복잡한 구조적 패턴과 장거리 의존성을 포착하는 데 근본적인 한계를 가지고 있습니다. 일반 그래프에서 GNN에 대한 강력한 대안으로 그래프 트랜스포머가 등장했지만, 관계형 엔티티 그래프에 적용하는 것은 고유한 과제를 제시합니다. 이 논문에서는 관계형 테이블을 위해 특별히 설계된 최초의 그래프 트랜스포머 아키텍처인 관계형 그래프 트랜스포머(RelGT)를 제시합니다. RelGT는 각 노드를 다섯 가지 구성 요소(특징, 유형, 홉 거리, 시간, 지역 구조)로 분해하는 새로운 다중 요소 토큰화 전략을 사용하여 비용이 많이 드는 사전 계산 없이 이질성, 시간성 및 토폴로지를 효율적으로 인코딩합니다. 본 아키텍처는 샘플링된 하위 그래프에 대한 지역적 어텐션과 학습 가능한 중심점에 대한 전역적 어텐션을 결합하여 지역적 표현과 데이터베이스 전체 표현을 모두 통합합니다. RelBench 벤치마크의 21개 작업에서 RelGT는 GNN 기준 모델과 비교하여 최대 18%까지 성능이 향상되었으며, 그래프 트랜스포머가 RDL을 위한 강력한 아키텍처임을 입증합니다.
