Sign In

RELATE: A Schema-Agnostic Perceiver Encoder for Multimodal Relational Graphs

Created by
  • Haebom
Category
Empty

저자

Joe Meyer, Divyansha Lachi, Mahmoud Mohammadi, Roshan Reddy Upendra, Eva L. Dyer, Mark Li, Tom Palczewski

RELATE: Relational Encoder for Latent Aggregation of Typed Entities

개요

본 논문은 다양한 노드 속성을 가진 이종 시간 그래프에서 관계형 멀티 테이블 데이터를 처리하기 위한 스키마 독립적이고 플러그 앤 플레이 방식의 특징 인코더인 RELATE를 소개합니다. RELATE는 범주형, 숫자형, 텍스트형, 시간형 속성에 대한 공유 modality-specific 인코더를 사용하고, Perceiver 스타일의 cross-attention 모듈을 사용하여 고정 크기의 노드 표현으로 특징을 집계합니다. RELATE는 ReLGNN과 HGT에서 RelBench 벤치마크를 사용하여 평가되었으며, 스키마 특정 인코더의 성능에 근접하면서 매개변수 수를 최대 5배까지 줄였습니다.

시사점, 한계점

•
시사점:
◦
스키마에 독립적인 특징 인코더를 제공하여 다양한 데이터 스키마를 지원합니다.
◦
매개변수 공유를 통해 GNN의 확장성을 향상시킵니다.
◦
RelBench 벤치마크에서 기존 인코더에 근접하는 성능을 보입니다.
◦
멀티 데이터셋 사전 훈련을 가능하게 하여 관계형 그래프 데이터에 대한 기반 모델 개발을 위한 길을 엽니다.
•
한계점:
◦
논문에서 구체적인 한계점은 명시되지 않았습니다.
👍
Made with Slashpage