Beyond Completion: A Foundation Model for General Knowledge Graph Reasoning
Created by
Haebom
저자
Yin Hua, Zhiqiang Liu, Mingyang Chen, Zheng Fang, Chi Man Wong, Lingxiao Li, Chi Man Vong, Huajun Chen, Wen Zhang
개요
본 논문은 지식 그래프(KG)를 위한 기초 모델 MERRY를 제안합니다. 기존 연구가 주로 KG 내부 작업(예: 지식 그래프 완성)에 집중한 것과 달리, MERRY는 KG의 구조적 정보와 텍스트 정보를 모두 활용하여 KG 내부 및 외부 작업 모두에서 성능을 평가합니다. MERRY는 다중 관점 조건부 메시지 전달(CMP) 인코딩 아키텍처를 통해 텍스트 및 구조적 모달리티 간의 간극을 해소하고, 동적 잔차 융합 모듈을 통해 관련 텍스트 정보를 선택적으로 유지하며, 유연한 에지 점수 매커니즘을 통해 다양한 하류 작업에 적응합니다. 28개 데이터셋에 대한 종합적인 평가 결과, MERRY는 대부분의 시나리오에서 기존 기준 모델을 능가하는 성능을 보였습니다.
시사점, 한계점
•
시사점:
◦
KG의 구조적 및 텍스트 정보를 통합적으로 활용하여 KG 내부 및 외부 작업 모두에서 우수한 성능을 달성하는 기초 모델 MERRY를 제시.
◦
다중 관점 조건부 메시지 전달(CMP) 인코딩, 동적 잔차 융합 모듈, 유연한 에지 점수 매커니즘 등의 새로운 아키텍처 및 기법 제시.
◦
다양한 하류 작업에 대한 적응력이 뛰어난 모델임을 28개 데이터셋을 통해 실증.
•
한계점:
◦
논문에서 구체적으로 언급된 한계점은 없으나, 향후 연구 방향으로 다른 유형의 지식 그래프나 더욱 복잡한 추론 작업에 대한 확장성 검증이 필요할 것으로 예상됨.
