NumCoKE: Ordinal-Aware Numerical Reasoning over Knowledge Graphs with Mixture-of-Experts and Contrastive Learning

Created by

Haebom

저자

Ming Yin, Zongsheng Cao, Qiqing Xia, Chenyang Tu, Neng Gao

💡 개요

본 논문은 지식 그래프(Knowledge Graph, KG) 내 수치 정보를 효과적으로 활용하는 수치 추론 방법론인 NumCoKE를 제안합니다. 기존 연구의 수치 정보와 기호 정보의 불완전한 통합 및 수치 간 미묘한 순서 관계 파악의 어려움을 극복하기 위해, NumCoKE는 Mixture-of-Experts 구조를 활용한 MoEKA 인코더로 기호 및 수치 정보를 통합하고, 순서 정보에 기반한 샘플링을 강화하는 OKCL 기법을 도입했습니다. 이를 통해 NumCoKE는 다양한 KG 벤치마크에서 기존 방법론 대비 우수한 성능을 보여주었습니다.

🔑 시사점 및 한계

•

지식 그래프 내 수치 정보를 기호 정보와 통합적으로 인코딩하여 더 풍부한 의미론적 정보를 추출할 수 있습니다.

•

미세한 수치 값의 차이와 순서 관계를 효과적으로 학습하여, "더 긴", "더 무거운"과 같은 순서 추론 능력을 향상시킬 수 있습니다.

•

제안된 방법론은 특정 유형의 수치 속성이나 복잡한 상호 관계가 많은 지식 그래프에서는 성능 향상이 제한적일 수 있으며, 이에 대한 추가적인 연구가 필요합니다.

PDF 보기

Made with Slashpage