ConvD: Attention Enhanced Dynamic Convolutional Embeddings for Knowledge Graph Completion
Created by
Haebom
저자
Wenbin Guo, Zhao Li, Xin Wang, Zirui Chen, Jun Zhao, Jianxin Li, Ye Yuan
개요
본 논문은 지식 그래프의 불완전성 문제를 해결하기 위해 기존의 깊은 지식 합성곱 임베딩 모델의 한계를 극복하는 새로운 동적 합성곱 임베딩 모델 ConvD를 제안합니다. ConvD는 관계 임베딩을 여러 내부 합성곱 커널로 직접 재구성하여 관계 임베딩과 개체 임베딩 간의 특징 상호 작용을 효과적으로 향상시킵니다. 또한, 사전 지식 최적화 어텐션 메커니즘을 통합하여 동적 합성곱에서 여러 관계 합성곱 커널에 다른 기여 가중치 계수를 할당함으로써 모델의 표현력을 더욱 향상시킵니다. 다양한 데이터셋에 대한 실험 결과, 제안된 모델은 최첨단 기준 모델보다 평균 3.28%~14.69% 향상된 성능을 보였으며, 매개변수 수는 최대 85.40%까지 감소했습니다.
시사점, 한계점
•
시사점:
◦
관계 임베딩을 내부 합성곱 커널로 직접 재구성하여 관계와 개체 임베딩 간의 특징 상호작용을 효과적으로 개선했습니다.
◦
사전 지식 최적화 어텐션 메커니즘을 도입하여 모델의 표현력을 향상시켰습니다.
◦
기존 최첨단 모델보다 성능이 향상되었고, 매개변수 수가 감소했습니다.
•
한계점:
◦
제안된 모델의 일반화 성능에 대한 추가적인 연구가 필요합니다.
◦
특정 데이터셋에 대한 성능 향상이 다른 데이터셋에도 일반화될 수 있는지 추가 검증이 필요합니다.
