Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

SEMMA: A Semantic Aware Knowledge Graph Foundation Model

Created by
  • Haebom

作者

Arvindh Arun, Sumit Kumar, Mojtaba Nayyeri, Bo Xiong, Ponnurangam Kumaraguru, Antonio Vergari, Steffen Staab

概要

本論文は、知識グラフベースの基礎モデル(KGFM)のゼロショット推論性能を向上させるための新しいモデルであるSEMMAを提示します。既存のKGFMはグラフ構造にのみ依存する限界を克服するために、SEMMAは大規模言語モデル(LLM)を活用して関係識別子を豊富にし、それによって生成された意味的な埋め込みで構造要素と統合されるテキスト関係グラフを生成するデュアルモジュール方式を採用しています。 54のさまざまな知識グラフ(KG)の実験の結果、SEMMAはULTRAなどの純粋な構造ベースのモデルよりも完全に誘導されたリンク予測で優れた性能を示しました。特に、テスト時点の関係語彙がまったく新しい設定などのより困難な一般化環境では、構造的方法は失敗し、SEMMAは2倍以上効果的であることを示しています。これにより、テキストセマンティクスが構造だけでは失敗する一般化環境で重要な役割を果たすことを実証し、知識推論で構造的および言語的信号を統合する基礎モデルの必要性を強調します。

Takeaways、Limitations

Takeaways:
LLMを活用してテキストセマンティクスを統合することで、既存の構造ベースのKGFMの限界を克服し、ゼロショット推論性能を向上させることができます。
特に関係語彙が全く新しい難しい一般化環境でも効果的な性能を見せる。
知識推論モデルの開発において、構造的情報と言語的情報の統合が重要であることを示唆。
Limitations:
LLMの活用による計算コストの増加の可能性
様々な種類の知識グラフに対する一般化性能評価がさらに必要である。
SEMMAモデルの構造的複雑性による解釈の難しさ
👍