Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

KG-TRACES: Enhancing Large Language Models with Knowledge Graph-constrained Trajectory Reasoning and Attribution Supervision

Created by
  • Haebom

作者

Rong Wu, Pinlong Cai, Jianbiao Mei, Licheng Wen, Tao Hu, Xuemeng Yang, Daocheng Fu, Botian Shi

概要

大規模言語モデル(LLM)は、複雑な推論問題で説明の可能性と信頼性が不足しているため、パフォーマンスが制限されます。これを解決するために、推論経路とプロセスの明示的な監督を通じてLLMの推論能力を向上させる新しいフレームワークであるKG-TRACESを提案する。 KG-TRACESは、(1)嗜好関係経路予測、(2)全三重レベル推論経路予測、(3)推論経路に基づく属性認識推論プロセス生成を共同で監督する。推論段階では、モデルはKGの使用可能および不可能なシナリオの両方に適応し、可能であればKGから推論経路を検索するか、そうでない場合は固有の知識だけでそのような推論経路を予測します。 KG-TRACESは複雑な推論作業で従来のSOTAより性能が優れており、WebQSPでHits@1 1.6%およびF1 4.7%向上、CWQでHits@1 4.8%およびF1 2.1%向上を達成した。また、医学分野などの専門分野への転移性も示す。

Takeaways、Limitations

Takeaways:
LLMの推論能力を向上させるための新しいフレームワーク提案(KG-TRACES)。
説明可能でソースがわかる推論パターンを可能にする。
WebQSPやCWQなどの複雑な推論作業でSOTAパフォーマンスを実現
医学分野などの専門分野への転移性の実証
推論プロセスの中間段階を可視化することで安定的で目標指向の推論プロセスを確認する
Limitations:
具体的なLimitationsは論文の要約で明示的に言及されていません。 (例:特定のデータセットへの依存性、複雑なモデル構造、計算コストなど)
👍