Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Collaborative Chain-of-Agents for Parametric-Retrieved Knowledge Synergy

Created by
  • Haebom

作者

Yi Jiang, Sendong Zhao, Jianbo Li, Haochun Wang, Lizhe Zhang, Yan Liu, Bing Qin

概要

本論文では、知識集約的課題における大規模言語モデル(LLM)のパフォーマンスを向上させる有望なフレームワークである検索拡張生成(RAG)のLimitationsを解決するために、コラボラティブチェーンオブエージェント(CoCoA)フレームワークを提案します。従来のRAGメソッドは、モデルの内部パラメータ知識と外部検索知識の間の相乗効果を十分に活用しませんが、CoCoAはマルチエージェントアプローチを介してこれを克服します。まず、条件付知識誘導後推論を行うCoCoA-zeroを提示し、これに基づいて拡張されたマルチエージェント推論経路を合成してLLMを微調整するCoCoAを開発します。実験の結果、CoCoA-zeroとCoCoAは、オープンドメインとマルチレベルのクエリ応答課題で優れた性能を達成しました。

Takeaways、Limitations

Takeaways:
LLMの内部知識と外部検索知識の間の相乗効果を明示的に向上させる新しいRAGフレームワーク(CoCoA)の提示。
マルチエージェントアプローチによるより正確で効率的な知識の利用可能性の提示
オープンドメインと多段階のクエリ応答課題における従来のRAG法より優れた性能を示した。
CoCoA-zeroとCoCoAの段階的開発による効果的なモデル学習戦略の提示
Limitations:
提案されたフレームワークの一般化性能とさまざまな課題への適用性に関するさらなる研究が必要です。
CoCoAの計算コストと学習時間の分析不足
特定のデータセットのパフォーマンス評価結果のみが提示され、他のデータセットの一般化可能性検証が必要です。
👍