Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Personalized Subgraph Federated Learning with Differentiable Auxiliary Projections

Created by
  • Haebom

作者

Wei Zhuo, Zhaohuan Zhan, Han Yu

概要

グラフ構造データを使用した連合学習(Federated Learning、FL)は、通常、各クライアントがグローバルグラフからサンプリングされた異なるサブグラフを持つ非IID(non-IID)問題を経験します。本論文では、FedAux (Federated learning with Auxiliary projections) を紹介します。これは、生データやノード埋め込みを共有することなく、不均一に分散したローカルモデルをソート、比較、および集約するパーソナライズされたサブグラフFLフレームワークです。 FedAuxでは、各クライアントは(i)ローカルGNNと(ii)ノード埋め込みを1D空間に差別的に投影する学習可能な補助投影ベクトル(APV)を一緒に学習します。ソフトソート操作と軽い1D畳み込みにより、ソートされたスペースでこれらの埋め込みが改善され、APVがクライアント固有の情報を効果的にキャプチャできます。ローカル学習の後、これらのAPVは、サーバーがクライアント間の類似性を計算し、類似性重み付けパラメータの混合を実行するために使用するコンパクトなシグネチャとして機能し、クライアント間の知識伝達を維持しながらパーソナライズされたモデルを生成します。さらに、設計の収束性と合理性を確立するための厳密な理論的分析を提供します。さまざまなグラフベンチマークの実験的評価は、FedAuxが精度とパーソナライゼーションパフォーマンスの両方で既存のベースラインを大幅に上回っていることを示しています。

Takeaways、Limitations

Takeaways:
FedAuxは、非IIDグラフデータを処理するフェデレーテッド学習で改善された精度とパーソナライゼーションパフォーマンスを提供します。
生データやノード埋め込みを共有せず、プライバシーを強化します。
クライアント間の類似性を計算し、知識伝達を可能にするAPVを利用して、パーソナライズされたモデルを作成します。
収束性の理論的分析を提供する。
さまざまなグラフベンチマークで従来の方法より優れた性能を示しました。
コード公開( https://github.com/JhuoW/FedAux
Limitations:
具体的なLimitationsは論文に明示的に言及されていない。 (この回答は論文の要約だけに基づいて書かれているので、論文全体を見直すことでより詳細なLimitationsを理解することができます。)
👍