この論文では、従来の集中型大規模言語モデル（LLM）ベースのエージェントフレームワークの高い展開コスト、柔軟な通信トポロジ、および制限された適応性の問題を解決するための分散型マルチエージェントシステムであるSymphonyを提案します。 Symphonyは消費者級GPUで軽量LLMの調整を可能にし、機能を記録する分散型元帳、動的作業割り当てのための奉化選択プロトコル、CoTベースの重み付け結果投票という3つの主要なメカニズムを導入します。これらの設計は、プライバシー保護、スケーラビリティ、フォールトトレランスを備えたオーバーヘッドの低い調整を形成します。実験的に、Symphonyは推論ベンチマークで従来の基準より優れた性能を示し、かなりの精度向上とさまざまな容量のモデルで強力な性能を示しています。
