每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

MAPGD:用于协作提示优化的多智能体提示梯度下降

Created by
  • Haebom

作者

韩一尘、韩宇航、刘博君、周正鹏、刘冠宇、张增、杨阳、王文丽、史艾萨克、张云岩、何乐伟、施天宇

MAPGD:多智能体快速梯度下降

大纲

本文提出了多智能体提示梯度下降 (MAPGD),这是一种新颖的提示工程框架,对于利用大规模语言模型 (LLM) 至关重要。MAPGD 将提示优化重新定义为多个专用智能体之间的协作过程。每个智能体专注于特定的改进维度,例如指令清晰度、示例选择、形式结构或风格自适应,并通过语义梯度嵌入、冲突检测和融合来协调其贡献。为了增强鲁棒性和稳定性,MAPGD 引入了超球面约束梯度聚类 (HCGC),该聚类对紧凑、分离良好的聚类强制实施角度边界约束;以及通道自适应智能体加权 (CAAW),该加权基于验证性能动态地调整智能体贡献的权重。实验结果表明,MAPGD 在准确率和效率方面均优于单智能体和随机基线,证明了梯度融合、智能体专用化和冲突解决的有效性。MAPGD 为鲁棒的提示优化提供了一个统一的、基于梯度的、可解释的框架,并具有理论上的收敛保证。

Takeaways, Limitations

Takeaways:
提出了一种优化 LLM 提示的新框架。
通过多代理协作考虑各种改进维度。
通过 HCGC 和 CAAW 提高了稳健性和稳定性。
在准确性和效率方面均优于现有方法。
保证理论收敛。
Limitations:
需要有关特定代理专业化策略和实施的更多信息。
需要进一步验证不同法学硕士和工作类型的普遍性。
需要对计算复杂性和资源消耗进行详细分析。
👍